Interdiction des chatbots simulant des mineurs

Résumé#

Ce projet de loi rendrait illégal pour les entreprises ou les personnes qui offrent des chatbots de fournir des chatbots qui simulent des mineurs dans des comportements ou des conversations sexuellement explicites. Il ajoute une nouvelle infraction fédérale, définit des termes clés pour les chatbots et les mineurs, établit des pénalités civiles et criminelles, et donne au Procureur général des pouvoirs pour faire respecter la règle et rédiger des règlements. L'objectif déclaré est d'arrêter les interactions sexuelles simulées impliquant des personnages présentés comme des enfants.

• Changement principal : Interdit aux entités concernées de rendre disponibles des chatbots qui simulent un mineur engagé dans un comportement ou une conversation sexuellement explicite qui est obscène et violerait la loi criminelle dans le lieu pertinent.
• Qui est concerné : Toute personne qui possède ou exploite un chatbot mis à disposition des personnes aux États-Unis.
• Pénalités : Les violations intentionnelles peuvent entraîner une amende criminelle allant jusqu'à 100 000 $ et des pénalités civiles allant jusqu'à 100 000 $ par violation, en plus des injonctions et d'autres recours.
• Exemptions : Les agences fédérales, étatiques, locales et certaines agences d'application de la loi étrangères peuvent obtenir des exemptions limitées de l'interdiction pour des enquêtes sur l'exploitation sexuelle des enfants. La recherche et les tests pour déterminer si un chatbot enfreint la règle sont protégés.
• Application et supervision : Le Procureur général peut enquêter, délivrer des assignations, établir des règles, et doit envoyer un rapport annuel au Congrès avec des comptes des poursuites, des pénalités, des enquêtes et d'autres informations pertinentes.
• Calendrier : La règle entrerait en vigueur 180 jours après l'adoption de la loi.

Ce que cela signifie pour vous#

• Opérateurs et développeurs de chatbots

  • Si vous offrez un chatbot aux personnes aux États-Unis, vous ne devez pas fournir un chatbot conçu pour simuler un mineur dans un comportement ou une conversation sexuellement explicite qui est obscène et illégal.
  • Vous pourriez faire face à des pénalités civiles allant jusqu'à 100 000 $ par violation et à une amende criminelle allant jusqu'à 100 000 $ pour des violations intentionnelles.
  • Vous devrez peut-être modifier les données d'entraînement, les modèles, les invites, les contrôles utilisateurs et les filtres de contenu pour vous conformer.

• Entreprises technologiques et plateformes

  • Les plateformes qui hébergent ou distribuent des chatbots pourraient avoir besoin de vérifier si des chatbots qu'elles répertorient pourraient tomber sous l'interdiction.
  • Les plateformes pourraient faire face à des actions d'application et doivent répondre aux assignations ou aux enquêtes du Département de la Justice.

• Chercheurs et testeurs de sécurité

  • Le projet de loi indique qu'il ne bloque pas la recherche interne ou externe, le red-teaming, ou la publication de résultats qui évaluent si un chatbot enfreint la règle. Les détails pratiques sur la manière dont les chercheurs doivent documenter ou limiter ce travail ne sont pas précisés.

• Application de la loi

  • Les agences fédérales, étatiques, locales et certaines agences étrangères peuvent demander des exemptions pour l'utilisation d'un chatbot à des fins d'enquête qui serait autrement interdit.

• Utilisateurs

  • Les utilisateurs perdraient l'accès à tout chatbot qui simule délibérément un mineur dans un contenu sexuellement explicite qui répond à la définition d'obscénité et d'illégalité du projet de loi.

Dépenses#

Aucune information disponible publiquement.

• Le projet de loi lui-même fixe des pénalités monétaires : amendes criminelles allant jusqu'à 100 000 $ pour des violations intentionnelles et des pénalités civiles allant jusqu'à 100 000 $ par violation.
• Le Procureur général peut utiliser des outils d'enquête, délivrer des assignations et rédiger des règlements. Ces actions pourraient nécessiter du temps de personnel et des ressources juridiques au sein du Département de la Justice, mais le projet de loi ne donne aucune estimation de coût.
• Les entités concernées pourraient faire face à des coûts de conformité pour modifier ou bloquer du contenu, mettre à jour des systèmes et répondre à des enquêtes ou des poursuites.
• Il n'y a pas de note fiscale ou d'estimation budgétaire incluse dans le matériel fourni.

Point de vue des partisans#

• Le projet de loi semble destiné à combler une lacune pour le contenu généré ou simulé par l'IA en rendant illégal de fournir des chatbots qui présentent des mineurs dans des situations sexuellement explicites.
• Les partisans pourraient soutenir que cela protégerait les enfants en supprimant les outils conçus pour simuler des interactions sexuelles avec des mineurs.
• Le projet de loi donne aux forces de l'ordre un moyen d'utiliser des outils similaires dans les enquêtes grâce à une exemption formelle.
• L'exigence de rapport annuel vise à fournir une supervision et des données sur l'application et l'utilisation des chatbots dans les enquêtes.

Point de vue des opposants#

• Une préoccupation est que les définitions du projet de loi pourraient être floues dans la pratique. Par exemple, ce qui compte comme un chatbot "conçu pour simuler" un mineur ou comme "conversation sexuellement explicite" pourrait être sujet à interprétation.
• Le projet de loi lie la conduite illégale à la fois à l'obscénité et à ce qui serait criminel dans la juridiction pertinente. Ce double test pourrait créer de l'incertitude pour les entreprises opérant à travers des lignes étatiques ou internationales.
• Il n'est pas clair comment l'exemption de recherche fonctionnera dans la pratique ou quelle documentation les chercheurs doivent conserver pour éviter l'application.
• Le pouvoir du Procureur général de rédiger des règlements et de délivrer des assignations pourrait conduire à des choix d'application larges ; le projet de loi ne fixe pas de limites détaillées sur ce processus.
• Il n'y a pas d'estimation publique des coûts pour l'application ou pour le fardeau de conformité des entreprises, donc l'ampleur des coûts administratifs ou juridiques est inconnue.