Vérification de l'âge pour les chatbots IA

Résumé#

Cette loi, appelée la Loi GUARD, obligerait les entreprises qui gèrent des chatbots IA à vérifier l'âge des utilisateurs, à empêcher les mineurs d'utiliser des « compagnons IA » et à exiger que les chatbots informent les utilisateurs qu'ils ne sont pas humains et ne sont pas des professionnels agréés. Elle crée de nouvelles amendes de style criminel pour les chatbots qui sollicitent des mineurs pour du contenu sexuel ou qui encouragent l'automutilation ou la violence imminente. L'objectif est de protéger les enfants des chatbots IA nuisibles ou manipulateurs.

• Les entités couvertes (quiconque met un chatbot IA à disposition aux États-Unis) doivent exiger des comptes utilisateurs et utiliser un « processus de vérification d'âge raisonnable » pour distinguer les adultes des mineurs.
• Si un utilisateur est identifié comme mineur, l'entreprise doit bloquer cet utilisateur de l'accès aux « compagnons IA » (chatbots conçus pour simuler l'amitié ou l'interaction émotionnelle).
• Les chatbots doivent divulguer au début de chaque conversation et toutes les 30 minutes qu'ils sont des IA et non des humains, et doivent préciser qu'ils ne remplacent pas des conseils médicaux, juridiques, financiers ou psychologiques agréés.
• La loi ajoute des infractions avec des amendes (jusqu'à 100 000 $ par infraction) pour la conception ou l'offre de chatbots qui sollicitent des mineurs pour des activités sexuelles ou qui promeuvent le suicide, l'automutilation ou la violence physique/sexuelle imminente.
• Le Procureur général des États-Unis peut faire appliquer la règle, délivrer des assignations, établir des règles et demander des pénalités civiles ; les États peuvent également poursuivre au nom des résidents.

Ce que cela signifie pour vous#

• Mineurs et Parents

  • Les mineurs pourraient être bloqués de l'utilisation des chatbots IA que la loi définit comme des « compagnons IA ».
  • Les parents pourraient voir des contrôles d'âge plus stricts lorsque leur enfant essaie d'utiliser un chatbot (par exemple, être demandé de fournir une pièce d'identité ou un autre moyen de vérification).

• Utilisateurs (adultes)

  • Les adultes devront probablement créer des comptes vérifiés pour utiliser de nombreux chatbots.
  • Les chatbots doivent clairement indiquer qu'ils ne sont pas humains et ne remplacent pas des conseils professionnels agréés.

• Entreprises qui gèrent des chatbots (entités couvertes)

  • Doivent créer des systèmes de comptes et effectuer des vérifications d'âge vérifiées pour les utilisateurs existants et nouveaux.
  • Doivent geler les comptes existants jusqu'à ce que l'âge de l'utilisateur soit vérifié.
  • Doivent protéger les données de vérification d'âge, limiter leur collecte, les crypter et ne pas les partager ou les vendre.
  • Doivent empêcher les mineurs d'accéder aux compagnons IA.
  • Risquent des pénalités civiles allant jusqu'à 100 000 $ par violation et des amendes possibles en vertu des nouvelles dispositions criminelles pour certains manquements de conception ou de contenu.

• Gouvernement

  • Le Procureur général obtient le pouvoir d'enquêter, de délivrer des assignations, d'établir des règles et d'intenter des actions d'application. Les États peuvent également poursuivre pour violations.

Dépenses#

Aucune information disponible publiquement.

• La loi fixe des amendes allant jusqu'à 100 000 $ par infraction pour certaines violations de style criminel et jusqu'à 100 000 $ par violation pour les manquements aux règles de vérification d'âge et d'accès.
• Les entités couvertes peuvent faire face à des coûts pour construire ou acheter des systèmes de vérification d'âge, embaucher ou contracter des tiers, et améliorer la sécurité des données et la tenue de dossiers.
• Les entreprises encourront des coûts pour geler et re-vérifier les comptes existants et pour effectuer des vérifications périodiques.
• Il peut y avoir des coûts gouvernementaux pour l'application, les enquêtes et l'élaboration de règles, mais aucune estimation n'est fournie.

Point de vue des partisans#

• La loi semble destinée à protéger les enfants du contenu sexuel, du grooming, de l'encouragement à l'automutilation et d'autres dangers posés par des chatbots IA ressemblant à des humains.
• Exiger des comptes vérifiés et bloquer les mineurs des compagnons IA pourrait réduire l'exposition des mineurs à des interactions de chatbots manipulatrices ou nuisibles.
• Les divulgations obligatoires (que le système est une IA et non un professionnel agréé) visent à réduire le risque que les utilisateurs soient induits en erreur sur la nature et le rôle du chatbot.
• Les amendes et l'application civile donnent au gouvernement des outils pour obliger les entreprises à se conformer.

Point de vue des opposants#

• Une préoccupation est la vie privée et le risque de données : la loi exige la collecte de données de vérification d'âge (y compris des pièces d'identité gouvernementales comme exemple), ce qui soulève des questions sur la manière dont ces données sensibles seront protégées en pratique.
• Il n'est pas clair quelles méthodes comptent comme un « processus de vérification d'âge raisonnable » et comment les petites entreprises peuvent se permettre des solutions fiables sans externaliser à des tiers.
• Geler les comptes existants jusqu'à la re-vérification pourrait bloquer des utilisateurs adultes légitimes et créer des interruptions de service.
• Les termes « compagnon IA », « pose un risque » et les normes « sachant ou avec un mépris imprudent » peuvent être vagues, ce qui pourrait créer une incertitude juridique sur les conceptions ou comportements interdits.
• Les coûts d'application et de conformité pourraient être lourds pour les startups et les petites entreprises, affectant potentiellement l'innovation ou la concurrence sur le marché.
• La loi n'inclut pas d'estimation des coûts publics ni de détails sur la manière dont les ressources d'application seront fournies.