Les chatbots font face à de nouvelles règles de sécurité

Résumé#

Le projet de loi HB 635 créerait la Loi sur les chatbots d'intelligence artificielle et modifierait la Loi sur la protection des consommateurs de Virginie (VCPA). Son objectif déclaré, comme le reflète le titre du projet de loi, est d'établir des règles pour les chatbots d'IA et d'interdire certaines pratiques. Ce n'est pas une loi; le projet de loi indique qu'il entrerait en vigueur le 1er janvier 2027.

  • Les règles couvriraient les « chatbots compagnons » mis à disposition en Virginie : des systèmes d'IA générative qui simulent une relation humaine continue. Le projet de loi exclut plusieurs bots de service à la clientèle, de travail, d'affaires et de jeux vidéo, ainsi que les systèmes d'IA utilisés uniquement à des fins de recherche avant d'être mis à disposition.
  • Les opérateurs ne pourraient pas rendre un chatbot compagnon disponible à un mineur s'il est capable de comportements nuisibles spécifiés, y compris encourager l'automutilation, offrir une thérapie mentale non supervisée ou engager des interactions sexuelles avec des mineurs.
  • Les opérateurs devraient utiliser des méthodes commercialement raisonnables pour déterminer l'âge des utilisateurs, donner des avis persistants et chronométrés que le chatbot n'est pas humain, et éviter d'impliquer que sa sortie provient d'un professionnel agréé.
  • Les opérateurs devraient utiliser un protocole pour détecter les expressions de pensées suicidaires ou d'automutilation et orienter les utilisateurs vers des services de crise; obtenir le consentement écrit d'un parent ou d'un tuteur avant d'utiliser les informations personnelles d'un mineur pour former le modèle sous-jacent du chatbot; et publier des informations et des rapports de sécurité spécifiés.
  • Les violations deviendraient des pratiques interdites en vertu de la VCPA et seraient soumises à ses dispositions d'application. Le projet de loi crée un nouveau chapitre de loi, pas une nouvelle agence.

Ce que cela signifie pour vous#

  • Opérateurs de chatbots : Si vous mettez un chatbot compagnon couvert à disposition en Virginie, vous devrez respecter les exigences d'âge, de sécurité, d'avis, de réponse aux crises, de confidentialité et de rapports publics. Le projet de loi ne prévoit pas de processus de demande ou d'approbation.
  • Mineurs et parents ou tuteurs : Un chatbot couvert ne pourrait pas être mis à disposition d'un mineur s'il est capable des comportements nuisibles énumérés. Le consentement écrit affirmatif d'un parent ou d'un tuteur serait nécessaire pour utiliser les informations personnelles d'un mineur pour former le modèle sous-jacent.
  • Autres utilisateurs : Les opérateurs devraient montrer que le chatbot n'est pas humain et fournir des références de services de crise lorsque le protocole détecte des expressions de pensées suicidaires ou d'automutilation. Le projet de loi ne nécessite pas qu'un chatbot fournisse une thérapie.
  • Utilisateurs et public : Les opérateurs devraient fournir un moyen de signaler des incidents indésirables, publier un catalogue d'incidents anonymisé et agrégé, publier les résultats des tests de sécurité et émettre des rapports publics tous les six mois.
  • Personnes utilisant d'autres outils d'IA : Le projet de loi ne couvre pas tous les systèmes d'IA. Ses règles s'appliquent à la catégorie définie des chatbots compagnons, sous réserve des exclusions énumérées.

Argent#

Aucune information publique disponible sur les coûts estimés publics ou privés.

  • Le projet de loi exige que les opérateurs prennent des mesures telles que le dépistage de l'âge, les tests de sécurité, les rapports et les références de crise, mais ne donne aucune estimation de coût.
  • Il ne précise pas de montant d'appropriation, de frais ou de pénalité. Il rend les violations soumises aux dispositions d'application de la VCPA; le matériel fourni n'inclut pas le texte actuel de la VCPA ni ses recours.

Ce qui n'est pas clair#

  • Le projet de loi ne définit pas « commercialement raisonnable », « efforts raisonnables », ou quand un chatbot est « capable » de comportements interdits.
  • Il ne fixe pas de règles détaillées pour le dépistage de l'âge, les tests de sécurité, les rapports d'incidents ou la surveillance de la conformité.
  • La règle d'âge fait référence à ce qui se passe avant le 1er janvier 2027, mais le projet de loi lui-même entrerait en vigueur à cette date. Le rôle pratique de la date antérieure n'est pas clair.
  • Le matériel fourni n'inclut pas le texte actuel de la VCPA, donc je n'ai pas pu vérifier quelles dispositions d'application s'appliquent déjà ou comment la nouvelle pratique interdite les changerait exactement.

Argument en faveur#

  • Un argument possible en faveur du projet de loi est qu'il établit des protections spécifiques pour les mineurs interagissant avec des chatbots conçus pour simuler des relations personnelles continues.
  • Exiger des références de crise lorsqu'un chatbot détecte des expressions de pensées suicidaires ou d'automutilation pourrait donner aux utilisateurs un accès aux services de crise humains.
  • Des avis persistants et des limites sur les affirmations concernant les professionnels agréés pourraient aider les utilisateurs à comprendre qu'ils interagissent avec un chatbot, pas une personne ou un professionnel agréé.
  • Les informations publiques sur les incidents et la sécurité pourraient rendre certains risques plus faciles à identifier.

Argument contre#

  • Les normes clés du projet de loi ne sont pas entièrement définies. Les opérateurs peuvent faire face à une incertitude quant à ce qui compte comme des protections raisonnables ou une capacité interdite.
  • Il exige plusieurs systèmes et rapports publics mais ne fixe pas de procédures détaillées ou de règles de surveillance dans le texte fourni.
  • La capacité d'un chatbot à produire du contenu nuisible pourrait être difficile à évaluer; le projet de loi n'explique pas comment cette capacité serait testée ou jugée.
  • Le projet de loi ne précise pas les coûts ou les montants des pénalités, et le matériel fourni ne montre pas comment les nouvelles règles interagiraient avec l'application existante de la VCPA.