Les chatbots font face à des alertes de crise et des règles de divulgation

Résumé#

Le projet de loi SB-796 ajouterait un nouveau chapitre au Code de la Virginie, appelé la Loi sur les chatbots d'intelligence artificielle et les mineurs. Son titre de projet de loi fait référence à « Chatbots compagnons d'intelligence artificielle et mineurs », mais le nom du chapitre et le texte utilisent « Chatbots ». L'objectif apparent du projet de loi est de réduire les risques pour les utilisateurs, y compris les mineurs, lors des interactions avec les chatbots ; c'est un objectif, pas un résultat garanti.

  • Les entités couvertes—opérateurs ayant au moins 500 000 utilisateurs actifs mensuels dans le monde, comptés à travers leurs chatbots et affiliés—doivent utiliser des systèmes raisonnables pour identifier la dépendance émotionnelle et les signes de crise, réduire les risques associés et fournir des informations de crise aux utilisateurs montrant des signes d'une crise de santé mentale aiguë.
  • Ces entités couvertes ne doivent pas laisser un chatbot prétendre faussement et de manière matérielle être humain. Les opérateurs de chatbots offerts en Virginie, y compris les opérateurs en dessous du seuil d'utilisateurs, doivent garder une divulgation « pas humain » visible et donner des avis contextuels lors de la connexion, toutes les 30 minutes d'engagement soutenu, lorsqu'on le demande, et lorsque le chatbot est sollicité pour des conseils réglementés tels que des conseils médicaux, financiers ou juridiques.
  • Si une entité couverte apprend qu'un utilisateur fait face à un risque imminent de mort ou de blessure physique grave, elle doit faire des efforts raisonnables pour notifier les services d'urgence ou les forces de l'ordre dans les 24 heures, lorsque cela est praticable. Les entités couvertes doivent signaler les incidents couverts au Procureur général dans les 15 jours.
  • Le Procureur général peut enquêter, demander des injonctions et demander des pénalités civiles allant jusqu'à 50 000 $ par violation ; chaque jour de non-conformité constitue une violation distincte. Une personne lésée par une violation, ou un parent ou tuteur d'un mineur, peut également poursuivre pour des recours spécifiés.
  • Le projet de loi ne interdit pas aux mineurs d'utiliser des chatbots, ne nécessite pas de vérifications d'âge, ni ne prohibe le contenu explicite en tant que tel.

Ce que cela signifie pour vous#

  • Utilisateurs de chatbots, adultes et mineurs : Vous recevrez des avis persistants et chronométrés que vous interagissez avec un chatbot. Le projet de loi ne nécessite pas que les utilisateurs divulguent leur âge ou obtiennent la permission d'un parent.
  • Parents et tuteurs : Un parent ou tuteur légal pourrait engager une action civile si un mineur est lésé par une violation. Le projet de loi ne prévoit pas de processus distinct pour l'implication des parents dans l'utilisation des chatbots.
  • Opérateurs de chatbots : Les règles de divulgation s'appliquent aux opérateurs de chatbots offerts en Virginie. Les devoirs plus étendus en matière de dépendance, de réponse aux crises et de signalement des incidents s'appliquent aux entités couvertes, avec des exclusions pour certains outils non publics et des chatbots de service à la clientèle décrits de manière étroite.
  • Entités couvertes : Si elles manquent d'informations suffisantes pour notifier les intervenants d'urgence, elles doivent fournir à l'utilisateur des informations de crise, encourager une aide immédiate et documenter pourquoi la notification n'était pas praticable. Une notification d'urgence de bonne foi bénéficie d'une protection limitée contre les dommages.
  • Quiconque lésé par une violation : Le projet de loi permet une action civile pour dommages réels, frais d'avocat et coûts, et ordonnances judiciaires ; des dommages-intérêts punitifs ne sont disponibles que si la violation était intentionnelle et téméraire, imprudente ou gravement négligente. Les termes contractuels ne pourraient pas renoncer à ces droits ou exiger l'arbitrage d'une telle réclamation.

Argent#

Aucune information publique disponible sur le coût public estimé.

  • Les entités couvertes doivent construire ou utiliser des systèmes pour identifier la dépendance et les signes de crise, répondre aux urgences et signaler les incidents. Le projet de loi ne fournit aucune estimation des coûts de personnel ou de mise en œuvre.
  • Le Procureur général pourrait encourir des coûts d'enquête et d'application ; le projet de loi permet le recouvrement des dépenses raisonnables de préparation de cas et d'enquête ainsi que des frais d'avocat dans une action d'application.
  • Le projet de loi fixe des pénalités civiles allant jusqu'à 50 000 $ par violation, chaque jour de non-conformité étant compté séparément. Il n'est pas estimé de revenus de pénalité.

Ce qui est flou#

  • Le projet de loi ne définit pas comment les opérateurs devraient décider qu'un utilisateur est émotionnellement dépendant, ce qui compte comme des étapes « raisonnables », ou ce qui qualifie une crise de santé mentale aiguë.
  • Il ne fixe pas de normes détaillées pour identifier les utilisateurs à risque, vérifier la localisation d'un utilisateur, ou décider quand la notification d'urgence est praticable.
  • Il n'est pas clair comment les devoirs s'appliquent lorsque plus d'une entreprise opère ou contrôle un chatbot, ou comment les exclusions pour certains outils et bots de service à la clientèle seraient appliquées.
  • Le projet de loi ne précise pas de date de début. Le statut fourni indique qu'il a été adopté par le Sénat, tandis que le texte fourni se désigne comme un substitut proposé du comité de la Chambre ; la formulation finale et l'entrée en vigueur ne sont pas montrées.
  • Les lois actuelles de la Virginie qui pourraient chevaucher ou interagir avec ces nouveaux devoirs n'ont pas été fournies, de sorte que cette relation n'a pas pu être vérifiée.

Argument en faveur#

  • Un argument possible en faveur du projet de loi est qu'il fixe des devoirs concrets pour les grands opérateurs de chatbots lorsque les utilisateurs montrent des signes de crise ou de dépendance à un chatbot pour un soutien émotionnel.
  • Exiger des avis visibles et répétés peut aider les utilisateurs à comprendre qu'ils interagissent avec un logiciel, y compris lorsqu'ils recherchent des conseils réglementés.
  • Signaler des incidents graves au Procureur général pourrait fournir des informations sur les préjudices tout en gardant les rapports confidentiels et en permettant uniquement une publication agrégée non identifiante.
  • Le projet de loi offre à la fois une application gouvernementale et un moyen pour les personnes lésées de rechercher des recours en justice.

Argument contre#

  • Une préoccupation est que des devoirs clés reposent sur des termes tels que « raisonnable » et « dépendance émotionnelle » sans normes détaillées, ce qui pourrait laisser les opérateurs incertains quant à ce que la conformité exige.
  • Le projet de loi crée une responsabilité potentielle substantielle, y compris des pénalités quotidiennes et des poursuites privées, mais ne précise pas de procédures ou de limites détaillées pour ces réclamations.
  • Le devoir de notification d'urgence pourrait être difficile à exécuter lorsque l'opérateur manque d'informations fiables sur l'identité ou la localisation d'un utilisateur ; le projet de loi ne résout pas complètement ce problème.
  • Les coûts de construction de systèmes, de gestion des rapports et de défense des réclamations sont inconnus, et les documents fournis n'expliquent pas comment le Procureur général superviserait la conformité.