sécurité et transparence de l'IA

Résumé#

Ce projet de loi établit des règles pour les services d'IA conversationnelle, en mettant fortement l'accent sur la protection des mineurs et la prévention des utilisateurs d'être induits en erreur en pensant qu'ils parlent à un humain. Il exige des divulgations claires, des limites de sécurité pour les mineurs, des contrôles parentaux, des protocoles de référence pour le suicide/l'automutilation, et interdit certaines tactiques d'engagement. La Commission fédérale du commerce (CFC) appliquerait les règles et pourrait utiliser ses pouvoirs et pénalités existants.

• Qui doit suivre les règles : un "opérateur" qui développe et rend un service d'IA conversationnelle disponible au public.
• Divulgations : L'IA doit être clairement étiquetée pour les mineurs et doit être étiquetée chaque fois qu'un utilisateur raisonnable pourrait penser qu'il interagit avec un humain (étiquette persistante ou toutes les 3 heures d'utilisation continue).
• Protections des mineurs : pas de points/récompenses imprévisibles destinés à augmenter l'engagement ; doit bloquer le contenu sexuel ou le langage sexualisé envers les mineurs ; ne doit pas simuler d'être sentient, émotionnellement dépendant, romantique avec un mineur, ou jouer un rôle dans une relation romantique adulte-mineur.
• Outils parentaux et de sécurité : les opérateurs doivent offrir des contrôles parentaux et des outils de gestion du temps d'écran/du compte ; doivent adopter des protocoles de réponse au suicide/l'automutilation qui orientent les utilisateurs vers des services de crise.
• Interdiction des revendications de thérapie sans licence : L'IA ne peut pas être présentée comme fournissant un traitement de santé mentale sous licence.

Ce que cela signifie pour vous#

• Mineurs (moins de 18 ans) :

  • Vous devez recevoir un avis clair que vous interagissez avec une IA (avertissement persistant ou fréquent).
  • L'IA ne doit pas produire d'images sexualisées ou vous inciter à vous engager dans des actes sexuels.
  • L'IA ne doit pas prétendre être un humain sentient, promettre une dépendance émotionnelle, ou jouer des scénarios romantiques/sexuels adulte-mineur.
  • Vous pourriez avoir accès à des outils que votre parent/tuteur peut utiliser pour gérer le temps d'écran et les paramètres.

• Parents et tuteurs :

  • Les opérateurs doivent offrir des outils pour gérer le temps d'écran et les paramètres de compte d'un mineur.
  • Vous devriez voir des divulgations visibles afin de pouvoir dire si votre enfant parle à une IA.

• Opérateurs (entreprises qui offrent une IA conversationnelle publique) :

  • Doivent ajouter des divulgations visibles pour les mineurs et dans les cas où les utilisateurs pourraient raisonnablement penser que l'IA est humaine.
  • Doivent mettre en œuvre des mesures pour prévenir le contenu sexuel impliquant des mineurs et éviter les revendications trompeuses semblables à celles d'un humain.
  • Doivent cesser d'utiliser des systèmes de récompense à intervalles imprévisibles visant à augmenter l'engagement des mineurs.
  • Doivent mettre en œuvre des protocoles de réponse au suicide/l'automutilation et éviter de revendiquer que l'IA offre des services de santé mentale sous licence.
  • La conformité doit commencer un an après que le projet de loi devienne loi.

• Entreprises utilisant l'IA en interne ou des outils restreints :

  • Le projet de loi exclut certains outils : les systèmes réservés à la recherche, les outils à sujet restreint, les outils commerciaux interentreprises, les assistants vocaux, les interfaces vocales/haut-parleurs, et l'IA utilisée uniquement en interne par une entreprise ne sont pas couverts par cette loi.

• Public général et utilisateurs :

  • Si l'IA amène une personne raisonnable à penser qu'elle est humaine, l'opérateur doit divulguer qu'il s'agit d'une intelligence artificielle. Le projet de loi fixe des options de timing pour la fréquence d'apparition de cette divulgation.

• Application :

  • La CFC applique les violations selon les mêmes processus et pénalités qu'elle utilise déjà pour les pratiques déloyales ou trompeuses.

• Timing :

  • Les règles commencent un an après l'adoption de la loi.

Dépenses#

Aucune information disponible publiquement.

• Le texte du projet de loi n'inclut pas de note fiscale ou d'estimation budgétaire.
• Éléments de coût probables (déduits) : les opérateurs encourraient des coûts de développement et de test pour ajouter des avertissements, des contrôles parentaux, des filtres de contenu et des fonctions de référence de crise ; la CFC pourrait avoir des coûts d'application. Ce sont des possibilités déduites du texte du projet de loi, pas des estimations fournies par le projet de loi.

Point de vue des partisans#

Le projet de loi semble destiné à protéger les enfants et à accroître la transparence concernant l'IA.

• Le projet de loi semble destiné à réduire le risque que les mineurs soient exploités sexuellement ou exposés à du contenu sexuel par l'IA conversationnelle.
• Il semble destiné à empêcher l'IA conversationnelle de tromper les gens en leur faisant croire qu'elle est humaine, en particulier dans des interactions émotionnellement sensibles.
• Le projet de loi semble destiné à donner aux parents des outils pour gérer l'utilisation par les mineurs de l'IA conversationnelle publique.
• Il semble destiné à garantir que l'IA conversationnelle réponde de manière appropriée aux incitations au suicide ou à l'automutilation en orientant les utilisateurs vers des services de crise.
• Il semble destiné à rendre les services d'IA publics plus transparents quant à leur nature artificielle.

Point de vue des opposants#

Le texte du projet de loi soulève plusieurs questions pratiques et juridiques qui pourraient être des points de préoccupation.

• Une préoccupation est l'imprécision : des termes comme "mesures raisonnables", "raisonnablement certain", et "ferait penser à un individu raisonnable" ne sont pas précisément définis, ce qui peut créer de l'incertitude quant aux étapes techniques requises.
• La portée des services couverts pourrait être floue dans la pratique. La loi exonère de nombreux usages commerciaux ou restreints, mais il peut être difficile de décider quels services comptent comme ayant le "but principal" de simuler une conversation humaine.
• Les coûts de conformité et les charges techniques peuvent être significatifs pour certains opérateurs (par exemple, la mise en œuvre d'avertissements continus, de filtres de contenu, d'outils parentaux et de protocoles d'idéation suicidaire), mais le projet de loi ne fournit pas d'orientation ou de financement.
• L'interdiction des "points ou récompenses similaires à des intervalles imprévisibles dans le but d'encourager un engagement accru" peut être difficile à interpréter et à appliquer car elle dépend de la preuve de l'intention et de ce qui compte comme des récompenses "imprévisibles".
• L'application repose sur la CFC utilisant son autorité existante en matière de pratiques déloyales/trompeuses ; le projet de loi n'explique pas comment la CFC priorisera ou financera l'application dans ce nouveau domaine.