Protections des consommateurs pour les chatbots IA

Résumé#

Ce projet de loi établit de nouvelles règles de consommation pour les chatbots d'intelligence artificielle, en accordant une attention particulière aux aînés. Il exige des divulgations claires indiquant qu'un utilisateur parle avec un chatbot, des mesures pour détecter les crises et les décisions à enjeux élevés, des limites sur les moments où les conversations peuvent être collectées ou utilisées pour l'entraînement, et des règles contre le design manipulateur. La Commission fédérale du commerce (CFC) applique la loi, et l'Institut national des normes et de la technologie (INNST) doit publier des lignes directrices volontaires pour les chatbots qui interagissent avec les aînés.

• Les chatbots doivent informer les utilisateurs qu'ils ne sont pas humains et ne doivent pas prétendre être des professionnels agréés.
• Les chatbots doivent essayer de détecter les crises (risque de suicide, intention de nuire, urgence médicale) et orienter les utilisateurs vers des services d'urgence ou de crise au lieu de donner certains types de conseils.
• Les chatbots doivent essayer de détecter quand un utilisateur est confronté à une "décision à enjeux élevés" (santé, finances, tutelle, planification successorale) et avertir que le bot n'est pas un professionnel agréé et que les utilisateurs devraient vérifier avec des personnes ou des professionnels de confiance.
• Les entités couvertes ne peuvent pas enregistrer, conserver ou utiliser les conversations à d'autres fins (y compris l'entraînement de modèles) à moins que cela ne soit nécessaire pour le service ou que l'utilisateur donne son consentement explicite.
• Les entités couvertes doivent publier des protocoles, permettre aux utilisateurs de supprimer l'historique des conversations, éviter les conceptions d'interaction manipulatrices qui exploitent les vulnérabilités liées à l'âge, et signaler les incidents matériels défavorables chaque année au NIH et à la CFC.

Ce que cela signifie pour vous#

• Aînés : Les chatbots que vous utilisez doivent clairement indiquer qu'ils sont de l'IA, être conçus pour l'accessibilité, éviter les incitations manipulatrices qui exploitent les problèmes de mémoire ou de décision, et déclencher des références de crise si vous montrez des signes de danger.
• Entreprises et opérateurs de chatbots (entités couvertes) : Vous devez ajouter des divulgations claires, construire des détections de crise et d'enjeux élevés, publier des protocoles de conformité en ligne, obtenir le consentement explicite avant d'utiliser les conversations pour l'entraînement, permettre aux utilisateurs de supprimer les historiques, et soumettre des rapports annuels sur les incidents graves.
• Fournisseurs de services (entreprises qui traitent des données pour les chatbots) : Vous ne pouvez traiter les données de conversation que sous des instructions écrites et pour des fins autorisées (livraison de services, conformité, sécurité, reporting, ou requis par la loi).
• Aidants, famille et professionnels : Les bots doivent avertir les utilisateurs de ne pas se fier uniquement aux conseils des chatbots pour des décisions majeures et leur rappeler de consulter des professionnels humains.
• Professionnels de la santé, du droit ou des finances : Les bots ne peuvent pas se présenter comme des professionnels agréés. Ils doivent conseiller aux utilisateurs de consulter de vrais professionnels pour des questions à enjeux élevés.
• Utilisateurs en général : Vous devriez voir des avis plus fréquents et plus clairs indiquant que vous parlez avec une IA, pouvoir supprimer les historiques de chat, et être demandé un consentement clair si votre chat sera utilisé pour entraîner des modèles.

Dépenses#

Aucune information disponible publiquement.

• Le projet de loi crée des tâches qui pourraient augmenter les coûts pour les entreprises : construire des détections de crise et d'enjeux élevés, modifier les interfaces utilisateur pour afficher des divulgations, créer des fonctions de suppression, publier des protocoles, et préparer des rapports annuels.
• La CFC et le NIH recevront et traiteront les rapports. L'INNST doit développer des lignes directrices volontaires. Le projet de loi ne prévoit pas de budget ou d'estimations de coûts pour ces tâches gouvernementales.
• Pénalités civiles : des violations intentionnelles ou imprudentes peuvent entraîner des amendes allant jusqu'à 50 000 $ par violation. Cela crée des coûts juridiques et financiers potentiels pour les entités couvertes.
• Les États peuvent engager des actions en justice, ce qui peut ajouter des coûts de litige pour les entreprises.
• Si les petits développeurs doivent se conformer, les coûts de conformité pourraient être proportionnellement plus élevés pour eux. Le projet de loi ne précise pas s'il y aura des exemptions ou une assistance financière.

Point de vue des partisans#

• Le projet de loi semble destiné à protéger les aînés contre les abus, la manipulation ou les préjudices causés par les chatbots.
• Il vise à accroître la transparence afin que les utilisateurs sachent clairement qu'ils interagissent avec une IA et non avec un humain ou un professionnel agréé.
• L'exigence de détection et de référence en cas de crise est conçue pour réduire le risque lorsque les utilisateurs montrent des signes de danger imminent ou d'urgences médicales.
• Limiter l'utilisation des conversations pour l'entraînement sans consentement explicite vise à donner aux utilisateurs le contrôle sur leurs conversations personnelles et à protéger la vie privée.
• Le rapport public des incidents graves pourrait améliorer la surveillance et aider à identifier les problèmes systémiques.

Point de vue des opposants#

• Une préoccupation est que des définitions importantes sont laissées aux régulateurs (par exemple, ce qui compte comme un "incident matériel défavorable"), ce qui pourrait créer de l'incertitude pour les entreprises pendant la transition.
• Le projet de loi pourrait imposer des coûts de conformité significatifs aux développeurs et aux opérateurs, en particulier aux petites entreprises, pour construire des systèmes de détection, des fonctionnalités d'accessibilité et des systèmes de reporting.
• Exiger un consentement explicite pour l'entraînement des modèles et restreindre l'utilisation des conversations pourrait ralentir l'amélioration des modèles ou limiter les fonctionnalités qui dépendent des données des utilisateurs.
• Certaines règles d'application et pénalités peuvent être considérées comme sévères ou peu claires (par exemple, ce qui constitue une "violation" unique pour la pénalité de 50 000 $).
• Les exigences de reporting pourraient soulever des questions de confidentialité à moins que les données agrégées et anonymisées ne soient traitées avec soin ; le projet de loi demande aux régulateurs de fixer des normes mais ne donne pas de détails immédiats.
• Il n'est pas clair comment les règles affecteront les chatbots conçus spécifiquement pour la compagnie ou le soutien social ; le projet de loi permet une compagnie bénigne mais équilibrer les protections avec des fonctionnalités utiles peut être difficile en pratique.