Loi sur la sécurité de l'IA pour les jeunes

Résumé#

Ce projet de loi crée un groupe de travail fédéral à court terme, finance la recherche et la sensibilisation, et interdit certaines « caractéristiques de design addictif » dans les chatbots IA lorsqu'ils sont utilisés par des jeunes (personnes de moins de 18 ans vivant aux États-Unis). L'objectif principal est d'examiner comment les chatbots IA affectent la santé mentale des jeunes et de réduire les caractéristiques que le projet de loi décrit comme encourageant l'addiction ou un attachement émotionnel malsain.

• Changement principal : Interdiction fédérale de rendre les chatbots IA avec des « caractéristiques de design addictif » spécifiées disponibles pour les jeunes.
• Groupe de travail : Le Président doit mettre en place un groupe de travail inter-agences pour examiner la recherche et recommander des moyens de réduire les risques pour les jeunes. Le groupe de travail se termine peu après avoir déposé son rapport final.
• Subventions pour la recherche et la sensibilisation : Le HHS doit accorder des subventions de recherche aux universités et des subventions de sensibilisation aux ONG ou aux groupes communautaires. Le projet de loi autorise 3 millions de dollars pour la recherche et 5 millions de dollars pour la sensibilisation pour les exercices fiscaux 2027–2032.
• Accès obligatoire aux données pour les chercheurs : Les entités couvertes doivent fournir des données dé-identifiées aux chercheurs universitaires approuvés sur demande ; le non-respect peut entraîner une pénalité civile allant jusqu'à 10 millions de dollars.
• Définitions : Le projet de loi énumère des exemples de « caractéristiques de design addictif », y compris les bulles de saisie, les avatars, le stockage des données de conversations passées, les incitations à payer pour continuer, le maintien des conversations pendant plus de deux heures, et l'imitation d'une personne réelle.

Ce que cela signifie pour vous#

• Jeunes : Les chatbots qui incluent les caractéristiques de design addictif énumérées ne doivent pas être mis à la disposition des jeunes aux États-Unis. Le projet de loi définit les jeunes comme étant de moins de 18 ans et résidant aux États-Unis.
• Parents et enseignants : Les subventions financeront la sensibilisation et la formation pour aider à identifier les signes d'attachement malsain aux chatbots et pour discuter de ces signes avec les jeunes.
• Entreprises qui gèrent des chatbots (entités couvertes) :
  • Ne doivent pas fournir de chatbots avec les caractéristiques addictives énumérées aux utilisateurs identifiés comme jeunes.
  • Si elles utilisent la vérification d'âge, elles ne doivent collecter que les données strictement nécessaires pour vérifier l'âge et supprimer ces données dans les 24 heures.
  • Doivent fournir les données dé-identifiées demandées aux chercheurs universitaires qualifiés. Le non-respect de cette obligation peut entraîner de lourdes pénalités civiles.
• Universités et chercheurs : Les institutions éligibles peuvent obtenir des subventions de recherche et peuvent demander des données aux entités couvertes. Elles doivent prouver qu'elles peuvent stocker les données en toute sécurité.
• Agences fédérales et Procureur général : Le Procureur général applique les pénalités et peut intenter des actions en justice pour obtenir des mesures injonctives. Le HHS, la FTC, le NIST et d'autres agences participeront au groupe de travail et à la mise en œuvre des parties du projet de loi.

Dépenses#

Coût public estimé : Le projet de loi autorise 3 millions de dollars pour la recherche et 5 millions de dollars pour la sensibilisation pour les exercices fiscaux 2027–2032 (un total de 8 millions de dollars) ; aucune autre estimation officielle des coûts n'est fournie.

• Dépenses autorisées directes : 3 000 000 $ pour les subventions de recherche et 5 000 000 $ pour les subventions de sensibilisation (FY2027–2032).
• Coûts d'application : Le Procureur général peut appliquer des pénalités et intenter des poursuites ; le projet de loi ne fournit pas d'estimation fiscale pour ces activités d'application.
• Coûts de conformité potentiels pour le gouvernement et les entités couvertes : Les agences auront besoin de temps de personnel pour soutenir le groupe de travail et les programmes de subventions. Les entités couvertes peuvent encourir des coûts pour les systèmes de vérification d'âge, la collecte de données limitée et la suppression rapide. Le projet de loi n'estime pas ces coûts.
• Coûts de conformité à la recherche : Les institutions recevant des subventions doivent démontrer un stockage sécurisé des données et supporteront des coûts pour traiter et dé-identifer les données.
• Pénalités : Le non-respect de la fourniture des données demandées peut entraîner jusqu'à 10 000 000 $ par violation ; les violations de l'interdiction ou des règles de vérification d'âge entraînent des pénalités civiles de 5 000 $ par violation.

Si vous avez besoin d'une estimation complète des coûts gouvernementaux ou d'un score budgétaire, le projet de loi n'en fournit pas ici. Aucune information publique disponible au-delà des montants d'autorisation n'est fournie.

Point de vue des partisans#

• Le projet de loi semble destiné à protéger la santé mentale des jeunes en réduisant l'exposition aux caractéristiques des chatbots que le projet de loi décrit comme encourageant l'addiction ou la dépendance émotionnelle.
• Il vise à construire une base de preuves fédérale en finançant la recherche universitaire et en forçant l'accès aux données pour ces études.
• Le groupe de travail est censé rassembler des experts des agences de santé, de technologie et de protection des consommateurs pour développer des recommandations pratiques.
• Les subventions de sensibilisation sont destinées à aider les parents, les enseignants et les tuteurs à repérer les signes d'alerte et à connecter les jeunes avec des services de santé mentale agréés.
• Le projet de loi comprend des outils d'application (pénalités et mesures injonctives) pour inciter les entités couvertes à se conformer.

Point de vue des opposants#

• Une préoccupation est que certains termes et règles clés sont vagues. Par exemple, il n'est pas clair comment la règle interdisant un chatbot qui « maintient une conversation pendant plus de 2 heures » serait mesurée en pratique.
• La liste des « caractéristiques de design addictif » mélange des éléments spécifiques (bulles de saisie) avec des concepts larges (établir une relation émotionnelle). Cela peut rendre la conformité et l'application peu claires.
• Le projet de loi exige que les entités couvertes donnent des données aux chercheurs mais dit seulement que les informations identifiables doivent être supprimées ; il n'explique pas les normes de dé-identification ou comment les risques de ré-identification seront gérés.
• Les pénalités sont inégales : le non-respect de la fourniture de données peut entraîner des amendes très élevées (jusqu'à 10 millions de dollars), tandis que la violation de l'interdiction ou des règles de vérification d'âge est fixée à 5 000 $ par violation. Le projet de loi n'explique pas la justification prévue pour ces différences.
• Il n'est pas clair comment la vérification d'âge pourrait être mise en œuvre de manière à protéger la vie privée tout en étant efficace, et le projet de loi ne détaille pas les méthodes approuvées ou les garanties de confidentialité au-delà de la collecte de données limitée et d'une règle de suppression de 24 heures.
• Le projet de loi n'explique pas comment il aborderait les chevauchements ou les conflits avec les lois étatiques existantes sur les chatbots IA, ni comment il équilibre les préoccupations du Premier Amendement mentionnées dans les conclusions.