Loi sur la vie privée des jeunes en matière d'IA

Résumé#

Ce projet de loi, la Loi sur la vie privée des jeunes en matière d'IA, vise à limiter la manière dont les chatbots IA interagissent avec et utilisent les données des personnes de moins de 18 ans. Ses principaux changements exigent des divulgations claires aux mineurs, restreignent la manière dont les entreprises peuvent utiliser les données des mineurs, interdisent certaines fonctionnalités de conception qui encouragent une utilisation excessive et interdisent la publicité et le profilage des mineurs par le biais de chatbots. L'objectif global est de réduire les atteintes à la vie privée, la conception manipulatrice et la publicité cachée visant les enfants et les adolescents.

• Divulgations requises : Les chatbots qu'un déployeur (l'entreprise qui rend un chatbot disponible) sait qu'un utilisateur est un mineur doivent clairement indiquer que l'utilisateur parle à une IA, et non à un humain, au début d'une session et au moins toutes les 30 minutes.
• Limites sur l'utilisation des données : La Commission fédérale du commerce (CFC ou « la Commission ») doit établir des règles qui empêchent généralement les entreprises qui savent qu'un utilisateur est un mineur de traiter les données personnelles de ce mineur pour façonner les résultats, sauf pour les entrées récentes pendant la session en cours (la CFC déterminera la durée de cette période).
• Interdictions sur les fonctionnalités addictives : Dans un délai d'un an, la CFC doit interdire les fonctionnalités pour les utilisateurs mineurs connus qui récompensent une utilisation fréquente, envoient des notifications push (sauf la divulgation requise), affichent des indicateurs de saisie sociale ou produisent des messages non sollicités.
• Pas de publicité ni de profilage : Les entreprises qui savent qu'un utilisateur est un mineur ne peuvent pas faire de publicité à leur intention via un chatbot, promouvoir des produits où un lien financier affecte la crédibilité, ou profiler les mineurs (classer la personnalité/comportement) en utilisant leurs données.
• Limites sur les données d'entraînement : Les entreprises qui savent qu'un utilisateur est un mineur ne peuvent généralement pas utiliser les données personnelles de ce mineur pour entraîner des modèles d'IA, sauf pour tester ou corriger des risques de préjudice.
• Application et recours : La CFC applique la loi en tant que pratique déloyale ou trompeuse ; les procureurs généraux des États peuvent poursuivre ; les parents ou tuteurs peuvent poursuivre les entreprises pour violations et demander des dommages et intérêts et d'autres recours.
• Recherche et enquêtes : Le projet de loi autorise 50 millions de dollars par an (2027–2030) pour la recherche sur les effets des chatbots IA sur la santé des jeunes et exige que le CDC/NIH ajoute des questions sur les chatbots aux enquêtes nationales.

Ce que cela signifie pour vous#

• Mineurs et parents

  • Les chatbots qu'une entreprise sait qu'un utilisateur a moins de 18 ans doivent informer l'utilisateur qu'il interagit avec une IA, et non une personne, au début d'une session et toutes les 30 minutes.
  • Les entreprises ne devraient pas utiliser les données passées d'un mineur pour personnaliser les réponses au-delà d'une période récente fixée par la CFC.
  • Les parents ou tuteurs légaux peuvent poursuivre les entreprises pour violations des règles de conception sécuritaire et de protection des données.

• Entreprises qui gèrent des chatbots (déployeurs)

  • Doivent ajouter des divulgations claires et appropriées à l'âge et retirer ou arrêter certaines fonctionnalités d'engagement lorsqu'elles savent qu'un utilisateur est un mineur.
  • Doivent cesser de faire de la publicité ou de profiler les utilisateurs mineurs connus et ne peuvent généralement pas utiliser les données des mineurs pour entraîner des modèles.
  • Sont soumises à l'application de la CFC, à d'éventuelles poursuites étatiques et à des poursuites privées par des parents, y compris d'éventuels dommages et frais juridiques.

• Développeurs (ceux qui construisent ou modifient substantiellement les algorithmes de chatbot)

  • Interdits de créer, pour les utilisateurs mineurs connus, des fonctionnalités qui encouragent une utilisation compulsive telle que définie par les règles de la CFC.
  • Peuvent être soumis à l'application lorsque leurs choix de conception permettent des violations.

• Chercheurs et agences de santé publique

  • Recevront un financement pour la recherche (50 millions de dollars par an, 2027–2030).
  • Le CDC et le NIH doivent inclure des questions sur l'utilisation des chatbots dans les enquêtes nationales pour suivre la prévalence et les effets.

• Procureurs généraux des États

  • Peuvent poursuivre au nom des résidents pour violations et coordonner avec la CFC ; les États peuvent adopter des protections plus strictes que celles autorisées par cette loi.

Dépenses#

Coût public estimé : 50 millions de dollars par an autorisés pour la recherche de 2027 à 2030 ; aucune autre estimation de coût n'est fournie.

• Financement de recherche autorisé : 50 000 000 $ par an pour les exercices fiscaux 2027–2030 pour étudier les effets sur la santé et le développement des chatbots IA sur les mineurs.
• Coûts de réglementation et d'application de la CFC : non estimés dans le texte du projet de loi ; la CFC devra rédiger des règles et des directives et procéder à l'application.
• Coûts de conformité des entreprises : les entreprises auront probablement des coûts pour modifier les conceptions, les pratiques de données et la tenue de dossiers pour se conformer ; aucune estimation en dollars n'est fournie.
• Litiges et application : les poursuites privées et l'application étatique pourraient créer des coûts juridiques publics et privés supplémentaires ; aucune estimation disponible.
• Si aucune note fiscale ou estimation budgétaire au-delà de l'autorisation de recherche n'est fournie : Aucune information disponible publiquement.

Point de vue des partisans#

• Le projet de loi semble destiné à protéger les mineurs des atteintes à la vie privée et de la conception manipulatrice dans les chatbots IA en exigeant la transparence et en limitant la personnalisation et l'entraînement basés sur les données.
• Les partisans peuvent faire valoir que cela réduit le risque que les mineurs développent une dépendance émotionnelle aux chatbots ou divulguent des informations sensibles utilisées pour la personnalisation ou l'entraînement des modèles.
• Cela pourrait être perçu comme une prévention de la publicité cachée et du profilage des mineurs dans l'IA conversationnelle.
• Le projet de loi finance la recherche et une meilleure collecte de données pour comprendre comment les chatbots affectent la santé mentale et le comportement des jeunes.
• Le droit d'action privé et l'application étatique offrent plusieurs moyens de tenir les entreprises responsables.

Point de vue des opposants#

• Une préoccupation est que le projet de loi laisse des détails clés à la réglementation de la CFC (par exemple, comment l'agence définira une « session » et la « période maximale d'utilisation autorisée »), créant une incertitude à court terme pour les entreprises et les régulateurs.
• La norme selon laquelle un déployeur « a une connaissance raisonnablement implicite sur la base de circonstances objectives » qu'un utilisateur est un mineur peut être difficile à appliquer en pratique. Le projet de loi indique que les entreprises ne sont pas tenues de collecter l'âge ou d'ajouter une vérification d'âge, ce qui pourrait rendre la conformité ambiguë.
• Les interdictions larges sur l'utilisation des données d'entrée et sur l'entraînement avec les données des mineurs pourraient limiter les utilisations légitimes (pour la sécurité, la personnalisation nécessaire pour les soins, ou l'accessibilité) à moins d'être couvertes par des exceptions étroites ; la manière dont ces exceptions fonctionneront n'est pas entièrement détaillée.
• Le droit privé de poursuivre avec d'éventuels dommages-intérêts punitifs pourrait augmenter les risques et les coûts de litige pour les entreprises, en particulier les plus petites.
• Il n'est pas clair comment la loi interagira avec les lois sur la vie privée existantes et les pratiques de l'industrie, et si les ressources d'application seront suffisantes.
• Le projet de loi ne précise pas de définitions exactes pour « faire de la publicité », « promouvoir » ou quand un lien financier « affecte matériellement » la crédibilité, ce qui pourrait créer des litiges sur l'application.