Sécurité de l'IA pour les enfants et contrôles parentaux

Résumé#

Ce projet de loi établirait de nouvelles règles sur l'utilisation des chatbots IA accessibles au public par les enfants et les adolescents. Ses principaux changements sont (1) l'exigence de comptes familiaux et de contrôles parentaux pour les enfants de moins de 13 ans, (2) l'exigence d'un consentement parental vérifiable pour les adolescents de 13 à 17 ans avant qu'ils ne puissent créer des comptes, et (3) l'interdiction d'utiliser des données personnelles d'enfants ou d'adolescents connus pour la publicité ciblée. Le projet de loi vise à accroître la sécurité des enfants, le contrôle parental et la transparence autour des chatbots IA.

Points clés :

• Qui est concerné : Les « entités couvertes » sont des sites web, services ou applications accessibles au public dont la fonction principale est de fournir un chatbot IA.
• Comptes familiaux : Si un service sait qu'un utilisateur a moins de 13 ans, il doit exiger un compte familial géré par un parent.
• Consentement parental vérifiable pour les adolescents : Si un service sait qu'un utilisateur a entre 13 et 17 ans, il doit informer le parent et obtenir un consentement parental vérifiable avant de permettre à l'adolescent de créer un compte ; les parents peuvent choisir un compte familial pour l'adolescent.
• Suppression et portabilité des données : Les comptes pour enfants ou adolescents qui ne respectent pas ces règles doivent être résiliés et les données personnelles supprimées, bien que les utilisateurs/parents puissent demander une copie des données dans les 90 jours si cela est techniquement faisable.
• Contrôles parentaux : Les comptes familiaux doivent permettre aux parents de définir des limites de temps, de désactiver les récompenses/notifications/transactions financières, de contrôler la rétention de mémoire du chatbot, de consulter l'historique complet des discussions et de recevoir des alertes si les contrôles sont contournés. Les paramètres par défaut doivent être les plus protecteurs.
• Interdiction de la publicité : Les services ne peuvent pas utiliser les données personnelles d'enfants ou d'adolescents connus pour la publicité ciblée. Les publicités uniquement basées sur l'âge et appropriées à l'âge sont autorisées.
• Application : La Commission fédérale du commerce applique la loi en tant que pratique déloyale ou trompeuse. Les procureurs généraux des États peuvent poursuivre au nom des résidents, avec notification à la FTC.
• Exigences de timing et d'étude : Les règles entrent en vigueur 1 an après l'adoption. Le projet de loi exige une étude de la NSF sur les effets des chatbots sur les enfants et les adolescents et un rapport gouvernemental ultérieur examinant l'efficacité de la loi et les meilleures pratiques.

Ce que cela signifie pour vous#

• Parents

  • Doivent créer et gérer des comptes familiaux pour les enfants de moins de 13 ans afin de leur permettre d'utiliser les chatbots couverts.
  • Seront informés et devront donner un consentement vérifiable avant qu'un adolescent (13–17 ans) puisse ouvrir un compte de chatbot.
  • Peuvent définir des limites de temps, désactiver les récompenses et notifications, désactiver les achats dans le chat, limiter la durée de conservation des entrées par le chatbot, consulter les journaux de discussion complets et recevoir des alertes si un enfant essaie de contourner les contrôles.
  • Peuvent révoquer le consentement pour un adolescent ; le compte de l'adolescent doit alors être suspendu, supprimé ou désactivé.

• Enfants (moins de 13 ans)

  • Ne peuvent pas utiliser un chatbot couvert à moins qu'un parent ne crée un compte familial pour eux.
  • Les comptes d'enfants existants seront résiliés s'ils ne passent pas à des comptes familiaux.

• Adolescents (13–17 ans)

  • Ont besoin du consentement vérifiable d'un parent avant de créer un compte de chatbot.
  • Si les parents ne créent pas de compte familial, le service doit appliquer les paramètres par défaut les plus protecteurs au compte de l'adolescent.
  • Les parents peuvent plus tard créer un compte familial et modifier ces paramètres.

• Entreprises qui gèrent des chatbots

  • Doivent identifier quand les utilisateurs sont des enfants ou des adolescents (basé sur le standard « sait » utilisant des preuves fiables) et appliquer les règles de comptes familiaux et de consentement parental.
  • Doivent supprimer les données personnelles pour les comptes résiliés, avec une fenêtre de 90 jours pour que les utilisateurs/parents demandent une copie portable si cela est techniquement faisable.
  • Ne peuvent pas utiliser les données personnelles des enfants ou des adolescents pour la publicité ciblée.
  • Doivent fournir des fonctionnalités de contrôle parental, par défaut aux paramètres les plus protecteurs, expliquer clairement les options et offrir des outils de signalement pour les violations.
  • Les entités couvertes dont le chatbot n'est qu'une fonctionnalité et non la fonction principale peuvent ne pas être couvertes ; le projet de loi limite la couverture aux services dont la fonction principale est de fournir un chatbot IA.

• Agences gouvernementales

  • La FTC appliquera les règles en utilisant ses pouvoirs existants.
  • Les procureurs généraux des États peuvent poursuivre au nom des résidents.
  • La NSF doit étudier les effets des chatbots sur les jeunes ; le Bureau de la responsabilité gouvernementale (GAO) doit faire rapport sur le fonctionnement de la loi.

Dépenses#

Aucune estimation de coût public direct n'est fournie dans le texte ou le résumé du projet de loi.

Coûts possibles suggérés par les exigences du projet de loi :

• Les entités couvertes peuvent faire face à des coûts de conformité pour construire des systèmes de comptes familiaux, des flux de consentement parental vérifiables, des outils de contrôle parental, des fonctionnalités de suppression et de portabilité des données, et des changements de ciblage publicitaire.
• La FTC et les procureurs généraux des États peuvent encourir des coûts d'application et de surveillance.
• La NSF et le GAO encourront des coûts de recherche et de rapport liés aux études et rapports requis.

Si vous avez besoin d'estimations exactes en dollars, aucune note fiscale ou estimation budgétaire n'est incluse dans le texte du projet de loi.

Point de vue des partisans#

Le projet de loi semble destiné à protéger les enfants et les adolescents lorsqu'ils utilisent des chatbots IA. Arguments possibles en faveur tirés du texte du projet de loi :

• Il pourrait accroître le contrôle et la surveillance parentaux en exigeant des comptes familiaux et des paramètres parentaux détaillés.
• Il pourrait réduire la pression commerciale et le profilage des jeunes en interdisant la publicité ciblée basée sur les données personnelles des enfants ou des adolescents.
• Il exige une identification claire que les interactions se font avec une IA (étiquettes de transparence), ce qui pourrait réduire la confusion sur le fait qu'un utilisateur parle à une personne ou à une machine.
• Il vise à améliorer les connaissances en dirigeant la recherche sur la façon dont les chatbots affectent les besoins sociaux et les relations des jeunes et en demandant au GAO d'évaluer l'efficacité de la loi et de recommander les meilleures pratiques.

Point de vue des opposants#

La conception du projet de loi soulève certaines questions pratiques et des compromis basés sur son texte :

• Une préoccupation est que la définition d'« entité couverte » est limitée aux services dont la fonction principale est un chatbot. Cela pourrait laisser de nombreuses plateformes avec des fonctionnalités de chat en dehors de la loi, créant une protection inégale.
• Le projet de loi repose sur le fait qu'un service « sait » qu'une personne est un enfant ou un adolescent en utilisant un test de totalités de circonstances. Cela pourrait créer de l'incertitude pour les entreprises sur le moment où les règles s'appliquent et comment prouver la conformité.
• L'exigence que les paramètres par défaut soient les « plus protecteurs » pourrait réduire l'utilité ou l'efficacité des chatbots pour les adolescents si les limites de sécurité restreignent les fonctionnalités qui rendent les chatbots utiles.
• Le projet de loi permet la suppression des données personnelles « dans la mesure où cela est techniquement faisable » et autorise une fenêtre d'accès aux données de 90 jours. Il n'est pas clair à quelle fréquence des limites techniques ou de licence empêcheront la pleine portabilité ou suppression.
• Les dispositions sur le timing de l'étude de la NSF sont incohérentes : le projet de loi dit que la NSF doit mener ou commander une étude dans les 2 ans suivant l'adoption, mais exige également que la NSF soumette un rapport de résultats dans l'année suivant l'adoption. Ce conflit de timing n'est pas résolu dans le texte du projet de loi.
• La conformité et la mise en œuvre pourraient être coûteuses pour les petites entreprises ou services, et le projet de loi ne fournit pas d'orientation sur l'adaptation des exigences en fonction de la taille de l'entreprise.