Résumé#
La Loi sur la protection des enfants contre les chatbots semblables à des humains créerait de nouvelles exigences fédérales pour certains chatbots IA ; elle ne modifie pas une loi existante. Son objectif déclaré est d'établir des normes de conception appropriées à l'âge et des mesures de sécurité pour les chatbots utilisés par des mineurs. Le projet de loi a été introduit et renvoyé aux comités de la Chambre, il n'est donc pas encore en vigueur.
- Les développeurs de chatbots qu'ils savent, ou devraient raisonnablement savoir, sont susceptibles d'être utilisés par des mineurs devraient généralement concevoir un paramètre par défaut non personnifié qui est activé par défaut, sauf si le développeur détermine raisonnablement que l'utilisateur n'est pas un mineur. Le paramètre doit être séparé des autres paramètres et ne peut pas être désactivé par un mineur.
- Les fournisseurs devraient utiliser ce paramètre pour les utilisateurs qu'ils savent ou ont des raisons de savoir être des mineurs, offrir des contrôles parentaux ou de tuteur, et permettre des modifications uniquement par des actions délibérées dans les paramètres du compte par une personne autorisée. Pour les comptes gérés par l'école, un éducateur autorisé peut modifier le paramètre à des fins éducatives réelles.
- Le paramètre doit identifier le chatbot comme IA et l'empêcher de se présenter comme humain, vivant, conscient, émotionnellement attaché à l'utilisateur, ou agissant en tant que professionnel agréé. Il doit également empêcher les incitations à la compagnie ou au soutien émotionnel, la pression pour continuer à discuter, et les dépenses présentées comme nécessaires pour maintenir une relation.
- Les développeurs et les fournisseurs ne pourraient pas inciter les mineurs à désactiver ou contourner le paramètre, ou à falsifier leur âge. Certains développeurs et fournisseurs qui respectent des conditions strictes interdisant l'utilisation par des mineurs sont exemptés de certaines exigences.
- La Commission fédérale du commerce (CFC) appliquerait les principales exigences, et les procureurs généraux des États pourraient engager des poursuites pour les résidents. L'Institut national des normes et de la technologie (INSTT) doit solliciter l'avis du public et développer des directives techniques volontaires ; les directives elles-mêmes n'imposeraient pas d'exigences.
Ce que cela signifie pour vous#
- Mineurs et parents : Si un fournisseur sait ou a des raisons de savoir qu'un compte appartient à un mineur, le paramètre par défaut du chatbot devrait respecter la norme non personnifiée du projet de loi. Un parent ou un tuteur aurait l'autorité exclusive de l'ajuster en dehors des déploiements gérés par l'école. Le projet de loi ne nécessite pas de technologie de vérification d'âge particulière.
- Écoles et éducateurs : Une agence ou un établissement éducatif pourrait gérer les paramètres des comptes qu'il fournit et contrôle pour son programme éducatif. Un éducateur autorisé pourrait ajuster le paramètre uniquement à des fins éducatives réelles et uniquement sur ces comptes.
- Développeurs et fournisseurs de chatbots : Ils devraient construire, activer et maintenir des paramètres et des contrôles de compte qui respectent les règles du projet de loi. Un fournisseur qui interdit strictement l'accès aux mineurs et respecte d'autres conditions — y compris la suppression de l'accès dans des délais fixés après avoir appris qu'un utilisateur est un mineur — pourrait être exempté des exigences relatives aux fournisseurs et aux paramètres scolaires.
- Autres utilisateurs : Le projet de loi ne nécessite pas directement des modifications à chaque chatbot. Il exclut certains outils limités, tels que les systèmes de service à la clientèle qui ne peuvent pas tenir de conversations ouvertes, et les outils internes de travail non offerts aux consommateurs individuels.
- Contribuables et public : L'INSTT doit publier des directives provisoires pour commentaires dans les six mois suivant l'adoption et des directives finales dans les 18 mois. Le projet de loi ne crée pas un nouveau service public ou un droit privé pour les individus de poursuivre.
Finances#
Aucune information disponible publiquement sur le coût public attendu du projet de loi ou les coûts de conformité privés.
- L'INSTT doit réaliser des travaux d'avis public, de directives, de normes et de sensibilisation, mais le projet de loi ne fournit aucune estimation de coût ou montant de financement spécifique.
- Les développeurs et les fournisseurs seraient confrontés à des devoirs de conception et de conformité, mais le projet de loi ne donne aucune estimation de ces coûts.
- L'application par la CFC pourrait entraîner des pénalités civiles en vertu de la Loi sur la Commission fédérale du commerce. Le projet de loi considère chaque mineur affecté comme une violation distincte pour les fournisseurs, et établit d'autres règles pour le comptage des violations ; le texte fourni ne précise pas de montant de pénalité.
Ce qui n'est pas clair#
- Le projet de loi laisse des jugements clés — tels que quand un utilisateur est « susceptible » d'être un mineur et quelle sortie de chatbot franchit la ligne — dépendants des informations dont disposent les fournisseurs et des futures directives techniques.
- Le projet de loi exige que les fournisseurs confirment raisonnablement qu'un parent ou un tuteur gère le paramètre d'un mineur, mais ne précise pas comment confirmer cette relation. Il ne nécessite également aucune méthode de vérification d'âge particulière.
- Le texte ne définit pas un processus général pour les plaintes, les décisions de compte individuelles ou les appels.
- Les directives de l'INSTT sont volontaires, bien que le projet de loi lie les tests à leur égard à l'application de pénalités civiles. Comment cette relation fonctionnera en pratique n'est pas encore connu.
- Les exemptions du projet de loi dépendent de conditions détaillées. Comment ces conditions s'appliqueraient dans des déploiements particuliers n'est pas expliqué.
Arguments en faveur#
- Un argument possible en faveur du projet de loi est qu'une identité IA claire et des limites sur l'attachement simulé pourraient réduire le risque que les mineurs confondent un chatbot avec une personne ou s'y appuient comme un ami, un partenaire ou un thérapeute.
- Les paramètres par défaut et les limites sur les incitations à les désactiver pourraient protéger les mineurs sans exiger que chaque famille configure d'abord les paramètres.
- L'exception scolaire permet aux éducateurs d'ajuster les paramètres à des fins éducatives tout en limitant cette autorité aux comptes contrôlés par l'institution.
- L'application par la CFC et les actions des États pourraient fournir des moyens de traiter les violations, tandis que des directives techniques volontaires pourraient aider les développeurs à tester des systèmes complexes.
Arguments contre#
- Une préoccupation est que des termes tels que « attachement émotionnel », « interaction prolongée » et « mineur raisonnable » peuvent être difficiles à appliquer de manière cohérente. Les directives de l'INSTT peuvent aider, mais elles sont volontaires.
- Les règles pourraient nécessiter des changements substantiels dans la conception des chatbots, des comptes et des contrôles parentaux, sans estimation de coût dans le projet de loi.
- Les fournisseurs doivent évaluer l'âge en utilisant les informations qu'ils possèdent ou peuvent accéder, tandis que le projet de loi interdit d'exiger des méthodes de vérification d'âge spécifiques. Cela pourrait laisser une incertitude sur la manière de respecter les règles sans collecter plus d'informations.
- Les exemptions pour les services qui interdisent l'accès aux mineurs pourraient encourager certains fournisseurs à restreindre l'accès des mineurs plutôt qu'à construire des paramètres conformes. Le projet de loi n'estime pas à quelle fréquence cela pourrait se produire.