Résumé#
L'introduction 1118-2026 modifierait le Code administratif de la ville de New York en ajoutant des règles pour les fournisseurs de chatbots. Son objectif déclaré, reflété dans son titre, est de traiter la confidentialité, la sécurité et la transparence des données des chatbots. Ce n'est pas une loi : l'historique le plus récent indique qu'il a été renvoyé à un comité et y attend.
- Le principal sponsor est Frank Morano. Les fournisseurs—toute personne qui crée, distribue ou rend autrement un chatbot disponible—devraient publier un programme de sécurité des données et évaluer et réduire les risques de préjudice pour les utilisateurs chaque mois.
- Les fournisseurs devraient informer les utilisateurs qu'ils interagissent avec un chatbot avant qu'il ne produise une sortie, chaque heure par la suite, et chaque fois qu'un utilisateur demande s'il s'agit d'une personne réelle.
- Les utilisateurs auraient le droit d'accéder à leurs journaux de chat conservés à tout moment dans des formats téléchargeables lisibles par les personnes et les machines. Les fournisseurs ne pourraient pas pénaliser les utilisateurs pour avoir accédé aux journaux ou pour avoir refusé leur consentement à les utiliser pour l'entraînement.
- Le projet de loi limiterait les utilisations des données personnelles et des journaux de chat, y compris pour l'entraînement, le profilage et la publicité ciblée. Il interdirait l'entraînement sur les données des utilisateurs de moins de 18 ans dans toutes les circonstances ; tout autre traitement des données des mineurs nécessiterait le consentement explicite d'un parent ou d'un tuteur.
- Les fournisseurs pourraient faire face à des pénalités civiles allant jusqu'à 25 000 $ pour chaque violation et à des poursuites civiles. Le projet de loi rendrait également les fournisseurs responsables des blessures causées par l'utilisation du chatbot, même s'ils ont utilisé un soin raisonnable ou n'ont pas directement distribué le chatbot.
Ce que cela signifie pour vous#
- Utilisateurs de chatbots : Vous pourriez accéder aux journaux de chat conservés. Les fournisseurs ne pourraient pas utiliser vos journaux de chat ou vos données personnelles pour l'entraînement sans votre consentement explicite, ni vendre vos journaux de chat sans ce consentement. Le projet de loi restreint également le profilage et l'utilisation des journaux de chat pour cibler ou adapter des publicités.
- Utilisateurs de moins de 18 ans : Si un fournisseur sait ou a des raisons de savoir que vous avez moins de 18 ans, il ne pourrait pas traiter vos journaux de chat ou vos données personnelles sans le consentement explicite d'un parent ou d'un tuteur—et ne pourrait pas les utiliser pour l'entraînement même avec consentement.
- Fournisseurs de chatbots : Vous devriez respecter les exigences de sécurité, de notification, d'utilisation des données et d'évaluation de la sécurité mensuelle. Le Département, ou une autre agence ou bureau désigné par le Maire, devrait émettre des règles. Le conseiller juridique, ou des personnes désignées agissant pour le Département, pourraient engager des actions d'exécution.
- Utilisateurs en général : Les fournisseurs ne pourraient pas sous-entendre que les sorties des chatbots sont fournies, approuvées ou équivalentes à des conseils de professionnels agréés ou certifiés. Le projet de loi n'exige pas qu'un fournisseur offre un chatbot ou garantisse qu'une sortie est précise.
Argent#
Aucune information sur les coûts n'est dans le matériel disponible.
- Le projet de loi exige que les fournisseurs maintiennent des programmes de sécurité, évaluent les risques chaque mois et publient des informations ; il ne donne aucune estimation des coûts.
- Il fixe des pénalités civiles allant jusqu'à 25 000 $ par violation. Il n'est pas estimé combien de pénalités pourraient être imposées ni quels seraient les coûts d'exécution.
Ce qui n'est pas clair#
- Le projet de loi ne précise pas quel Département établirait des règles si le Maire ne désigne pas une autre agence ou bureau, ni comment l'exécution fonctionnerait en pratique.
- Il ne fixe pas de date de début pour les règles requises ni n'explique comment les fournisseurs et les utilisateurs résoudraient les litiges concernant le consentement, l'accès ou les violations.
- La définition de chatbot est large, et le projet de loi n'explique pas sa portée géographique ni comment il s'applique aux fournisseurs en dehors de la ville.
- Il n'explique pas comment le devoir de prévenir les blessures interagirait avec d'autres règles juridiques sur la responsabilité.
Argument pour#
- Le projet de loi semble destiné à donner aux utilisateurs plus de contrôle sur les informations sensibles qu'ils partagent avec les chatbots, y compris un moyen d'accéder à leurs journaux et un choix concernant les utilisations pour l'entraînement.
- Exiger des avis clairs pourrait aider les utilisateurs à distinguer les réponses des chatbots de la communication humaine.
- Des vérifications de sécurité mensuelles et des informations publiques sur les risques et l'atténuation pourraient amener les fournisseurs à identifier et à divulguer les risques de manière continue.
Argument contre#
- Une préoccupation est que le projet de loi crée une large responsabilité en cas de blessure, y compris lorsque le fournisseur a utilisé un soin raisonnable et n'a pas directement distribué le chatbot ; le texte n'explique pas comment cette norme fonctionnerait dans des cas particuliers.
- Le projet de loi exige des évaluations de sécurité mensuelles et des divulgations publiques mais ne précise pas les méthodes d'évaluation ni quelles informations les fournisseurs doivent publier.
- Les limites du projet de loi sur l'utilisation des données et ses exigences de consentement pourraient imposer des changements substantiels aux fournisseurs, mais le matériel disponible n'est pas estimé ces coûts ni n'explique comment la conformité serait vérifiée.