Les compagnons IA font face à des règles de sécurité strictes

Résumé#

Le projet de loi SB 1546 de l'Oregon, intitulé « Relatif aux compagnons d'intelligence artificielle », crée de nouvelles règles étatiques ; il ne modifie pas une loi existante nommée. Il est promulgué. Son objectif déclaré n'est pas fourni dans le texte du projet de loi ; la loi fixe des devoirs pour les opérateurs de compagnons et de plateformes d'IA couverts.

  • Un opérateur doit clairement informer les utilisateurs qu'ils interagissent avec une IA lorsque qu'une personne raisonnable pourrait penser qu'elle parle avec un humain.
  • Avant de permettre l'accès aux utilisateurs de l'Oregon, un opérateur doit avoir un protocole pour détecter les pensées suicidaires ou d'automutilation et prévenir le contenu qui les encourage. Le protocole doit inclure des références de crise, une intervention supplémentaire basée sur les meilleures pratiques cliniques, et la publication publique du protocole.
  • Si un opérateur sait ou a des raisons de croire qu'un utilisateur est mineur, il doit prendre des mesures raisonnables contre des réponses spécifiquement humaines, romantiques, sexuelles ou émotionnellement manipulatrices. Il doit également divulguer que l'utilisateur interagit avec une IA, donner des rappels de pause au moins toutes les trois heures, et prendre des mesures contre le contenu sexuellement explicite impliquant le mineur.
  • Les opérateurs doivent publier chaque année le nombre de références de crise et les détails de leur protocole, sans identifier d'informations personnelles.
  • Une personne qui subit une perte financière, une perte de biens ou un autre préjudice en raison d'une violation peut poursuivre pour dommages réels ou 1 000 $ par violation, selon le montant le plus élevé, et demander une injonction.

Ce que cela signifie pour vous#

  • Opérateurs : Ces devoirs s'appliquent aux personnes ou aux entreprises qui contrôlent ou rendent un compagnon ou une plateforme couverte disponible pour les utilisateurs de l'Oregon. La définition exclut les logiciels spécifiés utilisés uniquement pour le support client, les services de soins, l'éducation, les services financiers, les opérations commerciales, la productivité, l'analyse, la recherche ou l'assistance technique ; certains logiciels de jeux vidéo limités ; et les assistants vocaux autonomes.
  • Utilisateurs : La loi ne bannit pas les compagnons d'IA ni n'exige des utilisateurs qu'ils demandent un accès. Elle exige de la transparence et des mesures de sécurité de la part des opérateurs.
  • Utilisateurs exprimant des pensées suicidaires ou d'automutilation : Le protocole de l'opérateur doit fournir une référence et des coordonnées ainsi qu'un lien vers la ligne de crise nationale 988. Si l'opérateur identifie l'utilisateur comme étant âgé de moins de 25 ans, il peut plutôt fournir une référence à Youthline.
  • Mineurs : Lorsqu'un opérateur sait ou a des raisons de croire qu'un utilisateur est mineur, il doit prendre des mesures raisonnables pour prévenir les déclarations d'IA affirmant qu'elle est humaine ou consciente, la dépendance émotionnelle simulée, l'intérêt romantique ou l'insinuation sexuelle, et le jeu de rôle romantique adulte-mineur. La loi aborde également les récompenses destinées à prolonger l'engagement, les messages induisant la culpabilité lorsque l'utilisateur souhaite quitter, et les représentations matérielles trompeuses.
  • Personnes blessées par une violation : Elles peuvent engager une action en justice pour dommages et une injonction. Un tribunal peut également accorder des frais d'avocat et des coûts au plaignant gagnant.

Argent#

Aucune information publique disponible sur les coûts estimés pour le public ou les opérateurs.

  • Les opérateurs doivent fournir du personnel, des systèmes et une expertise pour répondre aux exigences, mais le projet de loi ne donne aucune estimation de coût.
  • Une personne qui prouve un préjudice causé par une violation peut récupérer des dommages réels ou 1 000 $ par violation, selon le montant le plus élevé. Un tribunal peut accorder des frais d'avocat et des coûts.

Ce qui n'est pas clair#

  • Le projet de loi ne donne pas de date d'entrée en vigueur dans le texte fourni.
  • Il ne définit pas comment un tribunal doit compter les « violations » séparées pour les dommages statutaires de 1 000 $.
  • Il ne précise pas comment les opérateurs doivent identifier les mineurs ni ce qui compte comme « mesures raisonnables ».
  • Il exige des méthodes basées sur des preuves et des meilleures pratiques cliniques mais ne précise pas les méthodes ou l'intervention supplémentaire pour quelqu'un qui continue d'exprimer des pensées suicidaires ou d'automutilation.
  • Il ne fixe pas de processus pour les plaintes, les enquêtes ou l'application par le gouvernement.

Argument pour#

  • Un argument possible en faveur du projet de loi est que les gens devraient être informés lorsqu'un compagnon qui semble humain génère ses réponses.
  • Exiger des références de crise et des mesures contre le contenu encourageant le suicide ou l'automutilation pourrait donner aux utilisateurs un chemin vers un soutien humain.
  • Des mesures de protection supplémentaires pour les mineurs abordent des risques spécifiés, y compris des réponses romantiques ou sexuelles et des messages conçus pour faire ressentir de la culpabilité à un jeune utilisateur pour avoir mis fin à une interaction.
  • Les détails publics du protocole et les comptes annuels de références pourraient rendre les pratiques de sécurité déclarées des opérateurs plus visibles.

Argument contre#

  • Le projet de loi utilise des normes telles que « mesures raisonnables » et « meilleures pratiques cliniques » sans définir exactement ce que les opérateurs doivent faire, ce qui peut rendre la conformité incertaine.
  • Il ne précise pas comment les opérateurs devraient identifier les mineurs, alors que plusieurs devoirs dépendent de la connaissance ou de la raison de croire qu'un utilisateur est mineur.
  • La loi crée des dommages potentiels de 1 000 $ par violation, mais n'explique pas comment les violations sont comptées ; cela pourrait rendre l'exposition légale des opérateurs difficile à prédire.
  • Le projet de loi exige plus d'intervention lorsque l'utilisateur continue d'exprimer des pensées suicidaires ou d'automutilation, mais laisse les détails de cette intervention au protocole de chaque opérateur.

Votes

3 votes par appel nominal sur ce projet de loi, du plus récent au plus ancien.

  1. Vote no 1654578

    Adoptée30 députés ont voté

    Senate Third Reading in Concurrence

    POUR · 28CONTRE · 2

    Chaque point représente un député. Survolez ou touchez-en un pour voir qui.

    28Pour

    • Democratic18
    • Republican10

    2Contre

    • Republican2
  2. Vote no 1639272

    Adoptée27 députés ont voté

    Senate Third Reading

    POUR · 26CONTRE · 1

    Chaque point représente un député. Survolez ou touchez-en un pour voir qui.

    26Pour

    • Democratic17
    • Republican9

    1Contre

    • Republican1

    3 députés étaient pairés et n'ont pas pris part au vote.

  3. Vote no 1632239

    Adoptée5 députés ont voté

    Senate Committee Do pass with amendments. (Printed A-Eng.)

    POUR · 4CONTRE · 1

    Chaque point représente un député. Survolez ou touchez-en un pour voir qui.

    4Pour

    • Democratic3
    • Republican1

    1Contre

    • Republican1