Règle de responsabilité en IA cible les grands développeurs de modèles

Résumé#

Le S-10733 modifierait la Loi générale sur les affaires de New York en ajoutant la Loi sur la compréhension de l'intelligence artificielle. Son objectif déclaré est de rendre les développeurs de certains grands modèles d'IA strictement responsables des blessures spécifiées aux personnes qui n'ont pas utilisé le modèle. Le projet de loi est introduit et renvoyé au Comité des règles du Sénat ; il n'est pas en vigueur, et son adoption est incertaine.

  • La nouvelle règle s'appliquerait à un « modèle couvert » : un modèle entraîné en utilisant plus de 10^26 opérations de calcul, à un coût dépassant 100 millions de dollars, mesuré en utilisant les prix moyens du cloud computing au début de l'entraînement.
  • Un développeur de modèle serait strictement responsable de la blessure d'un non-utilisateur si la blessure répond à l'exigence de préjudice réel d'une réclamation pour négligence ordinaire, la conduite du modèle constituerait une négligence, un délit intentionnel, ou un crime si effectué par un adulte mentalement sain, et que cette conduite n'était ni intentionnelle ni raisonnablement anticipée par l'utilisateur ou un intermédiaire qui a modifié le modèle.
  • La règle ne couvrirait pas les réclamations pour diffamation. Les développeurs pourraient également se défendre en prouvant que le modèle respectait la norme de soin humaine pour la fonction qu'il exécutait, ou que la blessure résultait d'un échec de performance qui ne constituerait pas en soi une négligence, un délit intentionnel, ou un crime par un adulte mentalement sain.
  • Pour les délits où l'état mental est important, la constatation d'un fact-finder sur ce qu'un humain comparable aurait eu l'intention ou su créerait une présomption réfutable que le système d'IA avait cet état mental.
  • Le projet de loi entrerait en vigueur immédiatement s'il était adopté. Il ne crée aucun système de licence, régulateur, ou processus requis pour le dépôt ou la décision des réclamations.

Ce que cela signifie pour vous#

  • Personnes blessées qui n'ont pas utilisé un modèle couvert : Vous pourriez déposer une réclamation en vertu de cette nouvelle règle si ses conditions sont remplies. Le projet de loi ne fixe pas de processus séparé pour faire des réclamations.
  • Développeurs : Vous pourriez faire face à une responsabilité pour des blessures qualifiantes même si vous avez exercé un soin, sous réserve des défenses énoncées dans le projet de loi. « Développeur » désigne la personne qui effectue l'entraînement initial du modèle.
  • Utilisateurs et intermédiaires : Leur conduite intentionnelle ou raisonnablement anticipée affecte l'application de la règle de responsabilité des développeurs. Cette section ne crée pas elle-même une règle de responsabilité pour les utilisateurs ou intermédiaires.
  • Personnes affectées par l'IA en général : Le projet de loi ne s'applique qu'aux modèles répondant à ses seuils élevés de calcul d'entraînement et de coût, et uniquement aux blessures répondant à ses autres conditions. Il ne bannit pas l'IA ni n'exige que chaque modèle soit examiné.

Argent#

Aucune information sur les coûts n'est dans le matériel disponible.

  • Le projet de loi ne donne aucune estimation des dépenses publiques, du personnel ou des coûts administratifs.
  • Il pourrait créer une responsabilité financière pour les développeurs de modèles couverts, mais le projet de loi n'estime pas les réclamations ou les paiements.

Ce qui n'est pas clair#

  • Le matériel fourni n'inclut pas la Loi générale sur les affaires actuelle, donc je ne peux pas vérifier comment cela changerait ou interagirait avec les règles de responsabilité existantes.
  • Le projet de loi ne définit pas « échafaudé » ou « autrement modifié », bien que ces changements puissent affecter l'application de la règle de responsabilité.
  • Il n'établit pas comment les réclamations seraient déposées, quelles preuves doivent être fournies, ou comment la défense de la norme de soin humaine serait appliquée.
  • Le projet de loi n'explique pas comment sa présomption réfutable fonctionnerait aux côtés d'autres règles pour prouver un délit.
  • Le texte montre une date d'entrée en vigueur si adopté, mais pas comment la loi s'appliquerait aux modèles entraînés ou aux blessures survenues avant cette date.

Argument pour#

  • Le projet de loi semble destiné à fournir un moyen de compensation lorsqu'un puissant modèle d'IA cause un préjudice grave à quelqu'un qui ne l'a pas utilisé.
  • Traiter certains comportements d'IA comme comparables à des comportements humains pourrait traiter des cas où un développeur pourrait autrement soutenir qu'une IA ne peut pas avoir l'état mental requis pour un délit.
  • Les seuils élevés de calcul et de coût limitent la règle à une catégorie définie de modèles, plutôt que de l'appliquer à tous les systèmes d'IA.
  • Les défenses permettent aux développeurs d'éviter la responsabilité dans les circonstances spécifiées par le projet de loi.

Argument contre#

  • Une préoccupation est que la règle de responsabilité couvre une large gamme de blessures et de comportements, tandis que des termes clés tels que « échafaudé » ne sont pas définis.
  • Les conditions de causalité et de prévisibilité du projet de loi, ainsi que sa défense de norme de soin humaine, peuvent être difficiles à appliquer de manière cohérente.
  • La présomption d'état mental pourrait affecter la manière dont un fact-finder évalue les preuves concernant le comportement d'un système qui n'est pas une personne.
  • Le projet de loi ne fournit aucune estimation des réclamations ou des coûts potentiels, et n'explique pas comment il s'intégrerait aux règles de responsabilité existantes.