Programme d'évaluation nucléaire de l'IA avancée

Résumé#

Ce projet de loi crée un nouveau programme fédéral géré par le ministère de l'Énergie (via les laboratoires nationaux) pour tester l'intelligence artificielle avancée afin d'évaluer les risques de provoquer ou de faciliter un incident lié au nucléaire. Il exige que les grands développeurs d'IA donnent au programme accès à des modèles et à des matériaux connexes, établit des règles de confidentialité, permet des assignations à comparaître et des amendes en cas de non-conformité, et charge le ministère de produire des recommandations pour la gestion des incidents et pour d'éventuelles nouvelles lois. Le programme dure jusqu'à sept ans et doit faire rapport au Congrès dans un délai d'un an.

• Changement principal : Établit le "Programme d'évaluation nucléaire de l'intelligence artificielle avancée" pour tester et évaluer les risques liés aux armes nucléaires, aux matériaux, aux installations ou aux scénarios de perte de contrôle.
• Participation obligatoire : Les entreprises définies comme "grands développeurs d'IA avancée" doivent participer et fournir un accès aux modèles, y compris les poids et les versions des modèles sans atténuations de sécurité lorsque cela est nécessaire pour les tests.
• Outils d'application : Le secrétaire à l'Énergie peut imposer des pénalités civiles (jusqu'à 1 million de dollars par violation), émettre des assignations à comparaître pour contraindre l'accès, et référer l'application civile au ministère de la Justice.
• Confidentialité : Les données soumises sont généralement exemptées de divulgation publique, mais le secrétaire peut divulguer des informations dans des cas spécifiques (ordonnance du tribunal, consentement du participant, demande du Congrès, ou pour la sécurité nationale/la sécurité publique), et peut publier des données anonymisées ou agrégées qui n'incluent pas de secrets commerciaux.
• Rapports et travail politique : Le secrétaire doit évaluer les données du programme, recommander des modifications législatives ou réglementaires dans un délai d'un an, mettre à jour les recommandations chaque année, et peut émettre des politiques ou des normes pour les laboratoires nationaux en fonction des résultats du programme.

Ce que cela signifie pour vous#

• Grandes entreprises / développeurs d'IA

  • Si vous répondez à la définition du projet de loi d'un "grand développeur d'IA avancée" (y compris au moins 2 milliards de dollars dépensés en développement d'IA au cours des cinq dernières années), vous devez participer au programme et fournir un accès aux modèles et à la documentation nécessaires pour les tests.
  • Vous devrez peut-être fournir des poids de modèle et des versions non atténuées des modèles pour les tests et l'évaluation.
  • Vous risquez des amendes, des assignations à comparaître et des actions civiles si vous refusez ou entravez la participation.

• Laboratoires nationaux et ministère de l'Énergie

  • Les laboratoires effectueront des tests, des évaluations par des équipes rouges et des évaluations de modèles à l'aveugle pour rechercher des risques liés au nucléaire et des comportements tels que le "jailbreaking" ou la "manigance."
  • Les laboratoires prépareront des rapports pour les participants qui énumèrent les résultats des tests et les risques et mesures de sécurité testés.
  • Le ministère développera des recommandations de gestion et de contingence et pourra émettre des politiques ou des normes départementales pour la conduite des laboratoires.

• Congrès et décideurs fédéraux

  • Le ministère doit soumettre un rapport dans un délai d'un an identifiant les tendances et les recommandations législatives (par exemple, licences, surveillance ou création de nouvelles agences), et mettre à jour ces recommandations chaque année.

• Sécurité publique et sécurité nationale

  • Le programme est conçu pour identifier et réduire les risques que l'IA avancée puisse générer des informations techniques, faciliter la militarisation, provoquer des événements de perte de contrôle, ou permettre à des adversaires étrangers ou à des organisations terroristes d'accéder ou de détourner des systèmes nucléaires.

• Autres développeurs, chercheurs et le public

  • Le projet de loi se concentre sur les grands développeurs et les laboratoires nationaux. Il n'y a pas d'exigence nouvelle directe pour les petites entreprises d'IA ou les chercheurs individuels dans le texte du projet de loi.

Dépenses#

Aucune information disponible publiquement sur une estimation formelle des coûts ou une note fiscale n'est incluse dans le texte du projet de loi.

• Le projet de loi exige que le ministère de l'Énergie et les laboratoires nationaux effectuent des tests, des évaluations par des équipes rouges, des rapports et des travaux de réglementation. Cela nécessiterait probablement du temps de personnel, des ressources de laboratoire, des ressources informatiques, et éventuellement de nouveaux contrats ou installations.
• Les entreprises participantes peuvent encourir des coûts pour préparer et fournir en toute sécurité des poids de modèle, des versions de modèle non atténuées, et de la documentation.
• Le projet de loi permet des pénalités civiles (jusqu'à 1 million de dollars par violation) mais ne précise pas si les revenus des pénalités compenseraient les coûts du programme.
• Étant donné que le projet de loi supprime l'exigence de la Loi sur la réduction de la paperasse pour ce programme, le reporting administratif peut se poursuivre sans ce processus de validation.

Point de vue des partisans#

• Le projet de loi semble destiné à réduire le risque que l'IA avancée puisse permettre ou provoquer directement des incidents liés au nucléaire en créant un programme formel de test et d'évaluation.
• Les partisans peuvent faire valoir que des évaluations structurées par des équipes rouges, des évaluations à l'aveugle, et des tests pour le comportement de jailbreaking et de manigance révéleront des capacités dangereuses avant que les modèles ne soient largement déployés.
• L'exigence de participation des développeurs du programme et l'autorité du ministère à contraindre l'accès par assignation pourraient aider à garantir que les tests utilisent de vrais modèles et des entrées réalistes.
• Les rapports et recommandations législatives du projet de loi visent à fournir au Congrès et aux agences les informations nécessaires pour envisager d'autres lois ou cadres réglementaires pour l'IA à haut risque.

Point de vue des opposants#

• Une préoccupation est que le projet de loi exige que les entreprises partagent des poids de modèle et des versions non atténuées, ce qui pourrait exposer des secrets commerciaux ou des propriétés intellectuelles sensibles ; le projet de loi offre des protections limitées et permet la divulgation dans plusieurs circonstances.
• Le secrétaire a une large discrétion pour divulguer des informations sur les participants pour des raisons de sécurité nationale ou de sécurité publique et pour répondre aux demandes du Congrès ; les normes pour ces divulgations ne sont pas strictement spécifiées dans le projet de loi.
• Il n'est pas clair comment le programme traitera les données classifiées, les systèmes propriétaires, ou les développeurs basés à l'étranger et si des conflits juridiques ou opérationnels pourraient survenir.
• Le projet de loi laisse certains seuils et définitions clés à la réglementation future (par exemple, le seuil de puissance de calcul pour "l'IA avancée" et d'autres déterminations), donc la portée et la couverture exactes sont incertaines jusqu'à ce que le secrétaire émette des règles.
• Les niveaux de pénalité civile et la structure d'application globale peuvent soulever des questions sur leur adéquation ou si des contestations juridiques suivraient si les entreprises résistent à la divulgation contrainte.