Règles de sécurité de l'IA limitent les modèles de pointe

Résumé#

S-10731 est un projet de loi introduit pour modifier les dispositions de la loi générale sur les affaires de New York concernant la loi sur la sécurité et l'éducation de l'IA responsable (RAISE). Il changerait les règles pour les grands développeurs d'IA de pointe, ajouterait des examinateurs indépendants et des limites potentielles en matière de calcul, et élargirait les rapports et l'application. Son objectif déclaré est de traiter les risques catastrophiques et de sécurité liés aux modèles de pointe ; cet objectif n'est pas un résultat garanti. Le projet de loi n'est pas une loi, et le matériel fourni n'inclut pas l'intégralité de la loi actuelle, donc je n'ai pas pu vérifier chaque changement par rapport à la loi actuelle.

• Il définirait un "grand développeur de pointe" par ses dépenses liées à l'IA—plus de 1 milliard de dollars sur 36 mois—au lieu du seuil de revenus indiqué comme loi actuelle dans le projet de loi. Il abaisserait également le seuil de calcul pour un "modèle de pointe" de 10²⁶ à 10²⁵ opérations.
• Les grands développeurs devraient publier et suivre un cadre de sécurité, rapporter des évaluations spécifiées à l'État, et embaucher des examinateurs indépendants. Le projet de loi ajoute des divulgations requises concernant l'utilisation interne de l'IA, la recherche automatisée en IA, et les évaluations des risques.
• Le bureau du Département des services financiers de l'État devrait établir des normes de sécurité minimales contraignantes d'ici le 1er janvier 2029. Il pourrait également établir des règles pour ordonner des limites sur certaines utilisations de calcul.
• Le projet de loi élargirait ce qui compte comme un incident de sécurité critique et exigerait des développeurs qu'ils rapportent des incidents, généralement dans les 72 heures. Un incident posant un risque imminent de mort ou de blessure grave doit être divulgué à une autorité appropriée dans les 24 heures.
• Le Procureur général pourrait demander des pénalités allant jusqu'à 1 million de dollars par jour pour une première violation et 3 millions de dollars par jour pour une violation ultérieure, et pourrait demander à un tribunal des ordonnances pour arrêter une activité ou restreindre l'utilisation d'un modèle à New York.

Ce que cela signifie pour vous#

• Grands développeurs d'IA de pointe : Ils devraient respecter le nouveau cadre, les exigences de rapport, de tenue de dossiers et d'examinateurs. Ils paieraient pour retenir des examinateurs. Le bureau pourrait exiger un deuxième examinateur dans des cas spécifiés.
• Autres développeurs de pointe : Ils devraient publier des rapports de transparence avant ou lors du déploiement d'un modèle de pointe nouveau ou substantiellement modifié et rapporter des incidents de sécurité critiques. La définition élargie des incidents du projet de loi inclut certains accès non autorisés aux poids de modèles non publiés, des comportements de modèles qui contournent les contrôles des développeurs, et certains dommages aux systèmes informatiques externes.
• Employés de grands développeurs : Les employeurs devraient fournir des avis sur les droits des lanceurs d'alerte, y compris aux nouveaux employés et aux employés à distance, et ne pourraient pas utiliser des règles ou des contrats de travail pour bloquer les activités protégées décrites dans le droit du travail.
• Le public : Quiconque pourrait signaler un incident de sécurité critique au bureau. Le projet de loi ne crée pas de droit privé de poursuivre pour violations. Les rapports d'examinateurs publics et les résumés de l'État pourraient être expurgés pour protéger les secrets commerciaux, la sécurité, la sûreté ou la sécurité nationale.
• L'État : Le bureau aurait de nouveaux devoirs de réglementation, de révision et de surveillance. Un tribunal—et non le bureau agissant seul—pourrait ordonner à un développeur d'arrêter une activité ou de restreindre le déploiement, l'utilisation ou la disponibilité d'un modèle à New York.

Argent#

Aucune information disponible publiquement.

• Le projet de loi exigerait que les grands développeurs paient pour les examinateurs, et que le bureau retienne un examinateur pour vérifier la conformité avec toute ordonnance de limite de calcul. Il ne donne aucune estimation de coût.
• Il exigerait des réglementations, des révisions et des rapports de l'État. Le projet de loi ne donne aucune estimation de personnel ou de budget pour ce travail.
• Aucun changement de taxe, de frais ou de bénéfice public n'est spécifié.

Ce qui n'est pas clair#

• Le projet de loi fixe les nouvelles normes de sécurité à échéance au 1er janvier 2029, mais ne dit pas quand ces réglementations prendraient effet ni ce que les normes exigeraient en pratique.
• Le bureau peut ordonner des limites sur l'utilisation de calcul, mais le projet de loi laisse les circonstances et la procédure aux réglementations futures. Il ne fixe pas de limite spécifique.
• "Augmentation substantielle" du risque signalé ou de l'automatisation de la recherche en IA n'est pas défini dans le projet de loi.
• Le projet de loi permet des expurgations et des soumissions confidentielles. La quantité d'informations que le public verrait en pratique n'est pas claire.
• La date d'entrée en vigueur est liée au Chapitre 699 des Lois de 2025. Le matériel fourni n'explique pas la date d'entrée en vigueur de cette loi ni comment le calendrier fonctionne.

Argument pour#

• Le projet de loi semble destiné à amener les grands développeurs à évaluer et à divulguer les risques non seulement avant le déploiement, mais aussi en raison de l'utilisation interne et de la recherche assistée par IA.
• Des examinateurs indépendants pourraient fournir à l'État et au public des vérifications des propres évaluations de sécurité et déclarations publiques d'un développeur.
• Un signalement plus rapide des incidents et le pouvoir de demander des ordonnances judiciaires pourraient permettre d'agir lorsqu'un risque sérieux est signalé ou considéré comme imminent.
• Le projet de loi demande au bureau de peser les risques par rapport aux avantages sociétaux et de considérer si un sujet est suffisamment compris pour être réglementé.

Argument contre#

• Le projet de loi donnerait aux régulateurs et aux tribunaux un pouvoir significatif pour limiter l'utilisation de calcul ou restreindre un modèle à New York, tout en laissant des détails importants aux règles et décisions futures.
• Des examens indépendants fréquents et un accès étendu à des informations internes pourraient être coûteux et lourds pour les grands développeurs ; le projet de loi ne fournit aucune estimation de coût.
• Des définitions d'incidents larges et des pénalités allant jusqu'à des millions de dollars par jour pourraient créer de l'incertitude quant à ce qui doit être signalé et ce qui compte comme une violation.
• La transparence publique a des limites : les rapports peuvent être expurgés, et les rapports sur les incidents et les évaluations d'utilisation interne seraient généralement exemptés de la divulgation des dossiers publics.