Exiger la création d'un plan d'intervention d'urgence pour les modèles d'intelligence artificielle

Résumé#

L'introduction 1119-2026, parrainée par le membre du conseil Chi A. Ossé, ajouterait un nouveau chapitre au titre 23 du Code administratif de la ville de New York. Elle exigerait que le Commandement cybernétique du Bureau de la technologie et de l'innovation collabore avec la gestion des urgences de la ville de New York pour créer un plan d'intervention d'urgence ; l'objectif déclaré est de se préparer aux urgences impliquant des modèles d'IA. Le projet de loi est en comité et n'est pas encore une loi.

  • Dans les 120 jours suivant l'entrée en vigueur de la loi, les deux bureaux doivent soumettre un plan au maire et au président du conseil. Le plan doit établir des protocoles pour détecter, évaluer, se préparer, atténuer, répondre et se remettre d'une urgence liée à un modèle d'IA.
  • Les bureaux doivent examiner le plan chaque année et le mettre à jour si nécessaire. Ils doivent également soumettre des rapports annuels sur les urgences liées aux modèles d'IA au cours des 12 mois précédents et sur la mise en œuvre du plan.
  • Le projet de loi définit une urgence liée à un modèle d'IA comme un événement, ou une menace imminente, que les bureaux déterminent comme compromettant les systèmes d'information administrés par la ville ou les infrastructures critiques, ou perturbant de manière significative les opérations du gouvernement municipal ou la santé et le bien-être publics.

Ce que cela signifie pour vous#

  • Agences de la ville : Le Commandement cybernétique et la gestion des urgences de la ville de New York doivent élaborer ou mettre à jour le plan ensemble et rendre compte au maire et au président du conseil. En cas d'urgence, les agences peuvent prendre des mesures non décrites dans le plan.
  • Résidents et entreprises : Le projet de loi crée un devoir de planification et de rapport pour la ville. Il n'exige pas des résidents ou des entreprises qu'ils postulent, se conforment à de nouvelles règles ou reçoivent un nouveau service. Le plan doit être soumis aux responsables de la ville, mais le projet de loi n'exige pas sa publication publique.

Finances#

Aucune information sur les coûts n'est disponible dans le matériel fourni.

  • Le projet de loi attribue des devoirs de planification et de rapport à deux bureaux de la ville mais ne prévoit pas de fonds ni ne précise le personnel.

Ce qui n'est pas clair#

  • Le projet de loi ne fixe pas de critères pour décider quand un événement lié à un modèle d'IA constitue une urgence. Il laisse cette détermination au Commandement cybernétique et à la gestion des urgences de la ville de New York.
  • Il ne précise pas le contenu détaillé du plan, l'accès public ou comment les agences mesureront la mise en œuvre.
  • Il ne dit pas quel personnel ou quelles ressources les agences auront besoin. Le projet de loi définit « infrastructure critique » mais exclut les bâtiments résidentiels et commerciaux.

Argument en faveur#

  • Un argument possible en faveur du projet de loi est qu'un plan couvrant la détection, la préparation, la réponse et la récupération pourrait aider les agences de la ville à coordonner leurs efforts lorsque un modèle d'IA menace les systèmes, infrastructures, opérations ou le bien-être public de la ville.
  • Les examens annuels et les rapports d'avancement pourraient donner aux dirigeants de la ville un moyen récurrent de vérifier si le plan est mis en œuvre et de le mettre à jour si nécessaire.

Argument contre#

  • Une préoccupation est que le projet de loi laisse des décisions clés aux deux bureaux, y compris ce qui constitue une perturbation significative, sans préciser de critères ou exiger une contribution publique.
  • Le plan et les rapports vont au maire et au président du conseil, mais le projet de loi n'exige pas leur publication ni ne crée de surveillance publique.
  • Le projet de loi crée des devoirs continus sans préciser le financement, le personnel ou comment le travail des agences s'intégrerait aux plans d'urgence existants.