Un groupe de travail interagences et un rapport sur une évaluation d'impact genrée de l'intelligence artificielle

Résumé#

Int. 0287-2026, parrainé par le membre du conseil Farah N. Louis, modifierait le Code administratif de la ville de New York. Il ajouterait des divulgations et des devoirs d'évaluation liés au genre pour les agences de la ville et créerait un groupe de travail interagences ; son objectif déclaré est d'examiner les impacts potentiels du genre des outils d'IA. Le projet de loi a été introduit et renvoyé en commission le 29 janvier 2026, et y attend ; il n'est pas encore une loi.

  • Les agences devraient identifier les outils algorithmiques qui utilisent le genre comme entrée ou facteur dans l'analyse ou les résultats.
  • Le Département des technologies de l'information et des télécommunications (DOITT) devrait évaluer si l'utilisation du genre dans ces outils peut causer des impacts inégaux, et publier et soumettre un rapport tous les deux ans, à partir du 31 décembre 2027.
  • L'évaluation impliquerait une consultation avec des organisations de travail, des experts en équité de genre et des représentants de la communauté affectée. L'analyse de l'IA dans le rapport couvrirait les outils identifiés comme utilisant l'IA.
  • Un groupe de travail composé de dirigeants ou de désignés de cinq agences et commissions de la ville nommées devrait se réunir au moins tous les six mois et établir un moyen pour les employés des agences de partager des preuves d'impacts inégaux sur le lieu de travail.

Ce que cela signifie pour vous#

  • Agences de la ville : Leurs divulgations d'outils algorithmiques existants devraient inclure une liste d'outils identifiés comme utilisant le genre. Le projet de loi ne fixe pas de délai pour fournir cette information.
  • Employés des agences : Ils auraient un canal requis pour donner au groupe de travail des informations et des preuves concernant les impacts liés au genre sur leur propre poste ou celui des autres. Le projet de loi ne précise pas comment le canal fonctionnerait.
  • Gouvernement de la ville : Le DOITT devrait publier son évaluation en ligne et l'envoyer au Maire et au Président du Conseil. À chaque réunion, le groupe de travail doit envisager de recommander une action ; il n'est pas tenu de faire des recommandations ou d'exiger des agences qu'elles agissent en conséquence.
  • Le projet de loi ne prohibe pas lui-même un outil d'IA, ne change pas le poste de quiconque, ni ne crée un droit à compensation.
  • Il modifie une règle de rapport d'outils algorithmiques existante, mais le texte actuel du Code administratif n'a pas été fourni, donc le changement complet par rapport à la loi actuelle n'a pas pu être vérifié.

Argent#

Aucune information sur les coûts n'est dans le matériel disponible.

  • Le projet de loi exige des évaluations récurrentes, des consultations, des rapports et des réunions du groupe de travail, mais ne donne aucune estimation de coût, d'effectifs ou de source de financement.

Ce qui n'est pas clair#

  • Le projet de loi ne définit pas "outil algorithmique", "intelligence artificielle", "genre" ou "impacts disparates".
  • Il n'explique pas comment les agences identifient les outils utilisant le genre, ni comment le mécanisme d'information des employés protégera ou traitera les soumissions.
  • Il n'exige pas des agences qu'elles adoptent les recommandations de l'évaluation ou n'explique pas ce qui se passe si des impacts inégaux sont trouvés.

Argument pour#

  • La conception du projet de loi rendrait l'utilisation du genre dans les outils algorithmiques de la ville plus visible grâce aux divulgations des agences et aux rapports publics.
  • La consultation requise et le mécanisme de soumission des employés pourraient apporter des informations de la part de personnes et de groupes affectés par les outils.
  • Le groupe de travail examinerait plusieurs types d'effets sur le lieu de travail, y compris le recrutement, la perte d'emploi, le déplacement partiel et les changements dans les rôles professionnels.

Argument contre#

  • Le projet de loi exige des analyses et des recommandations mais ne nécessite pas de changements aux outils ou d'autres actions lorsque des impacts inégaux potentiels sont identifiés.
  • Le projet de loi ne précise pas comment mesurer les impacts inégaux, identifier les outils couverts ou effectuer les soumissions des employés, laissant des parties importantes du processus ouvertes.
  • Les devoirs récurrents pourraient nécessiter du personnel et d'autres ressources, mais le projet de loi ne fournit aucune estimation de coût ou source de financement.