Le projet de loi auditerait l'utilisation de l'IA pour biais

Résumé#

Le projet de loi HB 1032, intitulé « Concernant l'utilisation de l'IA par les agences d'État et dans le travail et l'emploi », créerait de nouvelles sections de la loi de l'Ohio et modifierait des sections existantes sur les droits civils, les licenciements, les employés publics et les prestations de chômage. Son objectif déclaré est de traiter l'utilisation de l'intelligence artificielle par les agences d'État et dans le travail et l'emploi ; il s'agit d'un projet de loi introduit, pas d'une loi. Le texte fourni n'inclut pas le projet de loi complet ni les versions actuelles des lois qu'il modifierait, donc les changements n'ont pas pu être entièrement vérifiés par rapport à la loi actuelle.

• Les agences d'État devraient faire rapport sur leurs systèmes d'IA au Département des services administratifs de l'Ohio (DAS). Le directeur du DAS publierait un inventaire public annuel et évaluerait les systèmes pour discrimination illégale et impact disparate.
• Les agences d'État ne pourraient généralement pas acheter d'IA à moins que son utilisation ne soit spécifiquement autorisée par la loi. Elles ne pourraient également pas l'utiliser pour des fonctions d'assistance publique ou des fonctions qui affectent matériellement les droits, les libertés civiles, la sécurité ou le bien-être des personnes, à moins que l'utilisation ne soit spécifiquement autorisée par la loi. Avant de déployer l'IA qu'elles sont autorisées à acheter, les agences devraient obtenir un audit indépendant des biais et publier ses résultats au moins 60 jours avant le déploiement.
• Les employeurs seraient interdits d'utiliser des processus décisionnels automatisés en matière d'emploi d'une manière qui entraîne certaines actions d'emploi défavorables en raison de caractéristiques énumérées. Ils devraient également donner un préavis écrit concernant l'utilisation du processus, son nom commercial, et les types et sources d'informations personnelles qu'il traitera ou analysera.
• Les employeurs tenus de donner un avis d'un licenciement collectif ou d'une fermeture d'usine couverte devraient signaler s'il est lié à l'IA ou à un autre changement technologique. Les demandes de chômage et certains rapports d'employeurs demanderaient également si un licenciement était dû à l'IA.
• L'utilisation de l'IA par un employeur public serait expressément incluse parmi les questions soumises à la négociation collective, avec les droits de gestion existants également abordés dans le projet de loi.

Ce que cela signifie pour vous#

• Utilisateurs d'agences d'État et contribuables : Les agences devraient inventorier leurs systèmes d'IA et rapporter des détails incluant les utilisations, le fournisseur, l'accès aux informations personnelles, les risques et le coût des économies de temps. Le directeur devrait rendre l'inventaire public et évaluer les systèmes pour discrimination. Le projet de loi ne prévoit pas de processus permettant aux individus de contester l'utilisation de l'IA par une agence.
• Personnes postulant ou travaillant dans des emplois : Les employeurs devraient donner un préavis écrit si un processus décisionnel automatisé lié à l'emploi sera utilisé dans une décision concernant l'emploi. La définition du projet de loi inclut, par exemple, le filtrage de CV et l'analyse de la parole ou des expressions faciales lors d'entretiens en ligne. Un individu pourrait déposer une plainte pour discrimination à l'emploi en raison d'une utilisation interdite ou d'un manquement à donner un avis.
• Travailleurs affectés par des licenciements : Si un licenciement couvert ou une fermeture d'usine est lié à l'IA ou à un autre changement technologique, les employeurs devraient le signaler dans les avis aux fonctionnaires d'État et locaux. Le projet de loi ajoute également des questions liées à l'IA à certains documents de chômage ; il ne change pas qui est éligible aux prestations dans le texte fourni.
• Employés publics et syndicats : Le projet de loi ferait expressément de l'utilisation de l'IA par un employeur public un sujet de négociation collective. Il ne supprime pas les droits de gestion déclarés de l'employeur public, tout en précisant que les effets sur l'emploi, y compris l'utilisation de l'IA, sont soumis à la négociation.
• Personnes recevant une assistance publique : Le projet de loi limiterait l'utilisation de l'IA par les agences dans les fonctions liées à la délivrance des prestations d'assistance publique, à moins que l'utilisation ne soit spécifiquement autorisée par la loi. Il ne change pas lui-même les montants des prestations ou les règles d'éligibilité.

Argent#

Aucune information disponible publiquement.

• Le projet de loi exigerait du personnel des agences du temps pour les inventaires et les évaluations, et exigerait des audits indépendants avant le déploiement de l'IA que les agences sont autorisées à acheter. Il ne donne aucune estimation de coût ou de nombre de personnel.
• Les employeurs pourraient faire face à des coûts pour donner les avis requis et rapporter des informations sur les licenciements. Aucune estimation n'est fournie.

Ce qui n'est pas clair#

• Le texte fourni se termine en cours de route dans les amendements à la loi sur le chômage et n'inclut pas le projet de loi complet, y compris les sections proposées sur les audits de biais. Aucune information disponible publiquement.
• Le projet de loi utilise différentes définitions de l'IA dans différentes sections. Comment ces définitions s'appliqueraient à des systèmes particuliers n'est pas clair.
• Le projet de loi ne précise pas les méthodes complètes d'audit ou d'évaluation d'impact, à quelle fréquence les évaluations doivent avoir lieu, ou ce qui se passe si une évaluation trouve un problème.
• Le texte fourni ne précise pas quand le projet de loi entrerait en vigueur. Son statut est introduit, donc son adoption est incertaine.
• Les lois parentes n'ont pas été fournies, donc les changements n'ont pas pu être vérifiés par rapport à la loi actuelle de l'Ohio.

Argument pour#

• Un inventaire public pourrait aider les résidents à voir quels systèmes d'IA les agences d'État utilisent, ce qu'ils font et quels risques les agences identifient.
• Des audits indépendants des biais avant le déploiement et des évaluations continues des agences pourraient aider à détecter des effets discriminatoires avant ou pendant l'utilisation.
• Un préavis informerait les candidats à l'emploi et les employés lorsque des processus automatisés sont utilisés et quelles informations personnelles ils analysent.
• Signaler si les licenciements sont liés à l'IA pourrait donner aux fonctionnaires publics et aux travailleurs concernés des informations plus claires sur la cause déclarée.

Argument contre#

• La restriction sur l'achat d'IA, et sur son utilisation pour des fonctions publiques spécifiées, est large : les agences auraient besoin d'une autorisation légale spécifique. Le projet de loi n'explique pas comment cette autorisation serait définie ou comment elle fonctionnerait avec les services existants.
• Les devoirs d'audit, d'évaluation, d'inventaire et de notification pourraient nécessiter du personnel et de l'argent, mais les documents du projet de loi ne fournissent aucune estimation.
• Le projet de loi n'explique pas pleinement les normes d'audit, la supervision des évaluations du directeur, ou quels recours suivent si un système d'agence est trouvé responsable de discrimination illégale ou d'impact disparate.
• Différentes définitions de l'IA et des processus décisionnels automatisés pourraient rendre flou quels systèmes sont couverts et ce que les agences ou les employeurs doivent faire.