L'utilisation de l'IA dans la police nécessiterait une divulgation

Résumé#

HB 1294, « Utilisation d'outils basés sur l'intelligence artificielle; intelligence artificielle couverte, divulgation de l'utilisation », modifierait et rétablirait une section existante de la loi de Virginie sur l'utilisation de l'IA par les forces de l'ordre. L'objectif déclaré n'est pas donné dans le texte fourni; la proposition établit des règles pour la divulgation, les dossiers, les décisions humaines et l'application. La version actuelle de la loi n'a pas été fournie, il n'est donc pas possible de vérifier lesquelles de ces règles seraient nouvelles.

  • « Intelligence artificielle couverte » inclut l'IA utilisée pour aider une enquête criminelle ou pour rédiger ou aider matériellement à rédiger des rapports de police et des dossiers connexes. Elle couvre l'identification biométrique, le phénotypage ADN, la généalogie génétique, le suivi inter-caméras, le suivi de véhicules (y compris les lecteurs de plaques d'immatriculation automatisés), la détection d'anomalies, la détection de coups de feu, le maintien de l'ordre prédictif basé sur des personnes, le scoring de risque, l'analyse comportementale, d'opinion et de convoi, l'analyse de fraude et de transactions financières, et l'analyse de réseaux sociaux ou de médias sociaux. Elle exclut les outils administratifs qui ne modifient pas matériellement une enquête et l'IA utilisée uniquement pour l'orthographe ou la grammaire.
  • Les agents des forces de l'ordre devraient divulguer l'utilisation de l'IA couverte dans le rapport de police officiel. Après une arrestation ou une citation, ce rapport doit être envoyé à l'avocat du Commonwealth et à la personne ou à son avocat. Une utilisation ultérieure de l'IA après arrestation doit être divulguée aux deux parties dès que possible et dans un délai de 30 jours.
  • Les rapports ou autres dossiers d'enquête réalisés en tout ou en partie avec de l'IA générative nécessiteraient un avertissement, l'identification du contenu généré par l'IA lorsque cela est techniquement faisable, et la certification de l'auteur qu'il l'a examiné pour en vérifier l'exactitude. Le premier brouillon doit être conservé aussi longtemps que le dossier final; le programme doit conserver une piste de vérification de l'utilisateur, des modifications et de toute vidéo ou audio utilisée.
  • Les décideurs humains resteraient responsables des décisions concernant la libération ou la détention avant procès, la poursuite, le jugement, la condamnation, la probation, la libération conditionnelle, la supervision correctionnelle et la réhabilitation. Les recommandations ou prédictions de l'IA restent soumises aux contestations ou objections autorisées par la loi existante.
  • Le Procureur Général peut enquêter et poursuivre pour obtenir un recours équitable ou déclaratoire. Un résident dans la juridiction d'une agence peut également poursuivre pour ce recours après avoir donné à l'agence un préavis écrit d'au moins 90 jours pour corriger la violation alléguée. Un plaignant ayant réussi a droit à des honoraires d'avocat raisonnables et à des frais.

Ce que cela signifie pour vous#

  • Agences des forces de l'ordre : Elles devraient respecter les exigences de divulgation, de tenue de dossiers et de piste de vérification pour l'utilisation de l'IA couverte. Le projet de loi ne fixe pas de processus de demande, d'examen ou d'approbation pour l'utilisation de l'IA.
  • Personnes enquêtées ou accusées : Après une arrestation ou une citation, vous ou votre avocat recevrez le rapport de police officiel, y compris les détails requis sur l'utilisation de l'IA. Une utilisation ultérieure de l'IA couverte après arrestation doit également être divulguée dans un délai de 30 jours. Le projet de loi ne crée pas un nouveau droit de contester les recommandations de l'IA; il fait référence aux contestations autorisées par la loi existante.
  • Résidents : Une personne vivant dans la juridiction d'une agence pourrait intenter une action civile pour faire respecter la section, mais doit d'abord donner à l'agence un préavis écrit de 90 jours pour remédier à la violation alléguée.
  • Personnes affectées par des décisions de justice pénale : Les décisions énumérées doivent être prises par un décideur humain. Le projet de loi ne dit pas que l'IA ne peut jamais informer ces décisions.

Argent#

Aucune information sur les coûts n'est dans le matériel fourni. Aucune information disponible publiquement.

  • Le projet de loi ne donne aucune estimation des dépenses, source de financement ou nombre de personnel. Les agences devraient respecter ses règles de tenue de dossiers et de piste de vérification, mais le coût n'est pas indiqué.
  • Une agence pourrait devoir payer des honoraires d'avocat raisonnables et des frais si un plaignant l'emporte. Le projet de loi ne fixe pas d'amende ou de frais à la charge du public.

Ce qui n'est pas clair#

  • Le texte actuel de la loi étant modifiée n'a pas été fourni, donc les changements par rapport à la loi actuelle ne peuvent pas être vérifiés.
  • Le projet de loi ne fixe pas de date de début, de délais de rapport pour les enquêtes qui ne mènent pas à une arrestation ou à une citation, ou de processus pour donner des divulgations dans ces cas.
  • Il ne définit pas comment décider si l'IA « aide matériellement » un rapport, ou ce qui compte comme une enquête étant matériellement modifiée.
  • Il n'explique pas comment les agences doivent s'assurer qu'un programme d'IA conserve la piste de vérification requise, ou ce qui se passe si l'identification du contenu généré n'est pas techniquement faisable.
  • Il ne fixe pas de règles pour la surveillance, le traitement des plaintes ou les recours au-delà des actions civiles décrites.

Argument pour#

  • La proposition pourrait rendre l'utilisation de l'IA dans les enquêtes plus visible pour les procureurs et les personnes faisant face à des accusations criminelles.
  • La conservation des brouillons et des pistes de vérification pourrait aider à montrer qui a utilisé l'IA, ce qui a changé et quelles séquences sources ont été utilisées.
  • Exiger un décideur humain préserve la responsabilité humaine pour les décisions majeures de justice pénale tout en permettant l'utilisation des recommandations de l'IA.
  • La période de préavis de 90 jours donne à une agence la possibilité de remédier à une violation alléguée avant qu'un résident n'intente une action en justice.

Argument contre#

  • La définition de l'IA couverte atteint de nombreux types d'outils d'enquête, mais le projet de loi n'explique pas comment les agences devraient classer les outils ou utilisations limites.
  • Les obligations de divulgation et de tenue de dossiers pourraient nécessiter du temps et des changements techniques pour les agences; le projet de loi ne donne aucune estimation de coût ou de financement.
  • Certains contenus générés doivent seulement être identifiés lorsque cela est techniquement faisable, ce qui pourrait laisser des lacunes dans ce que les lecteurs peuvent dire a été généré par l'IA.
  • Le projet de loi ne précise pas clairement quand la divulgation est due si une enquête ne mène pas à une arrestation ou à une citation.