La police devrait lister les outils d'IA d'enquête

Résumé#

HB 1295, « Application de la loi; inventaire de l'intelligence artificielle, action civile », modifierait le Code de la Virginie en ajoutant une nouvelle section. Il exigerait des agences d'application de la loi, tant au niveau étatique que local, y compris les départements de shérif, de publier un inventaire annuel de certains systèmes d'IA. Le projet de loi n'a pas de déclaration de but distincte ; son objectif apparent est de rendre l'utilisation de ces systèmes par les forces de l'ordre plus visible et exécutoire. Le matériel fourni indique qu'il a été introduit, donc ces règles sont proposées, non en vigueur.

  • Chaque agence devrait publier son inventaire d'ici le 1er novembre de chaque année. Pour chaque système couvert, l'inventaire doit décrire son nom, ses capacités et limites, les données d'entrée et de sortie, ainsi que les utilisations autorisées et non autorisées.
  • Les « systèmes d'IA couverts » incluraient les systèmes utilisés pour aider aux enquêtes, y compris les systèmes qui génèrent des pistes ou aident matériellement à rédiger des rapports de police. Le projet de loi mentionne l'identification biométrique, le phénotypage ADN, la généalogie génétique d'enquête, le suivi et la surveillance, la détection d'anomalies et de coups de feu, le maintien de l'ordre prédictif, l'évaluation des risques, l'analyse comportementale et des sentiments, l'analyse de convoi, l'analyse de fraude et de transactions financières, la criminalistique des appareils mobiles, les plateformes d'intégration de données et l'analyse des médias sociaux.
  • Le projet de loi exclut l'IA utilisée pour des tâches administratives qui n'affectent pas matériellement les enquêtes, telles que les outils de productivité ou de gestion de documents, et l'IA générative utilisée pour vérifier l'orthographe ou la grammaire. Il exclut également l'IA encore utilisée pour le développement, le prototypage ou la recherche avant d'être mise à disposition des déployeurs ou des consommateurs.
  • Le Procureur général peut enquêter et, si nécessaire, poursuivre une agence pour obtenir un recours équitable ou déclaratoire (une ordonnance du tribunal ou une déclaration formelle des droits).
  • Une personne vivant dans la juridiction d'une agence peut également poursuivre pour faire respecter les exigences, mais doit d'abord donner un avis écrit au moins 90 jours avant de déposer. Un plaignant gagnant aurait droit à des frais d'avocat et à des coûts raisonnables.

Ce que cela signifie pour vous#

  • Agences d'application de la loi et départements de shérif : Elles devraient préparer et publier l'inventaire requis chaque année. Le projet de loi ne leur impose pas de cesser d'utiliser un système listé ou d'obtenir une approbation publique avant de l'utiliser.
  • Personnes vivant dans la juridiction d'une agence : Elles pourraient engager une action civile pour faire respecter les règles d'inventaire après avoir donné à l'agence ou à la subdivision politique l'avis requis de 90 jours. Le projet de loi prévoit un recours équitable ou déclaratoire, pas de dommages-intérêts.
  • Le Procureur général : Le bureau pourrait enquêter et engager une action civile, mais le projet de loi ne l'y oblige pas.
  • Le public : L'inventaire fournirait des informations sur les systèmes couverts, mais le projet de loi n'exige pas des agences qu'elles publient des dossiers de cas, divulguent des dossiers individuels ou expliquent des décisions d'enquête particulières.

Argent#

Aucune information sur les coûts n'est disponible dans le matériel fourni.

  • Les agences devraient consacrer du temps du personnel à la préparation et à la publication des inventaires, mais le projet de loi ne donne aucune estimation de coût ou de personnel.
  • Les agences pourraient faire face à des coûts de litige. Si un plaignant gagne, le projet de loi donne à cette personne droit à des frais d'avocat et à des coûts raisonnables.
  • Le projet de loi ne fixe pas de frais, d'amende ou de source de financement dédiée.

Ce qui n'est pas clair#

  • Les documents fournis n'incluent pas le texte actuel du Code de la Virginie, il n'est donc pas possible de vérifier comment cela interagirait avec les règles de divulgation, de tenue de dossiers ou d'application existantes.
  • Le projet de loi ne fixe pas de date de début ni ne précise quand le premier inventaire serait dû.
  • Il ne définit pas comment les agences devraient décrire les « capacités et limitations » du système, ni décider quelles utilisations sont autorisées ou non autorisées.
  • Il ne fixe pas de format pour l'inventaire ni n'exige des vérifications indépendantes pour s'assurer qu'il est complet ou exact.
  • Il n'explique pas comment gérer les systèmes utilisés par plus d'une agence, ni comment la règle d'inventaire se rapporte à d'autres dossiers publics d'IA.
  • La définition des systèmes couverts est large, mais le projet de loi ne prévoit pas de processus pour résoudre les litiges concernant la couverture d'un système particulier.

Arguments en faveur#

  • Un inventaire public pourrait aider les résidents à voir quels outils d'IA d'enquête leur agence locale utilise et quelles informations ces outils collectent et produisent.
  • Exiger des descriptions des limitations et des utilisations autorisées et non autorisées pourrait faciliter l'examen des pratiques des agences.
  • Le projet de loi permet à la fois au Procureur général et aux résidents locaux de demander des ordonnances judiciaires pour faire respecter le devoir de déclaration.

Arguments contre#

  • Le projet de loi exige des inventaires mais ne nécessite pas de vérifications d'exactitude, de format standard ou de règles détaillées pour décider ce qui compte comme utilisation autorisée. Les informations publiées par les agences pourraient donc varier.
  • La définition large des systèmes couverts, combinée à des limites floues, pourrait laisser les agences incertaines quant aux outils à signaler.
  • Le projet de loi crée un devoir et permet des poursuites sans fournir de financement ni estimer les coûts de personnel et juridiques.
  • Le projet de loi n'exige pas des agences qu'elles changent ou cessent d'utiliser un système, même si son inventaire décrit des limites ou des risques.