L'IA et la surveillance policières auraient de nouvelles règles

Résumé#

Le projet de loi HB 1261, intitulé Agences d'application de la loi; utilisation de certaines technologies et pratiques d'interrogation; laboratoire judiciaire, modifierait le Code de Virginie et ajouterait de nouvelles sections. Son objectif déclaré est d'établir des cadres et des règles de formation à l'échelle de l'État pour l'utilisation de la technologie et des pratiques d'interrogation par les agences d'application de la loi. Le projet de loi est introduit, n'est pas une loi, et le texte fourni se termine avant que plusieurs sections proposées ne soient montrées.

  • Le Département des services de justice pénale, sous la direction du Conseil des services de justice pénale, devrait établir un cadre pour l'utilisation de l'IA générative et de l'apprentissage automatique par les agences d'application de la loi, y compris des politiques, un modèle de politique et une formation pour les agents.
  • Le Département devrait également établir un cadre pour la technologie de surveillance audiovisuelle, y compris les lecteurs de plaques d'immatriculation. Les agences pourraient ajouter des politiques mais ne pourraient pas adopter de politiques qui entrent en conflit avec le modèle de politique du Département.
  • Le Département devrait développer des politiques d'interrogation et une formation pour interroger des adultes et des mineurs, tant en détention qu'en dehors de la détention. Le texte visible indique que les directives aborderaient les fausses promesses de clémence, les affirmations trompeuses concernant les preuves, et les documents répliqués inauthentiques ou les preuves audiovisuelles générées par ordinateur ; il ne bannit pas lui-même ces tactiques.
  • Le projet de loi propose également de nouvelles sections sur la technologie d'application de la loi et un laboratoire judiciaire, mais leur texte n'est pas inclus dans le matériel fourni.

Ce que cela signifie pour vous#

  • Agences d'application de la loi : Le texte visible demande au Département de créer des cadres, des politiques et des normes de formation. Il ne montre pas de processus d'admission ou d'approbation pour l'utilisation de ces outils par une agence.
  • Agents : Le Département établirait des normes de formation obligatoires sur l'IA et l'apprentissage automatique, la technologie de surveillance et les pratiques d'interrogation. La formation sur la surveillance couvrirait les lois pertinentes, la vie privée et les libertés civiles, les opérations, ainsi que la gestion et la conservation des données.
  • Le public : Le texte visible ne crée pas lui-même une interdiction générale sur la technologie de surveillance ou l'IA, ni un nouveau droit de contester leur utilisation. Il établirait des règles et des exigences de formation à l'échelle de l'État.
  • Laboratoires judiciaires et universités : Le titre du projet de loi signale des dispositions concernant l'accréditation des laboratoires judiciaires, mais le texte proposé pertinent est manquant, donc l'effet pratique ne peut pas être déclaré.

Argent#

Aucune information sur les coûts n'est dans le matériel disponible.

  • Le projet de loi assigne de nouveaux travaux de politique et de formation au Département, mais le matériel fourni ne donne aucune estimation de personnel ou de dépenses.
  • Aucune information n'est fournie sur les coûts pour les agences d'application de la loi, les laboratoires judiciaires ou les universités.

Ce qui n'est pas clair#

  • Le texte du projet de loi fourni est coupé pendant les dispositions d'interrogation. Il n'inclut pas les nouvelles sections proposées ni le reste du projet de loi.
  • Les changements exacts à la loi actuelle ne peuvent pas être entièrement vérifiés. Le texte fourni montre les devoirs existants du Département, mais ne marque pas clairement tous les changements ; le texte actuel des autres sections affectées n'est pas fourni.
  • Il n'est pas clair ce que la section proposée liée à la technologie exigerait des agences locales, et ce que les règles d'accréditation des laboratoires judiciaires couvriraient.
  • Le texte visible ne donne pas de délais, de règles de surveillance ou de rapport, ni comment le Département vérifierait la conformité.
  • Le projet de loi n'explique pas comment un "cadre complet" fonctionnerait en pratique ou comment il interagirait avec les politiques et lois existantes des agences.
  • Le projet de loi n'est pas encore une loi, et il est incertain s'il sera adopté.

Argument en faveur#

  • Un argument possible en faveur du projet de loi est que des normes à l'échelle de l'État pourraient donner aux agences une base commune pour utiliser des outils d'IA et de surveillance et gérer les données connexes.
  • La formation requise pourrait aider les agents à comprendre les limites légales, les préoccupations en matière de vie privée et la gestion appropriée des données.
  • Les directives d'interrogation pourraient clarifier comment les agences devraient gérer les tactiques impliquant des affirmations concernant la clémence ou les preuves, y compris le matériel généré par ordinateur.

Argument contre#

  • Une préoccupation est que le Département recevrait une large responsabilité pour établir des règles pour un large éventail de technologies et de pratiques d'interrogation, tandis que le texte visible donne peu de détails sur la surveillance.
  • Le modèle de politique de surveillance limiterait la capacité des agences locales à adopter des politiques conflictuelles, même si le projet de loi ne montre pas comment les différences locales seraient prises en compte.
  • Le projet de loi assigne des travaux de politique et de formation sans estimation des coûts ni détails sur le personnel et les ressources.
  • Comme le texte fourni omet les dispositions relatives aux laboratoires judiciaires et d'autres sections, les lecteurs ne peuvent pas évaluer leurs effets ou coûts.