La policía usó IA para redactar informes, y esta dijo que el policía se convirtió en una rana. Eso es un problema | Carscoops

      Un informe policial generado por IA muestra cómo los registros de paradas de tráfico pueden ser peligrosamente defectuosos

      hace 8 horas

      por Stephen Rivers

      La IA de la policía afirmó falsamente que un agente se convirtió en una rana durante una detención.

      El error muestra lo fácilmente que la IA puede interpretar mal el audio de fondo.

      Los informes policiales mal redactados pueden acompañar a los conductores durante muchos años.

      Las paradas de tráfico no son divertidas para nadie, pero hay un problema nuevo que suena tan falso como el policía-rana de nuestra imagen principal. En diciembre, la policía de Heber City, en Utah, tuvo que explicar por qué un informe policial generado por IA afirmaba que un agente se había convertido literalmente en una rana. El culpable no fue un becario sarcástico ni un agente rebelde. Fue la inteligencia artificial alucinando.

      Más: Una pegatina legal para matrícula que engaña a las cámaras de IA de la policía aún podría enviarte a la cárcel en Florida

      El departamento estaba probando un software impulsado por IA para redactar informes que escucha las grabaciones de las cámaras corporales y genera automáticamente informes policiales. Desafortunadamente, el sistema captó el audio de La princesa y el sapo reproduciéndose en el fondo e incorporó eso con confianza en el registro oficial.

      «El software de la cámara corporal y el software de redacción de informes con IA detectaron la película que se estaba reproduciendo de fondo, que resultó ser ‘La princesa y el sapo'», dijo el sargento Keel a Fox 13. «Ahí fue cuando aprendimos la importancia de corregir estos informes generados por IA.»

      Ahora bien, eso es objetivamente hilarante, pero también algo preocupante. Según la emisora, estas herramientas de IA están diseñadas para ahorrar tiempo a los agentes al convertir el audio de las cámaras corporales en informes escritos. En teoría, eso significa menos papeleo y más tiempo de patrulla.

      Cuando el software escribe la historia

      En la práctica, también significa que un algoritmo ahora está interpretando conversaciones, tonos y ruido de fondo durante los encuentros en la carretera, incluidas las paradas de tráfico que pueden tener consecuencias a largo plazo para los conductores.

      Departamento de Seguridad Pública de Utah

      Puede ser fácil ver una parada de tráfico como una interacción breve, pero los registros de esas paradas pueden ser permanentes. Ese informe puede influir en paradas futuras, procesos judiciales, reclamaciones de seguros, suspensiones de licencia e incluso verificaciones de antecedentes laborales.

      Dicho de otra forma, cuando la IA se equivoca, no es solo un error tipográfico. Es desinformación incorporada en un documento oficial.

      Casi suficiente no basta

      En el caso de Heber City, el error fue lo bastante obvio como para reírse. Pero, ¿qué pasa cuando una IA interpreta mal quién dijo qué, malinterpreta el tono de un conductor o resume incorrectamente por qué una detención se escaló? Esos errores son mucho más problemáticos.

      No solo podrían ser más difíciles de detectar, sino que ¿corregirá cada agente un lenguaje que es parecido pero quizá más intenso de lo que debería si es «lo suficientemente cercano»?

      Por ahora, parece que la mejor medida para los conductores cotidianos es comenzar a usar una cámara de tablero (dashcam) y otros dispositivos de grabación para asegurar un registro con el que la IA no pueda manipular.

      Solicitar las grabaciones de las cámaras corporales y los informes a través de la Ley de Libertad de Información (Freedom of Information Act) también puede resultar vital. Una rana en un informe es divertido, pero tu historial permanente ante las autoridades legales no es un juego.

      Departamento de Seguridad Pública de Utah