Uso de IA en informes del crimen por la policía: posibles dificultades exploradas

El uso de chatbots de IA por parte de algunos departamentos de policía de EE. UU. para generar informes de delitos es un arma de doble filo, que promete eficiencia pero está lleno de posibles escollos. Imagina la atracción de reducir el tiempo de redacción de informes a solo segundos, como han experimentado los oficiales de policía de Oklahoma City utilizando Draft One, una herramienta de IA que aprovecha el modelo GPT-4 de OpenAI. Suena revolucionario, ¿verdad? Pero, como con cualquier salto tecnológico, hay riesgos acechando bajo la superficie.

Vamos a profundizar en qué podría salir mal con este enfoque tecnológico. Para empezar, los sistemas de IA, como ChatGPT, han sido conocidos por "alucinar", lo que significa que pueden generar información que no es completamente factual. Aunque Axon, la empresa detrás de Draft One, asegura haber mitigado este problema ajustando el "dial de creatividad", ¿podemos realmente confiar en que cada informe será preciso? Es una apuesta, y en el mundo de la aplicación de la ley, la precisión no es negociable.

El uso de Draft One está actualmente limitado a incidentes "menores" en Oklahoma City, sin que se procesen delitos graves o crímenes violentos a través de la IA. Pero otros departamentos, como los de Fort Collins, Colorado, y Lafayette, Indiana, están yendo más allá al usarlo de manera generalizada. Esto levanta una bandera roja: si la IA se usa para todos los casos, ¿cómo podemos asegurarnos de que la tecnología no comprometa la integridad de estos informes?

Preocupaciones de los Expertos

El académico legal Andrew Ferguson ha expresado preocupaciones sobre cómo la automatización puede llevar a una redacción de informes menos cuidadosa por parte de los oficiales. Es un punto válido: depender de la tecnología podría hacernos complacientes, y en la policía, cada detalle importa. Además, está el problema más amplio de los sistemas de IA que perpetúan sesgos sistémicos. Las investigaciones han demostrado que las herramientas impulsadas por IA, si no se manejan con cuidado, pueden empeorar la discriminación en diversos campos, incluido el de la contratación. ¿Podría ocurrir lo mismo en la aplicación de la ley?

Axon insiste en que cada informe generado por Draft One debe ser revisado y aprobado por un oficial humano, una salvaguarda contra errores y sesgos. Pero esto aún deja espacio para el error humano, que ya es un problema conocido en la policía. ¿Y qué hay de la IA en sí? Los lingüistas han encontrado que los modelos de lenguaje grandes como GPT-4 pueden encarnar un racismo encubierto y perpetuar prejuicios dialectales, particularmente con lenguajes marginados como el inglés afroamericano. Esto es una preocupación seria cuando se trata de garantizar una policía justa y sin sesgos.

Pruebas y Responsabilidad

Axon ha tomado medidas para abordar estas preocupaciones, realizando estudios internos para probar sesgos raciales en los informes de Draft One. No encontraron diferencias significativas entre los informes generados por IA y las transcripciones originales. Pero, ¿es esto suficiente? La empresa también está explorando el uso de visión por computadora para resumir imágenes de video, aunque el CEO Rick Smith reconoce las sensibilidades en torno a la policía y la raza, lo que indica un enfoque cauteloso hacia esta tecnología.

A pesar de estos esfuerzos, el impacto más amplio de la IA en la policía sigue siendo una incógnita. El objetivo de Axon es reducir las muertes relacionadas con armas entre la policía y los civiles en un 50%, pero las estadísticas de la base de datos de tiroteos policiales del Washington Post muestran un aumento en las muertes por parte de la policía desde 2020, incluso con la adopción generalizada de cámaras corporales. Esto sugiere que la tecnología por sí sola no es la solución a problemas sociales complejos.

A medida que más departamentos de policía consideran adoptar herramientas como Draft One, los beneficios y riesgos potenciales seguirán siendo debatidos. Es un momento fascinante, lleno de posibilidades pero también de incertidumbres. La clave será equilibrar la innovación con la responsabilidad, asegurando que la IA mejore en lugar de socavar la integridad de la aplicación de la ley.