Al finalizar una mesa redonda sobre el tema “Inteligencia artificial y juzgamiento de un delito”, se levanta una mano en el gran anfiteatro de la Universidad Panthéon-Assas de París. “Me sorprende muchísimo que pudiéramos siquiera plantearnos por un segundo automatizar la decisión de juzgar: ¡es una de las más complejas que existen! exclama el magistrado Olivier Chevet. Cuando veo que McDonald’s está dando marcha atrás en la automatización de la toma de pedidos…”
Unos momentos antes, uno de los oradores había avanzado, desde la tribuna, el controvertido principio de “juez hambriento” según el cual un juez es más severo cuando tiene hambre. ” Sabemos que La IA tiene sesgospero los humanos también »declaró, sugiriendo que la justicia algorítmica podría, en ciertos casos, ser más efectiva y menos sesgada que la justicia administrada por hombres.
“Juez robot” y “justicia predictiva”
Estas preguntas vertiginosas atormentan cada vez a más profesionales del derecho. La elección de la Asociación Internacional de Derecho Penal (AIDP) de haberlo convertido en el tema central de su centenario, organizado en París del 25 al 28 de junio, es una señal de ello. Especialistas de todo el mundo se reunieron en la prestigiosa Universidad de Assas para discutir no sólo el muy hipotético “juez robot”, sino también aplicaciones menos lejanas, incluso ya implementadas en la actualidad.
Sólo en Francia, unas 300 nuevas empresas jurídicas (Doctrine y Case Law Analytics, las más conocidas) ocupan actualmente este ámbito. Los servicios ofrecidos por estas “legaltechs” van desde la búsqueda de fuentes legales hasta la redacción de contratos, incluida la “justicia predictiva”.
Esto, considerado por la nueva normativa europea sobre IA como una tecnología de “alto riesgo”, permite anticipar el resultado de un litigio después de haber pasado por el molino algorítmico corpus jurídicos muy importantes. Con el riesgo de amplificar ciertos sesgos.
Ganar tiempo
Regularmente criticada por su lentitud, ¿se beneficiaría la justicia de adoptar tecnologías que prometan ahorrarle tiempo? El universo jurídico, muy escrito y muy estructurado, parece en cualquier caso prestarse al juego de los algoritmos, cuyo principio es establecer correlaciones que a priori escapan al ojo humano.
“Mucho antes de la decisión del juez, ya se está utilizando la IA para detectar agujas en fardos de heno”, resume Juliette Lelieur. Este profesor de derecho penal de la Universidad de Estrasburgo fue uno de los panelistas invitados al congreso de la AIDP. En términos de crimen organizado, por ejemplo, el reconocimiento facial ahora se usa comúnmente para comparar el rostro de un sospechoso con los 9 millones de fotografías en el archivo TAJ (procesamiento de antecedentes penales).
“El problema es la excesiva confianza que tendemos a depositar en la máquinaexplica Juliette Lelieur. Se nos asegura que los humanos siempre tienen la última palabra, pero en la práctica lo dudo mucho. Es muy poco probable que se pongan en duda errores, aunque sean pequeños en número pero extremadamente graves en lo que respecta a la presunción de inocencia. »
¿La nueva reina de la evidencia?
Después del rastro de ADN, ¿la evidencia generada por IA está lista para convertirse en la nueva reina de la evidencia? Esta es también la pregunta que plantea Astrid Mignon-Colombet, abogada asociada en derecho penal empresarial, que organizó un debate sobre el tema el viernes 28 de junio. Para detectar delitos financieros en particular, como el fraude fiscal, los sistemas de inteligencia artificial permiten hoy escanear miles o incluso millones de correos electrónicos en busca de tal o cual elemento incriminatorio.
“Esta forma de aportar pruebas no me parece demasiado peligrosa, siempre que nosotros, los abogados, podamos seguir confrontándola con otros elementos, como los testigos., estima Astrid Mignon-Colombet. SSin embargo, si no fuera así, se plantearía un verdadero problema de igualdad de armas: la defensa quedaría en gran desventaja. »
Omnipresente en los debates de esta semana en Assas, Estados Unidos es a veces un pionero, a veces un mal estudiante. “Incluso en este país muy centrado en la IA, todavía no dejamos que ella decida la culpabilidad de alguien.explica Juliette Lelieur. Por otro lado, una vez que una persona ha sido declarada culpable, estos sistemas pueden utilizarse para decidir su sentencia. ¿No nos estamos alejando del humanismo jurídico? Castigar no es nada. »
