La IA ya está en los tribunales: ¿está listo el Derecho Penal?

Europa ya tiene su Reglamento de Inteligencia Artificial en marcha, y con él llega una pregunta que tarde o temprano va a golpear también en nuestros tribunales: si un sistema de IA causa un daño, ¿quién responde? La normativa europea clasifica los sistemas según su nivel de riesgo y les impone obligaciones a quienes los desarrollan, los importan o los usan. Pero el Derecho Penal tiene sus propias reglas del juego, y no alcanza con una norma administrativa para resolver todo.

Un trabajo académico reciente, publicado en la revista especializada En Letra: Derecho Penal, se mete de lleno en esa tensión. La autora repasa uno por uno los elementos clásicos de la teoría del delito —causalidad, imprudencia, autoría, posición de garante— y se pregunta cómo se sostienen frente a un sistema que toma decisiones de forma autónoma y cuyo funcionamiento interno, en muchos casos, ni sus propios creadores pueden explicar del todo (el llamado “efecto caja negra”).

Algunas de las ideas centrales que plantea:

• La causalidad se complica. Cuando no se puede reconstruir con exactitud por qué un algoritmo llegó a determinado resultado, la autora propone recurrir a herramientas ya conocidas por nuestros tribunales, como la causalidad estadística y las presunciones, en vez de exigir una prueba imposible.
• La excusa de lo “impredecible” tiene un límite. Las empresas no van a poder escudarse indefinidamente en que el sistema actuó de forma inesperada, si no hicieron las pruebas de seguridad adecuadas antes de lanzarlo, o si nunca instalaron la posibilidad de recuperar el control humano en una situación crítica.
• ¿Puede una IA ser la responsable penal? La conclusión del trabajo es clara: no. Por más autónoma que parezca una decisión algorítmica, la responsabilidad sigue recayendo en las personas humanas y las empresas que están detrás, no en la máquina.
• Los programas de cumplimiento (compliance) ganan protagonismo. Las empresas que usen IA de alto riesgo van a necesitar protocolos internos serios, capaces de demostrar que actuaron con la diligencia debida.

Todavía no hay una legislación penal específica en Argentina para estos casos, pero las discusiones que se están dando en Europa marcan un camino que tarde o temprano también vamos a tener que recorrer acá. Desde Juris Consultas seguimos de cerca estos desarrollos para poder asesorar con criterio actualizado a las empresas y personas que ya están usando estas tecnologías.