Inteligencia artificial y derecho penal: ¿quién es responsable cuando un algoritmo causa daños?

Según la legislación neerlandesa y europea, un algoritmo no puede ser penalmente responsable, ni siquiera parcialmente. El artículo 51 del Código Penal neerlandés (Wetboek van Strafrecht, Sr) solo reconoce como infractores a las personas físicas y jurídicas, por lo que la verdadera cuestión es qué persona o empresa es responsable de las acciones del sistema de IA.

El derecho penal neerlandés ya responde a esta pregunta mediante la perpetración funcional (functioneel daderschap) y la responsabilidad penal corporativa. Este artículo explica cómo se aplican estas doctrinas a la IA, cómo la Ley de IA de la UE establece el estándar de diligencia, cómo se utiliza la salida algorítmica como prueba y cómo es un programa de defensa y cumplimiento. Para la perspectiva de la cadena de suministro, consulte nuestro artículo complementario sobre quién es responsable cuando una máquina comete un delito.

¿Por qué un algoritmo no puede ser sospechoso?

Un delito penal requiere la conducta de un autor responsable, y un sistema de IA carece de voluntad y no puede ser castigado. El artículo 51(1) del Reglamento SR establece que los delitos pueden ser cometidos tanto por personas físicas como jurídicas; el software no pertenece a ninguna de estas categorías.

No se pueden imponer sanciones como prisión, multas o trabajos comunitarios a un modelo. Eliminar un modelo castiga a su propietario, no al sistema. Por lo tanto, todo lo que el derecho penal pretende lograr tras los daños causados ​​por la IA debe lograrse a través de las personas y organizaciones que la respaldan.

¿Quién es el responsable en su lugar?

El operador, la empresa y su dirección. El derecho penal neerlandés cuenta con dos mecanismos para responsabilizar a alguien por actos que no realizó físicamente, y ambos se aplican a la IA sin modificaciones.

perpetración funcional

Según el criterio formulado por el Tribunal Supremo (Hoge Raad) en la sentencia IJzerdraad, una persona es autora efectiva del delito si tenía la capacidad de decidir si la conducta se llevaba a cabo y la aceptaba, o si aceptaba habitualmente dicha conducta.

En el caso de la IA, la capacidad de disposición suele ser fácil de demostrar: el operador puede configurar, reentrenar y apagar el sistema. La aceptación es determinante. La evidencia se refiere a lo que el operador sabía sobre los modos de fallo, lo que demostraron las pruebas y los incidentes anteriores, y qué medidas se tomaron al respecto. Basta con aceptar conscientemente un riesgo considerable; este es el estándar neerlandés para la intención condicional (voorwaardelijk opzet).

Responsabilidad corporativa y liderazgo de facto

Cuando el operador es una empresa, se aplica el artículo 51 Sr. En la sentencia Drijfmest (ECLI:NL:HR:2003:AF7938), el Tribunal Supremo dictaminó que una conducta puede atribuirse a una persona jurídica si tuvo lugar en su ámbito de competencia. Los indicadores son que la conducta fue realizada por alguien que trabajaba para la empresa, se ajusta a su actividad habitual, la benefició y la empresa podía controlarla y la aceptó, incluso por negligencia. Un sistema de IA implementado para el funcionamiento de la empresa cumple con la mayoría de estos indicadores.

El artículo 51(2) Sr también permite el enjuiciamiento de quienes dieron la orden o dirigieron de facto el delito (feitelijk leidinggeven). En su sentencia de 26 de abril de 2016 (ECLI:NL:HR:2016:733), el Tribunal Supremo sostuvo que un cargo formal no es ni necesario ni suficiente. Un papel pasivo puede ser suficiente cuando la persona pudo y tuvo la obligación de impedir la conducta y, al menos, aceptó conscientemente la considerable probabilidad de que ocurriera. En un caso de IA, la prueba reside en quién recibió el informe de validación, quién aprobó el despliegue y quién aceptó una tasa de error conocida.

¿Qué delitos son los más probables?

Los procesos judiciales relacionados con sistemas automatizados suelen basarse en la negligencia. Si un vehículo, máquina o dispositivo médico impulsado por IA causa la muerte, el delito es causar la muerte por negligencia según el artículo 307 Sr (hasta dos años de prisión); por lesiones graves, el artículo 308 Sr.

La discriminación constituye la segunda categoría. Discriminar a personas en el ejercicio de un cargo, profesión o negocio por motivos como raza, religión, creencias, sexo u orientación sexual es un delito según el artículo 429quater Sr.; la discriminación intencional por motivos de raza es un delito según el artículo 137g Sr. Por lo tanto, un modelo que perjudica sistemáticamente a un grupo protegido puede convertirse en un asunto penal. Nuestra guía sobre procedimiento penal en los Países Bajos explica cómo se desarrolla un caso de este tipo.

¿Cómo afecta la Ley de IA a la responsabilidad penal?

La Ley de IA de la UE (Reglamento (UE) 2024/1689) no tipifica delitos penales, pero establece las obligaciones de un proveedor o implementador diligente. El incumplimiento de esta norma constituye negligencia; el cumplimiento demuestra diligencia.

La ley clasifica los sistemas según su riesgo. Se prohíben algunas prácticas, como la puntuación social, la extracción indiscriminada de imágenes faciales y el reconocimiento de emociones en el ámbito laboral o educativo. Entre los sistemas de alto riesgo se incluyen los componentes de seguridad de productos y usos regulados, como la contratación, la calificación crediticia, la aplicación de la ley, la migración y la administración de justicia. Los sistemas que interactúan con personas o generan contenido sintético están sujetos a obligaciones de transparencia.

Proveedor o implementador: ¿qué rol desempeña?

Un proveedor desarrolla un sistema y lo comercializa bajo su propia marca; un implementador lo utiliza bajo su propia responsabilidad. Los proveedores son responsables del diseño, mientras que los implementadores deben garantizar su correcto uso, la supervisión humana y el monitoreo.

Un implementador se convierte en proveedor si le pone su nombre a un sistema de alto riesgo, lo modifica sustancialmente o cambia su propósito de tal manera que se vuelva de alto riesgo. Ajustar un modelo adquirido y usarlo para un nuevo propósito puede hacer que cruce esa línea. En una investigación criminal, surge la misma pregunta: ¿quién tenía la potestad de disposición? Documente las funciones por escrito y en el contrato.

¿Qué ya aplica?

Las prohibiciones, el deber de alfabetización en IA, las normas para los modelos de IA de propósito general y las obligaciones de transparencia del artículo 50 ya están en vigor. El Reglamento (UE) 2026/1744, relativo a la digitalización, pospuso las obligaciones para los sistemas de alto riesgo. La propuesta de Directiva sobre responsabilidad civil en IA fue retirada, por lo que la responsabilidad civil por daños causados ​​por la IA sigue estando regulada por el derecho neerlandés de responsabilidad civil extracontractual y por productos defectuosos.

Las multas previstas en la Ley son de carácter administrativo: hasta 35 millones de euros o el 7 % de la facturación anual mundial por prácticas prohibidas, con límites inferiores para otras infracciones. En los Países Bajos, la Autoridad de Protección de Datos (Autoriteit Persoonsgegevens) y la Autoridad de Infraestructura Digital (Rijksinspectie Digitale Infrastructuur) coordinan la supervisión. Consulte nuestros artículos sobre prácticas prohibidas de IA , sistemas de IA de alto riesgo y nuestro resumen de la Ley de IA de la UE.

Un fiscal utiliza la ley como una lista de verificación. Si un responsable de la implementación utilizó una herramienta de selección sin comprobar los datos de capacitación para detectar sesgos y sin la supervisión humana requerida, la infracción queda documentada y, como consecuencia de la decisión de implementarla de todos modos, se acepta su uso. Por el contrario, una empresa que puede presentar su evaluación de riesgos, los resultados de la validación, el protocolo de supervisión y el registro de incidentes ha preparado su defensa con antelación.

¿Cómo se utiliza la salida algorítmica como evidencia?

Los resultados algorítmicos, como las coincidencias de reconocimiento facial, el reconocimiento de matrículas o las puntuaciones de riesgo de fraude, no constituyen una categoría de prueba independiente. Según el artículo 339 del Código de Procedimiento Penal (Wetboek van Strafvordering, Sv), las pruebas se limitan a categorías fijas, por lo que los resultados llegan al tribunal a través de documentos escritos, como un informe policial oficial, o mediante un informe pericial.

La defensa cuestiona tres cuestiones. ¿Está validado el método y quién lo ha validado? ¿En qué condiciones falla y se dieron estas? ¿Puede la defensa verificarlo, teniendo acceso a información sobre datos de entrenamiento, tasas de error y configuración? Una coincidencia presentada sin tasa de error ni posibilidad de verificación constituye una prueba débil, y cuestionarla es una defensa legítima.

El tribunal puede designar a un perito por iniciativa propia o a petición de la defensa. Si un método de IA queda fuera de cualquier ámbito de especialización reconocido, esto constituye en sí mismo un argumento sobre su fiabilidad. El nuevo Código de Procedimiento Penal ha sido aprobado y está previsto que entre en vigor en 2029; hasta entonces, se aplica la normativa vigente.

¿Qué aporta la legislación de protección de datos?

El artículo 22 del RGPD otorga a toda persona el derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado que la afecte significativamente. En el ámbito penal, la Ley de Protección de Datos Policiales (Wet politiegegevens) implementa la normativa europea equivalente para la policía. Para un sospechoso, esto puede suponer una vía para obtener información sobre un sistema; para una empresa, la toma de decisiones automatizada sin fundamento jurídico constituye una infracción independiente que se interpretará junto con cualquier acusación penal.

¿Cómo se defiende un caso en el que interviene la inteligencia artificial?

La defensa de la "caja negra", según la cual nadie podía saber qué haría el sistema, es más débil de lo que parece. El derecho penal neerlandés se pregunta si el acusado podía decidir si la conducta se llevó a cabo y aceptó el riesgo, no si previó el resultado exacto; desplegar un sistema inexplicable que puede causar daños graves puede constituir, en sí mismo, la aceptación de ese riesgo.

Existen tres defensas más eficaces, y todas se basan en pruebas:

• Sin control real: El sistema se adquirió como un producto terminado, configurado y mantenido por el proveedor, y el demandado no tenía ni la información ni la capacidad para intervenir. Esto centra la atención en el proveedor y depende del contrato y de lo que se haya informado.
• Diligencia debida: una evaluación de riesgos documentada, validación antes de la implementación, supervisión humana por parte de alguien con autoridad para tomar decisiones, monitoreo y acción inmediata ante incidentes.
• Causalidad: En una cadena que va desde los datos de entrenamiento hasta el modelo, pasando por la decisión humana y el resultado final, la fiscalía debe probar que la conducta de este acusado fue la causa del resultado.

Conserve los registros, las versiones de los modelos, las configuraciones y los informes de incidentes con antelación, ya que se sobrescriben habitualmente. Se aplican todas las garantías habituales, incluido el derecho a guardar silencio según el artículo 29 Sv; consulte nuestro artículo sobre el derecho a guardar silencio en materia penal . Para obtener información sobre el fraude con herramientas automatizadas, consulte nuestra guía sobre fraude y delitos financieros en los Países Bajos.

¿Qué revela el escándalo de las ayudas para el cuidado infantil?

El escándalo de las ayudas para el cuidado infantil (toeslagenaffaire) demuestra cómo la selección automatizada de riesgos, combinada con resultados no cuestionados, puede perjudicar a miles de familias sin que nadie sea penalmente responsable. La Administración Tributaria neerlandesa (Belastingdienst) utilizó una clasificación de riesgos en la que la nacionalidad influyó; la Autoridad de Protección de Datos neerlandesa dictaminó que el tratamiento de datos era ilegal e impuso una multa, y el gobierno dimitió en enero de 2021.

Tres fallos se traducen en responsabilidad legal para cualquier organización: decisiones que no se podían explicar y, por lo tanto, no se podían impugnar; supervisión humana que existía solo en papel; y una señal que invertía la carga de la prueba en la práctica. Esta dilución de la responsabilidad es precisamente lo que la perpetración funcional y el Artículo 51 Sr pretenden contrarrestar, y es la razón por la que la Ley de IA exige una supervisión humana identificable y documentación.

¿Qué aspectos debería comprobar una empresa que implementa inteligencia artificial?

La mayor parte del trabajo de cumplimiento normativo en virtud de la Ley de IA también genera las pruebas necesarias para una investigación penal.

• ¿Ha elaborado una lista de todos los sistemas de IA en uso, incluidas las funciones del software adquirido, y los ha clasificado según la Ley de IA?
• ¿Existe una persona designada responsable de cada sistema, con autoridad para aprobar su implementación y para desactivarlo?
• ¿Existe realmente la supervisión humana? ¿Puede el revisor comprender el resultado y rechazarlo? ¿Se registran las anulaciones?
• ¿Ha documentado los datos de entrenamiento, las pruebas, las tasas de error conocidas y las decisiones tomadas al respecto?
• ¿Se ha realizado una evaluación de impacto en materia de protección de datos o derechos fundamentales cuando ha sido necesario?
• ¿Sus contratos incluyen la documentación técnica del proveedor y las notificaciones de incidentes?

¿Qué aspectos debería comprobar como proveedor de sistemas de IA?

Como proveedor, usted asume las obligaciones de diseño y es el primero en la lista cuando los implementadores señalan a los niveles superiores de la cadena de suministro.

• ¿Está definido con precisión el propósito previsto en las instrucciones de uso?
• ¿Disponen de documentación técnica sobre las fuentes de datos, las pruebas de sesgo y las opciones de diseño?
• ¿Ha comunicado por escrito a los responsables de la implementación las limitaciones y las condiciones de fallo conocidas?
• ¿Disponen de un procedimiento para la notificación de incidentes y para informar a los responsables del despliegue sobre modificaciones sustanciales?
• ¿Su contrato especifica qué parte puede modificar o reentrenar el sistema?

¿Qué ocurriría si la IA se utilizara como herramienta para cometer un delito?

Entonces, el delito es simplemente el delito; la tecnología no cambia el análisis legal. El fraude con una voz clonada o un video sintético de un director es fraude (oplichting) según el artículo 326 Sr; un documento falso generado es falsificación según el artículo 225 Sr; hacerse pasar por alguien con sus datos de identificación es fraude de identidad según el artículo 231b Sr.

Desde que la Ley de Delitos Sexuales (Wet seksulele misdrijven) entró en vigor el 1 de julio de 2024, publicar una imagen sexual de una persona a sabiendas de que puede perjudicarla es punible según el artículo 254ba Sr; una imagen generada no está exenta por no haber sido grabada. El acoso sistemático a través de cuentas automatizadas puede constituir acoso según el artículo 285b Sr, que solo se persigue judicialmente tras una denuncia. La IA cambia principalmente la escala y la dificultad de la prueba: ahora hay que demostrar la autenticidad del audio y el vídeo. Consulte nuestro artículo sobre cómo probar el engaño digital en los Países Bajos.

¿Qué podemos hacer por usted en materia de inteligencia artificial y responsabilidad penal?

Nuestros equipos de derecho penal y derecho informático trabajan conjuntamente en estos casos.

• Evaluamos su exposición según el Artículo 51 Sr y la perpetración funcional para cada sistema de IA que utilice.
• Revisamos su gobernanza de IA, su protocolo de supervisión y su documentación para que sirvan como evidencia de la diligencia debida.
• Redactamos y negociamos la distribución de responsabilidades entre el proveedor y el implementador.
• Cuestionamos las pruebas algorítmicas y solicitamos acceso a los datos de validación en los procesos penales.
• Prestamos asistencia a empresas y directivos durante las investigaciones llevadas a cabo por la Fiscalía y los organismos reguladores.

Resumen

• Un algoritmo no puede ser un delincuente; el artículo 51 Sr solo abarca a las personas físicas y jurídicas.
• Los operadores son responsables por su actuación funcional, las empresas por el criterio de Drijfmest y los directores por su liderazgo de facto.
• La Ley de IA establece el estándar de diligencia: un incumplimiento es prueba de negligencia, el cumplimiento es prueba de diligencia.
• Los resultados algorítmicos se incorporan a un caso penal a través de un informe policial o una declaración pericial, y pueden ser cuestionados en cuanto a su validación y tasas de error.

Preguntas frecuentes