La recreación del asesinato de Hind Rajab con Inteligencia Artificial (IA) se ha convertido en un fenómeno viral en las redes sociales. Sin embargo, la elaboración de este tipo de contenido digital, especialmente en casos de menores, y de terrorismo, puede llegar a vulnerar los derechos fundamentales de víctimas y familiares.
Hind Rajab Hamada era una niña palestina de seis años de edad a la que, en enero de 2024, asesinaron las Fuerzas de Defensa de Israel. Ello, mientras viajaba con su familia en un vehículo, intentando huir de los ataques en Gaza. Coche atacado, a través de diversos disparos, por las fuerzas israelíes.
Atemorizada, con sus padres muertos en el coche, la menor pidió ayuda por teléfono durante horas a la Media Luna Roja palestina. Búsqueda de ayuda que llegó demasiado tarde, encontrándose finalmente el cadáver de la menor en el coche.
Un terrible suceso que, ahora, ha sido reproducido en vídeo gracias a la IA. Un vídeo que se ha hecho viral en las redes sociales, donde se pueden ver los últimos instantes de vida de la pequeña.
Creación a través de la IA que, en España entrañar «riesgos significativos que podrían vulnerar derechos fundamentales y afectar profundamente a las víctimas y a la sociedad», explica Marina Fernández Fernández, abogada experta en derecho penal, y socia directora de Absia Abogados Penalistas, a Confilegal.
Vulneración de derechos fundamentales
«La recreación de asesinatos o atentados, especialmente cuando se trata de eventos que han afectado a personas concretas, puede resultar en una invasión a la dignidad de las víctimas y sus familias», asegura la abogada. Una realidad en la que también «se pone en riesgo el derecho al honor, a la intimidad y a la propia imagen».
Derechos fundamentales vulnerados que, en España, se unen a la Ley de Protección Integral a las Víctimas del Terrorismo. Normativa que otorga a las víctimas «garantías que buscan evitar cualquier impacto que pueda revictimizarles», expone Fernández. Una Ley en la que este tipo de recreación de atentados podría considerarse «una violación de este respeto. Y una fuente de sufrimiento adicional para las víctimas o sus familiares».
«Además, el artículo 578 del Código Penal y la Ley Orgánica de Protección de la Seguridad Ciudadana prohíben expresamente la apología o justificación del terrorismo. Si una recreación creada por IA muestra, aunque sea indirectamente, simpatía hacia un acto terrorista, esto podría constituir una infracción penal«, destaca Marina Fernández.
Del mismo modo, la reproducción de violencia podría entenderse como un delito de odio. Ello, si este vídeo de IA se percibe como una «normalización de la violencia», tal y como explica la abogada.
Algo a lo que se suma, de forma crítica, es el impacto de estas recreaciones en menores. Una cuestión que se aborda en La Ley Orgánica 1/1996, de Protección Jurídica del Menor, que «obliga a tomar medidas de protección frente a este tipo de material, especialmente cuando es accesible al público general. la disponibilidad de recreaciones de violencia explícita en plataformas digitales podría suponer una transgresión de esta normativa y conllevar sanciones».
Categoría de «alto riesgo» en el Reglamento IA
Un vídeo del asesinato de la pequeña a través de IA que debe analizarse desde el nuevo Reglamento IA.
Normativa europea que estipula que «los sistemas que generan recreaciones de hechos violentos pueden ser clasificados como de «alto riesgo». Ello, debido a su impacto en la seguridad, la administración de justicia y los derechos fundamentales».
Noticia Relacionada
«Estas aplicaciones de IA deben cumplir con estándares rigurosos, como evaluaciones de riesgo, supervisión humana y transparencia, requisitos diseñados para proteger el equilibrio entre el desarrollo tecnológico y la seguridad jurídica y social», destaca la letrada.
Así, «el Reglamento también impone prohibiciones específicas para aquellos sistemas de IA que sean incompatibles con los valores de la UE. Esto incluye la manipulación subliminal y la explotación de vulnerabilidades de colectivos vulnerables, lo que en el contexto de recreaciones violentas podría interpretarse como una infracción si estas afectan negativamente la percepción pública o la integridad de las víctimas», renarca,
Una realidad ante la que el nuevo Reglamento es claro. «El uso de IA en recreaciones de actos violentos debe evaluarse con rigor jurídico y ético, asegurando que cada avance en esta tecnología sea un aporte a la justicia y no un riesgo para la integridad de las personas y los valores sociales que el derecho español busca proteger», afirma Marina Fernández Fernández.