Como abogado especializado en Tecnologías y Delitos Informáticos, quiero que veamos una preocupante tendencia que combina la innovación tecnológica con actos penalmente reprochables: la creación de contenido pornográfico a través de la inteligencia artificial (IA).
Este fenómeno, que recientemente ha visto su primer caso legal en Estados Unidos, involucrando a menores de edad, plantea un debate ético y legal.
¿Cuál ha sido el caso de la primera Condena por Contenido Pornográfico generado por IA?
Vemos primero un caso en EEUU para entender el contexto. Y también veremos los casos que hay en España.
Podemos conocer el primer caso en Estados Unidos de menores de edad que han sido arrestados y acusados de crear contenido explícito utilizando inteligencia artificial (IA).
Los implicados son dos estudiantes de 13 y 14 años de un instituto en Florida. Utilizaron una «aplicación de inteligencia artificial» para generar imágenes de desnudos falsos de sus compañeros de clase, quienes tenían entre 12 y 13 años.
Los menores fueron acusados de delitos graves de tercer grado en virtud de una ley de Florida de 2022 que penaliza la difusión de imágenes sexualmente explícitas falsas sin el consentimiento de la víctima. Fueron suspendidos de la escuela y posteriormente arrestados por las autoridades.
Este incidente nos da la preocupación sobre el uso de la inteligencia artificial para crear contenido pornográfico no consensuado, lo que ha llevado a algunos estados a intentar abordar este problema mediante legislación.
Aunque el presidente Joe Biden emitió una orden ejecutiva sobre esta tecnología, solicitando un informe sobre la prohibición del uso de IA para producir material de abuso sexual infantil, aún no existe una ley federal al respecto. Sin embargo, tanto el Senado como la Cámara han presentado un proyecto de ley que aborda este tema, conocido como la Ley DEFIANCE de 2024.
El «Deepfake» ¿Qué es?
El «deepfake» es una tecnología que utiliza la inteligencia artificial para crear videos o imágenes falsas que parecen auténticas. Lo hace mediante el uso de algoritmos avanzados que pueden modificar y superponer el rostro de una persona en videos o fotos existentes.
Imagina que tienes un video de una persona hablando, y con el «deepfake» puedes reemplazar su rostro con el de otra persona de manera tan realista que parece que realmente está hablando. Esta tecnología puede ser utilizada para diversos propósitos, como crear contenido humorístico, escenas de películas o incluso material pornográfico.
¿Puede ser motivo de Delitos de Pornografía con IA generativa?
Ahora bien, cuando se utiliza el «deepfake» para crear pornografía, entramos en terreno legal conflictivo. Esto se debe a que la pornografía generada con esta tecnología puede implicar a personas que no han consentido ser parte de ella. Por ejemplo, alguien podría tomar videos o fotos de personas y luego utilizar el «deepfake» para colocar esos rostros en material pornográfico, sin el consentimiento de las personas involucradas.
Esta situación puede constituir varios delitos, dependiendo de las leyes del país en cuestión. En muchos lugares, incluida España, la producción y distribución de pornografía sin consentimiento se considera un delito. Además, el uso de «deepfake» para difamar, extorsionar o acosar a personas también puede ser ilegal y estar sujeto a sanciones legales.
Crear contenido explícito con IA Generativa a nivel mundial
Crear contenido pornográfico con IA generativa se ha convertido en una preocupación a nivel mundial debido a su creciente prevalencia y las implicaciones legales que esto conlleva. En España, casos como en Extremadura o en Baleares este fenómeno también ha sido objeto de atención, en sitios como como lo demuestra un caso reciente que involucra a dos estudiantes condenados por este delito, según lo informado por la fuente proporcionada.
Delitos en España por la Pornografía creada por IA Generativa
Como bien he explicado en varios blogs, el uso de IA para generar pornografía puede llevar a la comisión de varios delitos, especialmente cuando se involucra a personas sin su consentimiento.
Bajo la ley penal española, la pornografía infantil está tipificada como un delito en el artículo 189 del Código Penal. Este artículo establece que será castigado con penas de prisión de uno a tres años, o multa de doce a veinticuatro meses, el que produzca, venda, distribuya, exhiba, financie, promueva o facilite la producción, venta, difusión o exhibición de material pornográfico que utilice a menores de edad, incluso si la persona implicada en la conducta no es consciente de la minoría de edad de la víctima.
Las consecuencias legales de la pornografía infantil en el contexto de la IA generativa pueden incluir:
- Penalización por producción y distribución: La creación o distribución de material pornográfico generado por IA que simula la participación de menores en actividades sexuales puede ser castigada con penas de prisión según lo establecido en el artículo 189 del Código Penal.
- Agravantes por la utilización de menores: La utilización de menores en la producción de material pornográfico, incluso si son simulaciones generadas por IA, puede aumentar la gravedad del delito y las penas impuestas.
- Responsabilidad de los usuarios: Aquellas personas que consuman, posean o compartan material pornográfico generado por IA que involucre a menores de edad pueden enfrentar consecuencias legales, ya que contribuyen a la difusión de este material ilegal.
La responsabilidad de menores por la creación de contenido pornográfico
En España, la responsabilidad de los menores por la creación de contenido pornográfico generado por IA, está regulada por el Código Penal y otras disposiciones legales relacionadas con la protección de menores y la prevención de la pornografía infantil. A continuación, analizaré los aspectos relevantes de acuerdo con la legislación española:
- Edad penal: En España, la edad mínima de responsabilidad penal es de 14 años, lo que significa que los menores de esa edad no pueden ser penalmente responsables por sus acciones. Sin embargo, los menores de entre 14 y 18 años pueden ser sujetos a medidas de protección o corrección en caso de cometer un delito.
- Producción y distribución de material pornográfico: El Código Penal español establece que la producción, tenencia, distribución, difusión, exhibición o comercialización de material pornográfico que involucre a menores de edad es un delito grave. Este delito se encuentra tipificado en el artículo 189 del Código Penal y puede ser castigado con penas de prisión significativas, especialmente si el material involucra a menores de 13 años.
- Agravantes por la participación de menores: La participación de menores en la producción de material pornográfico es considerada un agravante en la comisión del delito. Esto significa que la presencia de menores en la creación de contenido explícito puede aumentar la gravedad de las penas impuestas a los responsables adultos.
- Medidas especiales para los menores infractores: En el caso de que un menor sea encontrado responsable de participar en la producción de contenido explícito, se aplicarán medidas especiales de protección de acuerdo con la Ley Orgánica 5/2000, de 12 de enero, reguladora de la responsabilidad penal de los menores. Estas medidas pueden incluir la realización de programas de reinserción social, la asistencia a centros de rehabilitación juvenil u otras medidas educativas y terapéuticas.
Delitos relevantes y la responsabilidad penal de los menores en este contexto:
- Producción y distribución de pornografía infantil (Artículo 189 CP): La producción, posesión, distribución o facilitación de acceso a material pornográfico que involucre a menores de edad está estrictamente prohibida y es considerada un delito grave. Esto incluye el contenido generado por IA que pueda representar a menores de edad en situaciones sexualmente explícitas.
- Injurias y calumnias (Artículo 205 CP): Si un menor utiliza contenido pornográfico generado por IA para difamar o calumniar a otra persona, podría ser acusado de cometer un delito de injurias o calumnias. Esto puede aplicarse en situaciones donde el contenido falso se utiliza para dañar la reputación o la integridad de alguien.
- Delitos informáticos (Título XIII CP): La utilización de tecnologías informáticas para cometer delitos, como la producción y difusión de contenido pornográfico falso, puede constituir un delito informático según las disposiciones del Código Penal español.
En el caso de los menores, se prioriza su rehabilitación y reinserción social a través de medidas educativas y de corrección, como la asistencia a programas de formación, servicios sociales o medidas terapéuticas, en lugar de la imposición de penas de prisión. Sin embargo, la gravedad de los delitos y las circunstancias individuales pueden influir en la decisión del tribunal sobre las medidas a aplicar.
En resumen, los menores que participan en la creación de contenido pornográfico hecho con IA generativa pueden ser considerados responsables penalmente según las disposiciones del Código Penal español, y se les aplicarán medidas especiales de acuerdo con su edad y situación personal. Es fundamental que los casos que involucren a menores sean tratados con sensibilidad y se busquen soluciones que promuevan su rehabilitación y bienestar.
Conclusión
El avance de la inteligencia artificial, mientras ofrece innumerables beneficios, también presenta desafíos legales significativos, especialmente cuando se abusa de ella para crear contenido pornográfico sin consentimiento. En España y la UE, la legislación está evolucionando para proteger a los individuos, especialmente a los menores, de estos actos. Como abogado especializado, la importancia de un marco legal sólido y adaptativo que pueda enfrentar los desafíos que la tecnología moderna nos presenta. La educación y la concienciación sobre el uso ético de la IA son fundamentales para prevenir abusos y garantizar la protección de todos los individuos en la sociedad.
Fuentes:
LaRazón:Primera condena por crear contenido explícito con IA
NegociosOptimizados: Arrestan a menores por crear contenido explícito con IA: la primera condena por un caso con IA
