Lo primero que debes saber es que la IA no toma estas decisiones por sí misma, sino que requiere de las instrucciones de una Persona con el objetivo de «generar el contenido». Incluso, desde políticas de uso y seguridad como las que aplican OpenAI (desarrolladora de ChatGPT) y demás IAs generativas.
Al final de la página te explico Qué es una IA generativa (tecnología con gran peligro y potencial delictivo)
Qué y Cómo son los Delitos de Pornografía con IA generativa
Un delito de pornografía con IA generativa se produce cuando se utilizan algoritmos de inteligencia artificial para crear o modificar imágenes con el fin de representar a individuos, especialmente menores de edad, en situaciones sexualmente explícitas o desnudos, sin su consentimiento.
Estas imágenes generadas se distribuyen, comparten o utilizan de manera que violan las leyes sobre pornografía infantil, protección de datos personales y por supuesto, violan los derechos fundamentales al honor, dignidad y propia imagen.
Ejemplo de Delito de Pornografía con Inteligencia Artificial
El Caso de Almendralejo:
En el caso de Almendralejo, un grupo de menores de edad utilizó tecnología de inteligencia artificial para «desnudar» imágenes de otras menores.
Las fotos originales se obtuvieron de perfiles de redes sociales como Instagram y WhatsApp. Estas imágenes se subieron a una aplicación de inteligencia artificial que las modificó para que pareciera que las menores estaban desnudas.
Luego, las imágenes generadas se distribuyeron a través de grupos de WhatsApp y otros canales.
En esta otra página he analizado jurídicamente este caso (enlace aquí).
Pornografía infantil con IA según el Código Penal
Desde la perspectiva del Código Penal Español, estaremos ante un delito de pornografía infantil según el Artículo 189, que penaliza la producción, distribución y posesión de material pornográfico en el que participen menores de edad.
Además, dado que las imágenes se crearon y distribuyeron sin el consentimiento de las víctimas, esto también podría implicar otras infracciones relacionadas con la intimidad y la protección de datos personales de las víctimas.
Que las víctimas sean menores de edad, y que la distribución se haga entre menores de edad, agrava los hechos hasta el punto de que estamos hablando de delitos de Corrupción de Menores (artículo 188 del Código Penal).
Delitos de Pornografía Infantil
Artículo 189 del Código Penal Español: Este artículo penaliza la producción, venta, distribución, exhibición, ofrecimiento, demanda y posesión de material pornográfico en el que participen menores de edad o incapaces. Aquí, la creación y distribución de imágenes falsas de menores desnudos podría considerarse como un delito de pornografía infantil.
Delitos de Corrupción de Menores
Artículo 188 del Código Penal Español: Este artículo se refiere a la utilización de menores de edad para realizar actos sexuales. Aunque las víctimas no participaron voluntariamente en estos delitos generados con inteligencia artificial, la distribución de las imágenes podría considerarse como una forma de corrupción de menores.
Otros Delitos Relacionados: Secretos e intimidad de la víctima
Artículo 197 del Código Penal Español: Este artículo aborda el descubrimiento y revelación de secretos, o la violación de la intimidad personal. Aquí, el acceso no autorizado a imágenes personales y su posterior manipulación podría ser relevante.
Peligros y Consecuencias para las Víctimas
- Daño Psicológico: Las víctimas pueden sufrir un daño psicológico significativo.
- Reputación y Futuro: Las imágenes podrían tener un impacto a largo plazo en la vida personal y profesional de las víctimas.
- Extorsión y Acoso: Como sucede en muchos casos, las imágenes se utilizan para extorsionar a las víctimas.
- Difusión Incontrolable: Una vez que las imágenes se distribuyen en línea (WhatsApp, correos electrónicos, mensajes de redes sociales, etc.) es casi imposible eliminar todas las copias.
Y llegados hasta aquí te preguntarás, ¿Qué es una Inteligencia Artificial generativa?
Te lo explico:
¿Qué es una IA generativa?
De forma que lo entienda cualquier persona:
Una IA generativa es como un robot muy inteligente en tu computadora que puede escribir cosas por sí mismo. Imagina que tienes un amigo imaginario que es muy bueno para contar historias, responder preguntas y ayudarte con tu tarea. Este amigo imaginario vive dentro de la computadora y aprende de todo lo que ha leído o visto en internet para ayudarte mejor.
Pero recuerda, aunque es muy inteligente, todavía es una máquina y no tiene sentimientos ni conciencia.
Y de igual forma, existen este tipo de herramientas con el fin de generar contenido multimedia, imágenes, vídeos, música, voces, etc.
IA generativa de imágenes y vídeos
Una IA generativa de imágenes y vídeos es un tipo de inteligencia artificial que puede crear imágenes, vídeos o incluso animaciones que parecen reales pero que en realidad son inventadas por la máquina.
Es como un artista digital muy avanzado que vive dentro de tu computadora. Puede hacer cosas como crear retratos de personas que no existen, diseñar paisajes imaginarios, o incluso generar escenas de vídeo que parecen sacadas de una película.
Estas tecnologías están cambiando la forma en que creamos y consumimos contenido multimedia, ofreciendo posibilidades casi ilimitadas para la creatividad.
Ejemplos de imágenes sexualizadas generadas con IA
A continuación te presento algunas imágenes generadas con IA que he conseguido con muy poca descripción y definición a la IA generativa.
Quiero que te fijes en lo «sugerente» y «sexualizado», que pienses en lo fácil que es conseguir crear contenido sexual con la cara de cualquier persona, mujer, hija, niña:
Y sería fácil pensar que sólo hay una o dos empresas ofreciendo este tipo de tecnologías, pero no. Estamos en un año de máxima innovación con inteligencia artificial.
Ejemplos de empresas o compañías destacadas en IA generativa multimedia:
- NVIDIA: Conocida por sus tarjetas gráficas, también ha desarrollado tecnologías de IA que pueden crear imágenes muy realistas. Su tecnología GAN (Generative Adversarial Networks) es especialmente famosa.
- DeepArt: Esta empresa utiliza IA para transformar fotos en obras de arte al estilo de pintores famosos como Van Gogh o Picasso.
- Runway: Ofrece una plataforma que permite a los creadores utilizar diferentes modelos de IA para generar contenido multimedia, desde imágenes hasta vídeos.
- Artbreeder: Es una plataforma en línea donde los usuarios pueden crear y explorar imágenes generadas por IA, mezclando diferentes características como si fueran ingredientes en una receta.
- Wombo: Esta aplicación genera vídeos cortos de personajes animados que cantan la canción que elijas. Utiliza IA para hacer que los labios del personaje se muevan de forma sincronizada con la música.
- DALL-E: Desarrollado por OpenAI, este modelo de IA puede generar imágenes muy detalladas y específicas a partir de descripciones de texto.
