Grok, la nueva IA de X, ¿cuánto de creatividad y cuánto de amenaza?

Las herramientas de creación de imágenes que no dejan de aparecer lo hacen creando polémica en cuando se confirma el (mal)uso que se puede hacer con ellas.

En esta caso, ha sido la red social X la que, con su nueva IA, Gro, ha hecho saltar las alarmas en cuando a los límites legales que se deben poner a los avances tecnológicos

Grok: creatividad sin límites (y sin control)

La aparición de herramientas como Grok, una inteligencia artificial lanzada recientemente en X abre de nuevo, como decimos, el debate sobre los límites legales entre la creatividad, la libertad de expresión y la protección de derechos como la privacidad, el honor y la propia imagen.

Un avance tecnológico de este tipo que llama tanto la atención nada más salir a la luz representa un riesgo importante del que muchas veces no nos damos cuenta hasta que comprobamos sus resultados. 

Generación de imágenes con Grok

Grok permite generar imágenes hiperrealistas en cuestión de segundos, con respuestas tan convincentes y tan reales que llevan a la confusión

Hemos visto en la misma red social imágenes de Biden vestido de torero, que puede resultar gracioso, o de Vinícius Júnior recogiendo un trofeo en forma de plátano que ya no lo es tanto.

Todo esto puede parecer un juego, pero las implicaciones legales y éticas son importantes.

Implicaciones legales de la creación de imágenes con IA

Con herramientas como esta, cualquiera puede crear y difundir contenido ofensivo, falso o perjudicial, y hace que sea muy sencillo la propagación de noticias falsas, o fake news. 

El uso indebido de estas imágenes plantea serias preocupaciones legales, una simple fotografía generada por IA puede vulnerar los derechos fundamentales (al honor, a la imagen y a la privacidad), de cualquier persona, porque aunque ahora veamos el resultado en imágenes de personajes populares, no hay razón para que no se vea implicado cualquier ciudadano.

En ese caso puede abrirse la puerta a la difamación, el acoso e incluso a delitos de odio por esta enorme capacidad de crear imágenes realistas sin consentimiento que enfrenta a la libertad de expresión con la responsabilidad legal de esos actos,

Libertad de expresión vs. responsabilidad legal

La libertad de expresión es un derecho fundamental, pero tiene sus límites cuando entra en conflicto con otros derechos también protegidos por la ley.

La cuestión que está sobre la mesa es dónde trazar la línea entre una expresión creativa y una acción ilegal o inmoral que puede perjudicar mucho a quien se vea involucrado.

El Código Penal contempla sanciones por vulnerar derechos al honor, a la privacidad y a la imagen, además, si el contenido generado incita al odio o promueve discriminación, son considerados atenuantes que conllevan responsabilidades penales de mucha mayor gravedad.

 Por ello, resulta fundamental entender que la libertad de expresión no ampara el uso irresponsable de tecnologías como estas.

La importancia de regular estas herramientas

Ante el impacto potencial de Grok y herramientas similares, nos damos cuenta de lo obligatorio que es establecer normativas claras que limiten su uso indebido.

Medidas como obligar a incorporar marcas de agua o etiquetas que indiquen que las imágenes son artificiales, además de regular el acceso a estas herramientas para prevenir su uso con fines malintencionados e ilícitos.

La libertad de expresión no es excusa para vulnerar derechos tan importantes como la privacidad y el honor, y el avance de la IA obliga a determinar unos límites que eviten que podamos ver imágenes como las que están circulando en redes, de Lamine Yamal o Nico Williams, que se alejan mucho de ser una broma graciosa y tienen connotaciones legales de considerable gravedad.

Autor

Manuel Hernández García

Director y Socio Bufete Vilches Abogados

Letrado del Ilustre Colegio de Madrid 72.539

Linkedin
Premios y Medios de comunicación