Grok desactiva herramienta que permite desnudar personas

Grok, el asistente de inteligencia artificial de la plataforma de Elon Musk, desactivó este viernes su función de creación de imágenes para los usuarios que no pagan. Esto tras ser criticado por generar imágenes falsas sexualmente explícitas de mujeres y menores.

Estas imágenes, creadas mediante el retoque de fotos o videos de personas reales para que parecieran desnudas, provocaron protestas en todo el mundo.

Cuando los usuarios de X, la plataforma social de Elon Musk, lo contactaron el viernes, Grok respondió: «La generación y edición de imágenes están actualmente reservadas a los suscriptores de pago. Puedes suscribirte para desbloquear estas funciones».

Esta desactivación limitada provocó indignación en el gobierno de Reino Unido, uno de los principales críticos de Elon Musk.

La medida de la plataforma, denunció un portavoz del primer ministro británico, Keir Starmer «simplemente transforma una función que permite la creación de imágenes ilegales en un servicio premium», lo cual representa «un insulto a las víctimas de misoginia. También la violencia sexual».

Comisión Europea ha tomado nota

En Bruselas, la Comisión Europea ha tomado nota de las últimas enmiendas», pero las ha considerado insuficientes.

«Con suscripción de pago o sin ella, no cambia nuestro problema fundamental: no queremos ver esas imágenes, así de simple», declaró Thomas Régnier, portavoz de la Comisión Europea para Asuntos Digitales.

«Lo que pedimos a las plataformas es que se aseguren de que su diseño, sus sistemas, no permitan la generación de ese contenido ilegal», añadió.

Bruselas anunció el jueves la imposición de una medida cautelar a X tras el escándalo relacionado con imágenes sexualmente explícitas de menores generadas por Grok.

La Comisión Europea especificó que había emitido una «orden de conservación», una medida legal que obliga a X a «conservar todos sus documentos internos relacionados con Grok hasta finales de 2026», según declaró a la prensa un vocero.

A principios de diciembre, la UE impuso a X una multa de 120 millones de euros por infringir la Ley de Servicios Digitales (DSA). Esto a pesar de las reiteradas amenazas del presidente estadounidense Donald Trump, quien acusa al bloque europeo de atacar a los gigantes tecnológicos estadounidenses. Las mismas a través de su legislación digital.

El gobierno británico, por su parte, instó el martes a X a encontrar una solución «urgente». La misma para evitar la proliferación de imágenes falsas «escandalosas» de mujeres desnudas y menores generadas por Grok.

«Lo que hemos visto en línea en los últimos días es absolutamente atroz e inaceptable en cualquier sociedad que se precie», declaró Liz Kendall, ministra de Tecnología del gobierno laborista de Keir Starmer.