Indonesia suspendió el sábado el chatbot de inteligencia artificial Grok de Elon Musk debido a la creciente preocupación por fotos sexualizadas de personas generadas por inteligencia artificial sin su consentimiento.
La plataforma de Elon Musk se enfrenta a una reacción global luego de que surgieran informes de que su función de creación de imágenes permitía a los usuarios sexualizar fotos de mujeres y niños usando simples indicaciones de texto.
CBS News ha verificado que Grok cumplió con las solicitudes de los usuarios que le pedían editar imágenes de mujeres para mostrarlas en bikini o con poca ropa, incluidas figuras públicas prominentes como la primera dama Melania Trump .
Indonesia es el primer país que niega todo acceso a la herramienta, que tras la reacción negativa quedó restringida a los suscriptores de pago en otros lugares.
«Para proteger a las mujeres, los niños y al público en general de los riesgos del contenido pornográfico falso generado mediante tecnología de inteligencia artificial, el gobierno ha bloqueado temporalmente el acceso a la aplicación Grok», declaró el ministro de Comunicación y Asuntos Digitales, Meutya Hafid, en un comunicado. «El gobierno considera las prácticas de deepfake no consentidas una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital».
Según periodistas de la AFP en Yakarta, la cuenta de Grok X seguía activa y respondiendo consultas, incluso en bahasa indonesio, el sábado por la noche.
La startup xAI, propiedad de Musk y creadora de Grok, declaró el sábado a CBS News que «Legacy Media Lies» (Los medios tradicionales mienten), sin dar más detalles. El mensaje parece ser una respuesta automática a las preguntas de los medios de comunicación.
Los funcionarios europeos y los activistas tecnológicos criticaron la decisión de limitar las funciones de Grok a los suscriptores pagos, diciendo que no abordaba las preocupaciones sobre el contenido deepfake sexualmente explícito.
El primer ministro británico, Keir Starmer, dijo el jueves que quiere «todas las opciones sobre la mesa», incluida una posible prohibición de Grok en Gran Bretaña.
«Esto es vergonzoso, repugnante y no se debe tolerar. X tiene que controlar esto», declaró Starmer en una entrevista con una emisora de radio del Reino Unido. «Es ilegal. No lo vamos a tolerar. He pedido que se consideren todas las opciones».
Una fuente de la oficina de Starmer reiteró a CBS News el viernes que «nada está descartado» cuando se trata de regular X en Gran Bretaña.
En Estados Unidos, el senador republicano Ted Cruz dijo en una publicación en X que «muchas de las recientes publicaciones generadas por IA son inaceptables y una clara violación de mi legislación (ahora ley), la Take It Down Act , así como de los términos y condiciones de X».
«Estas imágenes ilegales representan una grave amenaza para la privacidad y la dignidad de las víctimas. Deberían ser retiradas y se deberían establecer medidas de seguridad», dijo Cruz, añadiendo que se sentía alentado por las medidas tomadas por X para eliminar las imágenes ilegales.
Musk dijo la semana pasada en respuesta a una publicación sobre las imágenes explícitas que cualquiera que use Grok para «crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal».