Google ha retirado su nueva herramienta de inteligencia artificial que permitía a los usuarios crear imágenes falsas superpuestas a sus imágenes satelitales, tras un informe de BBC Verify en el que los expertos expresaron su preocupación por el mal uso y el potencial de difusión de desinformación.
Menos de 48 horas después de que el gigante tecnológico anunciara la integración de su generador de imágenes con IA, Nano Banana 2, en Google Earth, comunicó que suspendía la función «mientras trabajamos en la implementación de medidas de seguridad más estrictas».
En su comunicado del viernes, Google afirmó haber detectado que «algunas personas compartían capturas de pantalla de imágenes generadas que parecen infringir nuestras políticas».
La función eliminada permitía a los usuarios utilizar indicaciones de texto para generar escenarios falsos sobre una capa base de imágenes satelitales, aéreas o 3D reales, que luego podían descargarse y compartirse en otras plataformas.
«Sabemos que la gente confía plenamente en Google Earth para obtener una visión fiable del mundo», añadió.
Los expertos explicaron a BBC Verify que la herramienta podría utilizarse para difundir desinformación con la apariencia de legitimidad de Google, y destacaron el potencial de que actores malintencionados abusen de ella.
Entre las imágenes que BBC Verify pudo crear al probar la función, que se lanzó inicialmente el jueves, se encontraban la Torre Eiffel derrumbada, un socavón que se tragó la Gran Pirámide de Giza y tanques rusos en la capital de Ucrania.
Antes de que se suspendiera, el experto en IA y desinformación Henk van Ess destacó los riesgos que planteaba esta función, creando imágenes falsas de una central nuclear inexistente en Irán, un campo de refugiados en la frontera entre Estados Unidos y México y un hospital falso en Gaza con un cráter de bomba al lado.
Según él, Google había permitido que imágenes «inventadas» se «fusionaran con coordenadas reales y se dibujaran sobre imágenes reales».
«La falsificación no tiene por qué parecer convincente por sí sola. Hereda la credibilidad del mapa en el que se basa», añadió van Ess.
Google afirmó que el contenido creado por IA mediante sus herramientas contiene marcas de agua invisibles para indicar que es falso o ha sido manipulado, y añadió que cualquier persona que «tenga dudas sobre una imagen» puede comprobarla utilizando la aplicación de chatbot Gemini o la función Lens en su buscador.
En general, las pruebas de BBC Verify demostraron que este método es efectivo con las imágenes generadas por la nueva función. Sin embargo, también descubrimos que era posible eludir estas comprobaciones y engañar a Gemini para que afirmara que estas imágenes falsas de Google Earth eran reales.
En algunos casos, las pruebas realizadas con herramientas externas de detección de IA tampoco lograron identificar el contenido generado por IA de Google Earth.
El investigador de detección mediante inteligencia artificial, Henry Ajder, declaró a BBC Verify que la creación de imágenes falsas en zonas de conflicto podría resultar particularmente «desestabilizadora» cuando los acontecimientos se desarrollan rápidamente y la información es escasa.
«Los periodistas podrían comprobar esa imagen… e informar al respecto. Pero, repito, no todo el mundo lo hará», añadió.
Inicialmente, Google afirmó que las directrices integradas en su modelo de IA impedirían la creación de imágenes que representaran «temas dañinos»; sin embargo, BBC Verify descubrió que pequeños cambios en las indicaciones podían utilizarse para eludir dichas directrices.
Por ejemplo, se rechazó la solicitud de crear una «plataforma elevada para ahorcar traidores» junto al Parlamento británico. Sin embargo, cuando se utilizó una sugerencia menos específica, se aceptó y se creó la imagen.
También le pedimos a la herramienta que escribiera la palabra «Trump» en el césped de la Casa Blanca, pero respondió que no podía «crear esa imagen» según sus directrices. Sin embargo, sí permitió generar un jardín comunitario en el mismo lugar.
Según Ajder, ante el constante flujo de imágenes generadas por IA, los espacios que se consideran «libres de la influencia de la IA son valiosos, especialmente para los periodistas y las personas que intentan trabajar en primera línea en escenarios de crisis que evolucionan rápidamente».
«Es preocupante porque es otro ámbito donde las fuentes de información fiable se ven erosionadas por la constante duda de que la IA pueda estar involucrada», añadió.
Para muchos, Google Earth es el punto de acceso a imágenes satelitales de libre acceso y puede utilizarse para obtener información sobre zonas de difícil acceso.
«Esto puede resultar especialmente perjudicial para la confianza pública, ya que históricamente las imágenes satelitales se han considerado una fuente de datos particularmente fiable», declaró a BBC Verify Bill Greer, analista geoespacial y cofundador del servicio satelital sin ánimo de lucro Common Space.
Las imágenes satelitales falsificadas ya se han utilizado para difundir desinformación, añadió. «Los gobiernos también están restringiendo cada vez más el acceso a los datos, por lo que es probable que veamos más imágenes falsas y menos imágenes reales, lo que erosionará aún más la confianza».