Google lanza una herramienta para detectar imágenes falsas o adulteradas

Assembler ayudará a periodistas y 'fact-checkers' a saber si una fotografía ha sido manipulada

por Ismael Marinero /


En la era de las fake news, uno de los problemas más habituales a los que se enfrentan los periodistas es distinguir entre imágenes originales e imágenes manipuladas gracias al Photoshop y otros programas de edición. Es una de las cosas más difíciles de verificar, especialmente con la llegada de software con Inteligencia Artificial capaz de generar versiones alternativas de fotografías y vídeos. Además, el vertiginoso ritmo de los medios de comunicación aumenta a medida que se extiende la desinformación en velocidad y escala, por lo que se tiene menos tiempo para eso que los anglosajones llaman fact-checking.

Assembler

La nueva herramienta de detección de imágenes manipuladas está en fase de prueba (Jigsaw / Google)

Gracias a Jigsaw, una compañía dependiente de Google que se dedica a pronosticar y desarrollar recursos tecnológicos contra este tipo de amenazas, los periodistas disponemos de Assembler, una nueva herramienta para verificar rápidamente imágenes que pueden estar adulteradas. La plataforma, todavía en fase experimental, combina varias técnicas ya existentes para detectar las manipulaciones más comunes, incluyendo el cambio de brillo de la imagen y el pegado de píxeles copiados de otro sitio para cubrir algo mientras se mantiene la misma textura visual.

RELACIONADO: ¿Cómo detectar noticias falsas en redes sociales?

Otro de sus puntos fuertes es su detector de imágenes creadas por StyleGAN, un algoritmo concebido por expertos de Nvidia que analiza miles de retratos para generar rostros ficticios con un realismo casi absoluto. La calidad de imagen de estas fotografías sintéticas está en continua mejora, por lo que el desafío para Assembler es mantenerse permanentemente actualizado y pendiente de las nuevas técnicas en falsificación de imágenes.

El objetivo final de Assembler es ofrecer un porcentaje de probabilidad de que una imagen haya sido manipulada. Además, también aporta explicaciones detalladas de las modificaciones que ha detectado para proporcionar más información sobre los elementos que han cambiado en la imagen y que el periodista en cuestión pueda identificar más fácilmente el propósito para el que se ha hecho esa modificación. Entre esos motivos está el más peligroso: el interés en influir en la opinión pública a favor de alguna idea controvertida cuando no hay argumentos basados en hechos reales para defenderla.

Assembler puede ser de gran utilidad en un momento en el que los medios necesitan ofrecer certezas frente al caos que pueden producir las redes sociales, donde un rumor infundado se convierte en noticia falsa en apenas minutos. Sin embargo, esta nueva plataforma de Google todavía no cubre muchas técnicas de manipulación existentes, incluyendo todas las relacionadas con vídeos y deepfakes, más difíciles de analizar por la cantidad de información que contienen.

RELACIONADO: Más noticias sobre Tecnología

Durante el desarrollo del software, el equipo se ha encontrado con algunas dificultades, como que las imágenes utilizadas por los periodistas apenas tenían representación en los conjuntos de imágenes utilizados para entrenar a la IA. Además, también tuvieron problemas para identificar aquellas imágenes que han sido comprimidas varias veces y cuya calidad va disminuyendo con cada compresión. Esto ocurre, por ejemplo, cuando alguien hace una captura de pantalla, la sube Instagram, luego alguien hace otra captura de ahí que es compartida por WhatsApp, etcétera. Por eso, los técnicos de Jigsaw han expandido su base de datos y han activado la búsqueda inversa para que, si ponemos una imagen que nos ha llegado por WhatsApp, la IA realice una búsqueda hasta encontrar la fuente original.

Su otro punto débil es que, al menos de momento, funciona al margen de los canales donde habitualmente se distribuyen este tipo de imágenes manipuladas. Los expertos han recomendado que gigantes de la tecnología como Facebook incorporen este tipo de herramientas directamente en sus plataformas. De esa manera, la detección de imágenes falsas podrían realizarse en tiempo casi real, cuando las fotos y los videos son subidos a sus servidores.