Google abre su detector de contenido generado con IA a todo el público

Ahora será más fácil para todo el mundo descubrir si un contenido multimedia fue creado o editado con inteligencia artificial (IA). Cuando menos, esta es la promesa de Google tras el lanzamiento de SynthID Detector, un nuevo sitio web abierto que permite a cualquier persona, desde cualquier lugar, detectar si una imagen, audio o video fue generado o manipulado por algún algoritmo.

En 2023, la compañía presentó SynthID, un mecanismo que, mediante marcas de agua imperceptibles para el ojo humano, etiqueta audios, imágenes y clips generados con IA. Según Pushmeet Kohli, vicepresidente de Ciencia e Iniciativas Estratégicas de Google DeepMind, hasta el momento, más de 180,000 millones de imágenes y videos, así como el equivalente a 240,000 años de contenido de audio, han sido marcados con este sistema.

Pese a la magnitud de las cifras, los interesados en detectar materiales creados o modificados de manera sintética necesitaban software especializado, capaz de identificar y leer el marcaje de SynthID.

Para abordar el problema, el año pasado Google presentó la versión preliminar de SynthID Detector. Sin embargo, su acceso se mantuvo restringido a ciertos medios de comunicación. Esto acaba de cambiar.

Por qué el sistema de etiquetado invisible de Claude es tan fácil de evadir

Anthropic incorporará una marca invisible en los textos procesados por Claude para identificar el uso de IA, aunque el etiquetado puede perderse tras ediciones, paráfrasis o traducciones.

Google anunció que, a partir de hoy, cualquier persona puede utilizar la herramienta de detección. La apertura, según Kohli, responde al compromiso de la compañía de brindar mayor información y mecanismos que permitan a las audiencias desarrollar un mejor criterio sobre lo que consumen en internet.

“A medida que las herramientas de IA mejoran y se vuelven más fáciles de usar, contar con un contexto claro sobre el contenido que encuentras en línea te ayuda a tomar decisiones informadas sobre en qué confiar. Con el nuevo SynthID Detector, cualquiera puede comprobar fácilmente si una imagen, un vídeo o un archivo de audio se ha creado con inteligencia artificial”, aseguró.

¿Cómo funciona el detector de IA lanzado por Google?

La herramienta se encuentra disponible en un sitio web dedicado. Los usuarios deberán iniciar sesión con sus credenciales de Google, ChatGPT o Apple. Después de aceptar los términos y condiciones de uso, así como los permisos de acceso, basta con ingresar el contenido que se desea analizar para que el sistema comience a trabajar de forma rápida y sencilla automáticamente y, en pocos segundos, entregue directamente un resultado.

El equipo de Google señala que, en caso de que la herramienta identifique una marca de agua, es “probable que [el material] fue editado o generado por un modelo de IA compatible con SynthID”.