La Inteligencia Artificial generativa ha avanzado tanto que distinguir entre un rostro sintético y uno real se volvió extremadamente complejo. Científicos de las universidades de Leeds y Reading, en el Reino Unido, llevaron adelante un estudio que revela una estrategia prometedora para mejorar esta habilidad: entrenar el ojo durante apenas cinco minutos puede incrementar significativamente la capacidad de detectar rostros creados con IA.
La investigación, publicada en la revista Royal Society Open Science, puso a prueba a 664 voluntarios para evaluar su destreza al identificar imágenes sintéticas. Entre los participantes se incluyeron “superreconocedores”, personas con habilidades superiores para reconocer rostros y patrones visuales.
Los riesgos de los rostros creados con IA
Según Eilidh Noyes, investigadora en psicología de la universidad británica, las creaciones con IA son cada vez más fáciles de crear y difíciles de detectar. La especialista advirtió que esta dificultad no es trivial, ya que el contenido sintético puede utilizarse con fines maliciosos.
Las problemáticas asociadas abarcan desde intentos de ciberataques hasta la difamación de terceros y la difusión de desinformación. Recientemente, la polémica en torno al generador de la red social X, que creó imágenes con desnudos no consentidos, expuso algunos de estos riesgos de manera contundente.
Noyes agregó que, desde el punto de vista de la seguridad, resulta crucial probar métodos para identificar imágenes artificiales. El estudio buscó precisamente determinar si el entrenamiento humano podía ofrecer una solución práctica ante este desafío creciente.
El entrenamiento ayuda a la detección de rostros de IA
Los voluntarios del estudio fueron divididos en grupos, y algunos recibieron una sesión de entrenamiento de cinco minutos antes de la prueba generalizada. Durante esta preparación, aprendieron claves específicas para reconocer rostros sintéticos, como una sutil borrosidad en los bordes del cabello y la piel.
Los resultados demostraron que aquellos participantes que recibieron entrenamiento mejoraron sustancialmente su capacidad de detectar rostros creados con IA. Incluso los “superreconocedores”, que ya tenían habilidades naturales superiores, se beneficiaron de esta breve preparación.
Katie Gray, de la Universidad de Reading, destacó que calibrar el ojo es un proceso breve y fácil de implementar. Los resultados del estudio sugieren que combinar este entrenamiento con las habilidades naturales de los superreconocedores podría ayudar a abordar problemas del mundo real, como la verificación de identidades en línea.
Cómo funciona la creación de rostros sintéticos
La IA suele crear caras mediante lo que se conoce como “red generativa antagónica” o GAN, por sus siglas en inglés. Este sistema involucra dos conjuntos de algoritmos que trabajan en colaboración: uno genera los rostros y otro evalúa el realismo de sus creaciones comparándolas con personas reales.
Esta retroalimentación constante permite que el sistema consiga resultados extremadamente realistas. Sin embargo, la investigación demostró que ciertos detalles sutiles pueden delatar el origen artificial de las imágenes cuando se sabe qué buscar.
Durante las pruebas, los participantes recibieron imágenes con tres filas de rostros y debían identificar cuáles correspondían a personas reales y cuáles fueron generadas con IA. Según observa la publicación Science Alert, solo una de las tres filas mostraba personas del mundo real, evidenciando cuán dificultosa es la detección sin preparación previa.
Implicaciones para la seguridad digital
De acuerdo a Noyes, las pruebas realizadas demuestran que el entrenamiento ayuda a la detección de rostros de IA y así permite eludir engaños. Esta capacidad resulta cada vez más relevante en un contexto donde los deepfakes y el contenido sintético proliferan en plataformas digitales.
La investigación también reveló que los “superreconocedores” entrenados podrían desempeñar roles importantes en tareas de verificación de identidad y seguridad en línea. Estas personas, combinando sus habilidades naturales con el adiestramiento específico, mostraron los mejores resultados en la identificación de imágenes artificiales.
El estudio completo, titulado Entrenamiento de la detección y discriminación de rostros generados por IA por superreconocedores humanos, fue publicado en la revista científica Royal Society Open Science. Los investigadores esperan que estos hallazgos contribuyan al desarrollo de estrategias más efectivas para enfrentar los desafíos que plantea la Inteligencia Artificial generativa en materia de seguridad y verificación de contenidos.
Aunque el estudio no especifica próximos pasos concretos, los autores sugieren que futuras investigaciones podrían explorar la implementación de programas de entrenamiento masivo. Resta determinar si estas técnicas pueden escalar efectivamente para proteger a usuarios comunes ante el creciente volumen de contenido sintético en internet.