Las personas no solo no pueden distinguir entre caras reales y caras generadas por IA, sino que también parecen confiar más en las caras generadas por IA. Los hallazgos de un estudio relativamente pequeño sugieren que los actores infames podrían estar usando IA para generar rostros artificiales para engañar a las personas.
La mayoría (fila superior) y la menor (fila inferior) clasificaron con precisión las caras reales (R) y sintéticas (S). Crédito: DOI: 10.1073/pnas.2120481119
Peor que tirar una moneda
En los últimos años, la Inteligencia Artificial ha recorrido un largo camino. No es solo para analizar datos, se puede usar para crear texto, imágenes e incluso videos. Una aplicación particularmente intrigante es la creación de rostros humanos.
En los últimos años, los algoritmos se han vuelto sorprendentemente buenos para crear rostros humanos. Esto podría ser útil, por un lado, ya que permite a las empresas de bajo presupuesto producir anuncios, por ejemplo, esencialmente democratizando el acceso a recursos valiosos. Pero al mismo tiempo, los rostros sintetizados por IA pueden usarse para desinformación, fraude, propaganda e incluso pornografía de venganza.
Los cerebros humanos generalmente son bastante buenos para distinguir lo real de lo falso, pero cuando se trata de esta área, las IA están ganando la carrera. En un nuevo estudio, la Dra. Sophie Nightingale de la Universidad de Lancaster y el profesor Hany Farid de la Universidad de California, Berkeley, realizaron experimentos para analizar si los participantes pueden distinguir caras reales sintetizadas con IA de última generación y qué nivel de confianza tienen las caras. evocado.
Nuestra evaluación del realismo fotográfico de rostros sintetizados por IA indica que los motores de síntesis han atravesado el valle inquietante y son capaces de crear rostros que son indistinguibles y más confiables que los rostros reales, señalan los investigadores.
Los investigadores diseñaron tres experimentos, reclutando voluntarios de la plataforma Mechanical Turk. En el primero, 315 participantes clasificaron 128 rostros tomados de un conjunto de 800 (reales o sintetizados). Su precisión fue un 48% peor que lanzar una moneda.
Caras representativas utilizadas en el estudio. ¿Sabrías diferenciar los rostros reales de los sintéticos? Los participantes en el estudio no pudieron. Créditos de imagen: Crédito: DOI: 10.1073/pnas.2120481119.
Más confiable
En el segundo experimento, se capacitó a 219 nuevos participantes sobre cómo analizar y dar retroalimentación sobre rostros. Luego se les pidió que clasificaran y calificaran 128 rostros, nuevamente de un conjunto de 800. Su precisión aumentó gracias al entrenamiento, pero solo al 59 %.
Mientras tanto, en el tercer experimento, se pidió a 223 participantes que calificaran la confiabilidad de 128 rostros (del conjunto de 800) en una escala del 1 al 7. Sorprendentemente, los rostros sintéticos fueron clasificados como un 7,7 % más confiables.
Los rostros brindan una rica fuente de información, con una exposición de solo milisegundos suficiente para hacer inferencias implícitas sobre rasgos individuales como la confiabilidad. Nos preguntamos si los rostros sintéticos activan los mismos juicios de confiabilidad. De lo contrario, una percepción de confiabilidad podría ayudar a distinguir los rostros reales de los sintéticos.
Quizás lo más interesante es que encontramos que las caras generadas sintéticamente son más confiables que las caras reales.
También hubo algunas conclusiones interesantes del análisis. Por ejemplo, las mujeres fueron calificadas como significativamente más confiables que los hombres, y las caras sonrientes también fueron más confiables. Las caras negras fueron calificadas como más confiables que las del sur de Asia, pero por lo demás, la raza parecía no afectar la confiabilidad.
Es más probable que una cara sonriente se califique como confiable, pero el 65,5 % de las caras reales y el 58,8 % de las caras sintéticas sonríen, por lo que la expresión facial por sí sola no puede explicar por qué las caras sintéticas se califican como más confiables, señala el estudio.
Los investigadores ofrecen una posible explicación de por qué los rostros sintéticos podrían verse como más confiables: tienden a parecerse a los rostros promedio, e investigaciones anteriores han sugerido que los rostros promedio tienden a considerarse más confiables.
Aunque es un tamaño de muestra bastante pequeño y los hallazgos deben replicarse a mayor escala, los hallazgos son bastante preocupantes, especialmente considerando lo rápido que ha progresado la tecnología. Los investigadores dicen que si queremos proteger al público de las falsificaciones profundas, debería haber algunas pautas sobre cómo se crean y distribuyen las imágenes sintetizadas.
Las salvaguardas podrían incluir, por ejemplo, la incorporación de marcas de agua sólidas en las redes de síntesis de imágenes y videos que proporcionarían un mecanismo posterior para una identificación confiable. Debido a que es la democratización del acceso a esta poderosa tecnología lo que plantea la amenaza más significativa, también alentamos a que se reconsidere el enfoque de laissez-faire hacia el público y la liberación sin restricciones del código para que cualquiera lo incorpore a cualquier aplicación.
En este momento crucial, y como lo han hecho otros campos científicos y de ingeniería, alentamos a la comunidad gráfica y visual a desarrollar pautas para la creación y distribución de tecnologías de medios sintéticos que incorporen pautas éticas para investigadores, editores y distribuidores de medios.
El estudio fue publicado en PNAS.
"