Cada día, las imágenes falsas se vuelven más y más convincentes. Actualmente, cualquiera puede utilizar una herramienta en línea como Midjourney o Dall-e para generar imágenes artificiales o alteradas con poco esfuerzo.
La buena noticia es que nosotros, los seres humanos, poseemos un instinto natural para identificarlas, afirma Siwei Lyu, profesor de informática e ingeniería en la Universidad de Buffalo.
Lyu forma parte de un grupo de investigadores que trabajan contra la IA, y han descubierto que la mejor forma de enseñarle a una IA a reconocer imágenes sintéticas es mostrándole cómo lo hacen las personas.
Las imágenes falsificadas han sido un problema desde hace mucho tiempo. La manipulación de imágenes existe casi desde que la fotografía fue inventada. Tomemos como ejemplo la siguiente foto de 1860 con la cabeza de Abraham Lincoln unida al cuerpo de otro hombre: se requirió mucho esfuerzo y habilidad para que pareciera real.
Lo que ha cambiado es la facilidad con la que alguien sin experiencia puede crear algo que parezca auténtico, lo que resulta en una cantidad abrumadora de imágenes sintéticas. Sin embargo, Lyu nos anima a mantener la calma. Aquí te mostramos cómo utilizar nuestros instintos naturales para detectar aspectos que no encajan del todo y cómo mantenernos al tanto de los avances vertiginosos de la IA.
Para descubrir una falsificación
El primer paso es tomarse el tiempo necesario. Estamos expuestos a una gran cantidad de medios constantemente y sólo necesitamos 13 milisegundos para procesar cada imagen . Eso podría ser suficiente para reconocer lo que es, pero no es tiempo suficiente para reflexionar sobre si es real o no. No ignores ese instinto cuando una imagen te sorprende al contradecir lo que sabes que es verdad.
Derecha : esta imagen generada por IA se produjo con DALL·E 2 utilizando el mensaje «una fotografía de perfil de estilo National Geographic de un guepardo en África». La IA tiende a tener dificultades para crear ojos que parezcan reales y también tiene problemas con la física de la luz, incluidos los reflejos.
Como sugiere Lyu:
La próxima vez que veamos algo curioso o gracioso, esperemos que nos detengamos un momento y lo pensemos. Si sospechamos que algo es sospechoso, no lo compartamos de inmediato en redes sociales, así evitamos ser parte del problema y detenemos el problema antes de que se propague.
Las IA están diseñadas para crear imágenes realistas al analizar un gran número de imágenes auténticas. El “punto débil” de estos programas, como lo llama Lyu, es que sólo conocen lo que se les ha proporcionado y no saben en qué detalles enfocarse. Esto resulta en “artefactos” o problemas en la imagen que se hacen evidentes al examinarlos de cerca. Por ejemplo, las personas en vídeos falsificados rara vez parpadean, ya que las IA suelen entrenarse con imágenes de personas con los ojos abiertos.
“Los indicios suelen aparecer en las uniones”, comenta Paulo Ordoveza, un desarrollador web y especialista en verificación de imágenes que gestiona la cuenta de Twitter @picpedant, donde desacredita publicaciones virales falsas. Esto podría incluir algo como una “manga arrugada que se difumina sin llegar a unirse con la piel” sin una distinción clara entre ambos. También sugiere buscar “comportamientos inusuales en mechones de cabello, gafas, sombreros, joyas y fondos” por la misma razón.
Si hay una persona en la imagen, Lyu aconseja prestar atención a sus manos y ojos.
Las IA actuales no son buenas en crear manos realistas: pueden tener seis dedos o dedos de igual longitud o en una posición extraña. En marzo, se hizo viral una imagen generada por IA del Papa Francisco con un abrigo acolchado de Balenciaga. Si observas detenidamente su mano, está sosteniendo su café por la pestaña de la tapa, una forma peculiar de sujetarlo, incluso si la taza estuviera vacía.
¿Y por qué los ojos? Los seres humanos somos muy sensibles a los pequeños detalles faciales. Con rastreadores oculares, podemos ver cómo las personas miran de un ojo a otro en busca de información. Hemos evolucionado para hacer esto, según David Matsumoto , profesor de psicología en la Universidad Estatal de San Francisco y experto en microexpresiones. Afirma que así es como diferenciamos a amigos de enemigos y evaluamos el estado emocional de aquellos con los que nos encontramos. Necesitamos realizar estas evaluaciones rápidamente para decidir cómo reaccionar o, si es necesario, escapar.
Los humanos casi siempre tienen pupilas circulares, pero las IA suelen generar sombras de formas extrañas en el centro del ojo. La luz reflejada en los ojos también debe estar en la misma posición en ambos, algo con lo que las IA actuales tienen dificultades.
La luz y las sombras en general son complicadas de reproducir para las IA. Especialmente si hay una ventana o una superficie reflectante en la imagen, puede haber luces o sombras donde no deberían estar. Esto forma parte de un problema más amplio que las IA tienen con las leyes de la física, como la gravedad.
Muchas imágenes sintéticas también presentan una suavidad antinatural donde debería haber textura, y elementos que deberían ser rectos pueden estar ligeramente curvados. En la imagen del Papa generada por IA, su collar cruzado parece tener bordes curvos y además flota un poco sobre su pecho (ignorando la gravedad).
Herramientas para apoyarnos
Sin embargo, todos estos “indicios” de medios generados por IA tienen un problema.
Hany Farid, profesor de la Universidad de California, Berkeley, especializado en análisis forense de medios, aclara:
Lo que les diga hoy, no funcionará en un mes. La verdad es que este ámbito avanza muy rápido. De hecho, no puedes confiar únicamente en tu percepción visual.
En lugar de ello, un enfoque mucho más práctico y duradero es ser escéptico con los medios en general, cuestionar su origen y verificar su autenticidad, sugiere.
Una herramienta sencilla de utilizar es la búsqueda inversa de imágenes de Google, donde los usuarios pueden subir una imagen y ver si hay debates sobre su creación. Esto funcionaría para una imagen ampliamente difundida como la del Papa, pero quizás no sea útil con creaciones más desconocidas o únicas.
En esas situaciones, empresas como Reality Defender ofrecen servicios de detección de IA a las compañías por un costo. Estas empresas están llevando a cabo “»investigaciones sólidas” en métodos como el marcaje avanzado, según Daniela Rus, directora del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL) del MIT. “Estas técnicas sofisticadas están demostrando ser efectivas”, añade.
Farid opina que los creadores de IA deberían estar obligados a garantizar que su contenido tenga algún tipo de marca de agua o huella digital para identificarlo como generado por computadora en el futuro, especialmente después de haber sido compartido en línea. Por ejemplo, esa imagen del Papa se compartió originalmente en una comunidad de creadores de IA, sin intención de engañar a nadie, pero se propagó rápidamente por todo el internet sin ese importante contexto inicial.
Según Farid:
Está muy claro lo que sucederá cuando permitas que las personas realicen cosas sofisticadas de audio, video e imágenes. La gente hará cosas malintencionadas con ello. Que estas empresas digan, ‘No nos culpen. Solo creamos la tecnología’, simplemente no acepto ese argumento.
Actualmente, los recursos gratuitos para identificar medios generados por IA son escasos y poco fiables.
Lyu y su equipo han desarrollado un programa gratuito basado en la web llamado DeepFake-o-meter , pero actualmente no está disponible para el público.
Parte del problema, menciona Lyu, es que los inversores se apresuran a financiar la creación de IA, pero no las contramedidas de IA. Y agrega:
Nuestra parte del trabajo recibe mucha menos atención. Y básicamente nos estamos quedando sin recursos. A diferencia de los programas detrás de las falsificaciones profundas, no generamos ingresos directamente, estamos intentando evitar que las personas sufran pérdidas financieras o sean engañadas psicológicamente.
Conforme la IA siga avanzando , Lyu afirma que necesitaremos más programas gratuitos de detección de IA basados en la web y otras herramientas que puedan revelar firmas de IA que no son visibles a simple vista, de la misma forma en que una máquina de rayos X muestra el funcionamiento interno del cuerpo. Los programas como estos que existen actualmente requieren cierto grado de experiencia para utilizarlos y no siempre son gratuitos o económicos.
A pesar de ello, sin estos recursos, puedes comenzar a buscar imágenes generadas por IA hoy mismo simplemente estando alerta: verifica primero antes de creer en lo que ves.
El cargo ¿Cómo detectar imágenes generadas por IA? apareció primero en Tecnovedosos.
source https://tecnovedosos.com/detectar-imagenes-generadas-ia/
No hay comentarios.:
Publicar un comentario