IA, bulos y el huracán Melissa: ni un avión sobrevolando su ojo ni tiburones en las calles
La avalancha de vídeos generados con IA sobre el huracán Melissa está copando las redes y desviando la atención de avisos clave sobre esta tormenta de categoría 5 que ya ha dejado al menos medio centenar de muertos. AFP ha detectado decenas de falsos.
Vídeos generados con inteligencia artificial sobre el huracán Melissa han inundado las redes sociales en los últimos días, desviando la atención de información crucial de seguridad sobre la enorme tormenta de categoría 5, cuyo paso por el Caribe ha dejado al menos medio centenar de muertos.
El servicio de verificación de la agencia AFP, Factual, detectó decenas de falsificaciones —la mayoría con marcas de agua de Sora, el modelo de OpenAI que crea vídeos a partir de instrucciones de texto— justo cuando Melissa se disponía a azotar la isla caribeña con vientos violentos y lluvias intensas.
Esos vídeos mostraban una variedad de escenas fabricadas digitalmente, desde un avión sobrevolando el ojo del huracán a escenas de tiburones por las calles.
La senadora Dana Morris Dixon, ministra de Información de Jamaica, afirma que ella y otros ministros participaron conjuntamente en una rueda de prensa el lunes para ofrecer «información correcta» sobre la monstruosa tormenta que se acercaba al país. «Estoy en tantos grupos de WhatsApp y veo que llegan todos estos videos. Muchos de ellos son falsos», explica Dixon, que subraya la importancia de atender a fuentes oficiales.
Incluso las falsificaciones aparentemente inocuas pueden contribuir a ahogar alertas importantes de seguridad o hacer que los espectadores subestimen el peligro de fenómenos meteorológicos severos, advierten los expertos.
«El contenido falso socava la seriedad del mensaje del gobierno de estar preparados», apunta Amy McGovern, profesora de meteorología de la Universidad de Oklahoma, cuya investigación se ha centrado en usar inteligencia artificial para mejorar la predicción de clima extremo.
«En última instancia, ese contenido falso provocará pérdida de vidas y de propiedades», asegura, en declaraciones a AFP.
Vídeos que circulan en TikTok y Facebook
Los clips identificados por AFP se difundieron principalmente en TikTok, donde solo algunos llevaban una etiqueta pese a la política de la plataforma que exige a los usuarios revelar contenido realista generado con IA.
Tras ser alertada por AFP, TikTok parece haber retirado más de dos docenas de esos videos —así como varias cuentas dedicadas a compartirlos—. También se han hallado algunos ejemplos en Facebook e Instagram, aunque las políticas de Meta, su empresa matriz, dicen que también se requieren etiquetas para videos fotorrealistas creados con IA.
Hany Farid, cofundador de la empresa de ciberseguridad GetReal Security y profesor en la Universidad de California, Berkeley, señala que el contenido con IA relacionado con el huracán subraya cómo los nuevos modelos de texto a video han «acelerado la propagación de falsificaciones convincentes».
Estas aplicaciones permiten a los usuarios crear clips con rostros humanos hiperrealistas.
AFP ha contactado a OpenAI para solicitar comentarios, pero no ha obtenido, al menos por el momento, ninguna respuesta.
Según la revisión de AFP de las secciones de comentarios, muchos espectadores parecían no saber que las imágenes eran generadas por IA, a pesar de la marca de agua de Sora.
«Dios, por favor, protege la casa del abuelo y el árbol de mango», escribió un usuario bajo un video de TikTok —hecho con IA— de un anciano que gritaba al huracán que no se «movería por una brisita».
Otro usuario le pidió que publicara más actualizaciones sobre el estado de su propiedad.
Una avalancha de frases similares apareció bajo otro video que mostraba a una mujer llorando pidiendo ayuda mientras sostenía bebés bajo una casa sin techo.
«La paradoja de la era de la información es que, como público, estamos menos informados a medida que aumenta la cantidad de información», lamenta Farid.