La app Sora de OpenAI ha puesto sobre la mesa uno de los debates más apremiantes de nuestra era digital.En apenas tres días desde su lanzamiento, miles de personas han creado videos hiperrealistas de fraudes electorales, arrestos de inmigrantes, protestas callejeras y crímenes que jamás ocurrieron.Videos falsos con solo escribir textoSora funciona mediante un sistema de generación de video a partir de texto que permite a los usuarios crear clips de hasta 10 segundos con calidad casi cinematográfica.La aplicación, lanzada el 30 de septiembre con el modelo Sora 2, procesa descripciones escritas y las convierte en secuencias audiovisuales que incluyen movimiento, sonido y una simulación de física realista.Los usuarios también pueden cargar imágenes de sí mismos para aparecer en escenas imaginarias, o utilizar videos previos como base para crear nuevas versiones.Desde su lanzamiento en Estados Unidos y Canadá para dispositivos iOS, la app ha acumulado cerca de 164 mil instalaciones en sus primeros dos días, posicionándose como la tercera más descargada en la App Store estadounidense.La nueva frontera de los deepfakesLos expertos en seguridad digital señalan que Sora y herramientas similares como Veo 3 de Google representan un terreno fértil para la desinformación masiva.Hany Farid, profesor de ciencias de la computación en la Universidad de California, Berkeley, y cofundador de GetReal Security, expresó su preocupación sobre el impacto que este tipo de contenido tendrá en la sociedad.El especialista advierte sobre las consecuencias para la democracia, la economía y las instituciones cuando el público se expone diariamente a cantidades indeterminadas de material fabricado.La generación de videos hiperrealistas aumenta la probabilidad de consecuencias tangibles en el mundo físico. Los videos falsos pueden exacerbar conflictos, defraudar consumidores, influir en elecciones o inculpar a personas inocentes de crímenes que nunca cometieron.Medidas de seguridad que pueden saltarseOpenAI afirma haber lanzado la aplicación después de extensas pruebas de seguridad e implementado barreras de protección. Las políticas de uso de la compañía prohíben engañar a otras personas mediante suplantación de identidad, estafas o fraude, y la empresa asegura tomar medidas cuando detecta uso indebido.En pruebas realizadas por The New York Times, la app rechazó generar imágenes de personas famosas sin su permiso y negó solicitudes de violencia gráfica. También bloqueó algunas peticiones de contenido político.Sin embargo, este sistema presenta agujeros significativos. La aplicación solo es accesible mediante invitación de un usuario existente y no requiere verificación de cuentas, lo que significa que las personas pueden registrarse con un nombre e imagen de perfil falsos.Sora genera contenido que involucra a niños, así como videos de figuras públicas fallecidas hace tiempo, como Martin Luther King Jr. y Michael Jackson.El fin de la confianza en el videoHasta hace poco, los videos se consideraban evidencia razonablemente confiable de eventos reales, incluso después de que se volviera sencillo editar fotografías y texto de manera realista.La capacidad de Sora para producir material audiovisual de alta calidad aumenta el riesgo de que los espectadores pierdan toda confianza en lo que ven, advierten los especialistas.Aunque los videos de Sora incluyen una marca de agua animada que los identifica como creaciones de inteligencia artificial, los expertos señalan que estas marcas pueden eliminarse.Este fenómeno se conoce como el “dividendo del mentiroso”, donde los videos de inteligencia artificial de calibre cada vez más alto permitirán a las personas desestimar contenido auténtico como falso.Los expertos afirman que la app es capaz de generar videos que podrían difundir propaganda y presentar evidencia falsa que dé credibilidad a teorías conspirativas, implique a personas inocentes en delitos o inflame situaciones ya de por sí delicadas.Fuente: NYTimesThe post Sora genera videos falsos tan reales que preocupan a expertos en seguridad first appeared on PasionMóvil.