Introducing Sora, our text-to-video model.

Sora can create videos of up to 60 seconds featuring highly detailed scenes, complex camera motion, and multiple characters with vibrant emotions. https://t.co/7j2JN27M3W

Prompt: “Beautiful, snowy… pic.twitter.com/ruTEWn87vf

— OpenAI (@OpenAI) February 15, 2024

Antes de que la comunidad tecnológica ponga la voz en grito, la propia compañía dirigida por el visionario Sam Altman ha informado de la adopción de varias medidas relevantes de seguridad, desde antes de que Sora esté disponible en el catálogo de servicios de OpenAI. “Estamos trabajando con miembros del equipo rojo (expertos en asuntos de desinformación y de contenidos que incitan al odio y la violencia) que están probando el modelo de manera adversa.

OpenAI cuida hasta los más pequeños detalles, como el hecho de generar vídeos enteros de un tirón o de ampliar los vídeos generados, para hacerlos más largos. “Al dotar al modelo de previsión de muchos fotogramas a la vez, hemos resuelto el difícil problema de asegurarnos de que un sujeto sigue siendo el mismo aunque se pierda de vista temporalmente”, explican desde OpenAI.

Prompt: “A movie trailer featuring the adventures of the 30 year old space man wearing a red wool knitted motorcycle helmet, blue sky, salt desert, cinematic style, shot on 35mm film, vivid colors.” pic.twitter.com/0JzpwPUGPB

— OpenAI (@OpenAI) February 15, 2024

OpenAI refuerza detectores ante contenidos engañosos

La compañía estadounidense también detalla, a través de su página corporativa, que está construyendo herramientas para ayudar a detectar contenidos engañosos, capaz de desvelar los vídeos generados por Sora o los productos que utilizan DALL-E 3 (su inteligencia artificial generativa que transforma texto en imágenes), con la intención de incluir metadatos que desvelen su origen y trazabilidad.

“No podemos predecir todas las formas beneficiosas en que la gente utilizará nuestra tecnología, ni todas las formas en que abusará de ella”, advierten desde su sitio web.

Por lo pronto, y sin necesidad que existan leyes que regulen, el clasificador de texto de Open AI “comprobará y rechazará las solicitudes de entrada de texto que infrinjan las políticas de uso, como las que solicitan violencia extrema, contenido sexual, imágenes que inciten al odio, imágenes de famosos o la propiedad intelectual de terceros”.

Al mismo tiempo, “la compañía ha desarrollado potentes clasificadores de imágenes que se utilizan para revisar los fotogramas de todos los vídeos generados y garantizar que cumplen nuestras políticas de uso antes de mostrarlos al usuario”. Hasta el momento, no hay referencia a la protección de los derechos de autor de los vídeos, por lo que el asunto seguirá orbitando en la misma nebulosa de siempre.

En un alarde de honestidad, OpenAI reconoce sus limitaciones iniciales: “El modelo actual tiene puntos débiles: Puede que le cueste simular con precisión la física de una escena compleja y que no entienda casos concretos de causa y efecto. Por ejemplo, una persona puede dar un mordisco a una galleta, pero después la galleta puede no tener la marca del bocado”.

Asimismo, Sora también puede “confundir detalles espaciales de una indicación, por ejemplo, confundir izquierda y derecha, y puede tener problemas con descripciones precisas de acontecimientos que tienen lugar a lo largo del tiempo, como seguir una trayectoria específica de la cámara”.