Un generador de imágenes gratis, propio de ChatGPT, -casi- sin censura y con desafíos de seguridad: nuevos riesgos derivados de la generación de imágenes nativas.
OpenAI anunció la integración de la funcionalidad de generación de imágenes directamente en ChatGPT los usuarios que recurran al modelo multimodal GPT-4o podrán generar imágenes dentro del mismo, en lugar de (como venía ocurriendo hasta ahora) utilizar ChatGPT como mero intermediario del modelo especializado DALL-E 3.
Generación de textos precisos y coherencia de elementos entre iteraciones son, junto al hiperrealismo, las principales novedades. Tras esta actualización, GPT-4o ya no es sólo un modelo de lenguaje: suma la faceta de creador de contenido visual con comprensión contextual.
Desafíos de seguridad: nuevos riesgos derivados de la generación de imágenes nativas. En la «tarjeta del sistema» de este modelo OpenAI destaca un mensaje singular: podremos generar deepfakes sin aparentes problemas. Como explican en dicho texto: ”La generación de imágenes 4o es capaz, en muchos casos, de generar una representación de una figura pública basándose únicamente en una indicación de texto. En este lanzamiento, no bloquearemos la capacidad de generar figuras públicas adultas, sino que implementaremos las mismas salvaguardas que hemos implementado para la edición de imágenes de cargas fotorrealistas de personas.
Por ejemplo –sigue el texto traducido-, esto incluye tratar de bloquear la generación de imágenes fotorrealistas de figuras públicas que sean menores y de material que viole nuestras políticas relacionadas con la violencia, las imágenes que inciten al odio, las instrucciones para actividades ilícitas, el contenido erótico y otras áreas. Los personajes públicos que deseen que no se genere su imagen pueden optar por no participar«.
El cambio está disponible para todos los usuarios de ChatGPT (en los planes Plus, Pro, Team y gratuito), así como en la plataforma de vídeo Sora, y próximamente vía API para desarrolladores.
Fuentes: https://cdn.openai.com/11998be9-5319-4302-bfbf-1167e093f1fb/Native_Image_Generation_System_Card.pdf / https://www.genbeta.com/inteligencia-artificial/chatgpt-fin-tiene-generador-imagenes-propio-gratis-resuelve-forma-increible-uno-grandes-problemas-ia / https://www.xataka.com/robotica-e-ia/nuevo-generador-imagenes-openai-da-giro-180o-apartado-que-no-vimos-venir-censura
