OpenAI desarrolló una herramienta para establecer estándares abiertos en la certificación del contenido digital, es decir, es capaz de identificar si una imagen se creó o no utilizando su propio generador de imágenes DALL-E 3.
El software de detección de imágenes desarrollado por OpenAI demuestra una alta precisión en la identificación del contenido generado por sus modelos.
De acuerdo con la compañía en pruebas internas, demostró la capacidad de identificar correctamente alrededor del 98% de las imágenes generadas por el modelo DALL·E 3, con un margen de error mínimo para las imágenes no generadas por IA.
Te puede interesar: Entrevista: «Las personas sí tienen que prepararse más porque la IA viene a sustituir»: Daniel Camacho, director de Michael Page
Sin embargo, observaron que el rendimiento del clasificador para distinguir entre imágenes generadas por el modelo DALL·E 3 y otros modelos de IA es ligeramente inferior, marcando entre el 5 y el 10 % de las imágenes generadas por otros modelos de IA en el conjunto de datos interno de OpenAI.
A pesar de estos desafíos, el clasificador representa un avance significativo en la identificación de contenido generado por inteligencia artificial, brindando una herramienta valiosa para promover la transparencia y la autenticidad en el contenido digital.
La nueva herramienta también incluye la implementación de marcas de agua a prueba de manipulaciones y clasificadores de detección, utilizando inteligencia artificial para evaluar la probabilidad de origen del contenido.
Así mismo, también han incorporado marcas de agua de audio en Voice Engine, nuestro modelo de voz personalizado, que actualmente se encuentra en una vista previa de investigación limitada.
Te puede interesar: OpenAI le pone memoria a ChatGPT para recordar tus conversaciones: Así funciona
OpenAI abre solicitudes de acceso a su clasificador de detección de imágenes para evaluadores externos, como laboratorios de investigación y organizaciones sin fines de lucro.
La compañía aseguró en comunicado que,su objetivo “es permitir una investigación independiente que evalúe la efectividad del clasificador, analice su aplicación en el mundo real, surja consideraciones relevantes para dicho uso y explore las características de la IA. -Contenido generado”
Ejemplo:
Imagen: OpenAI
