OpenAI anuncia herramienta que detecta contenido generado por su propia IA
Las primeras pruebas de esta nueva funcionalidad son prometedoras, con una efectividad del 98 %. La compañía dirigida por Sam liberó esta herramienta a un grupo cerrado de científicos, investigadores y organizaciones sin fines de lucro de periodismo.
Las preocupaciones por la inteligencia artificial son tan grandes como su potencial, es por ello que OpenAI desarrolló una herramienta para detectar imágenes creadas con su propia IA generativa, DALL-E 3.
Las primeras pruebas de esta nueva funcionalidad son prometedoras. La precisión para identificar contenido generado por inteligencia artificial es del 98 %.
Los deepfakes se convirtieron en un tema de preocupación, donde las imágenes de personas pueden ser insertadas en imágenes sin su consentimiento.
OpenAI añade que este clasificador no es infalible, ya que grandes ediciones en la imagen pueden reducir su rendimiento y efectividad.
Otro detalle importante es su baja eficacia en contenido generado por otras IA generativas, con solo un 5 % y 10 % en su conjunto de datos interno.
Actualmente, la compañía dirigida por Sam liberó esta herramienta a un grupo cerrado de científicos, investigadores y organizaciones sin fines de lucro de periodismo.
“Nuestro objetivo es permitir una investigación independiente que evalúe la efectividad del clasificador, analice su aplicación en el mundo real, surja consideraciones relevantes para dicho uso y explore las características de la IA”, dijo la empresa.
