Pangram, la compañía detrás de una de las herramientas más utilizadas para detectar textos generados por inteligencia artificial, ha expandido sus capacidades para incluir la detección de contenido audiovisual generado o modificado mediante IA. Según informó Pangram en un comunicado oficial, los suscriptores ahora pueden subir videos para recibir un análisis que determina si el material fue creado o editado con inteligencia artificial.
Detección avanzada en videos
La nueva función de detección de videos distingue entre clips totalmente generados por IA y aquellos que contienen elementos parcialmente creados con esta tecnología. Además, incorpora un mapa de calor que señala las áreas del video con mayor probabilidad de haber sido manipuladas por IA. Según datos internos proporcionados por Pangram, el modelo de detección de video alcanzó una precisión superior al 98% en pruebas comparativas con otras herramientas similares.
Mejoras en la detección de imágenes
En cuanto a imágenes, Pangram había presentado previamente un modelo de detección en fase de investigación, denominado Pangram Image 1.0, que ahora está disponible a través de una extensión para el navegador Chrome. Esta extensión escanea automáticamente las imágenes durante la navegación y alerta sobre aquellas que probablemente fueron generadas por IA. En pruebas internas, el modelo identificó más del 99% de las imágenes generadas por IA con una tasa de falsos positivos de apenas 0.27%.
Te puede interesar
TecnologíaAnthropic desarrolla FlashProve para autenticar respuestas de modelos de IAAnthropic presentó FlashProve, un sistema de código abierto que permite verificar criptográficamente la identidad de los…Leer la nota Desafíos técnicos y ajustes
El CEO de Pangram, Max Spero, explicó que uno de los retos para desarrollar el modelo de detección de imágenes fue diferenciar entre las ediciones realizadas por IA y las mejoras automáticas que aplican las cámaras de teléfonos móviles, como los iPhones, que utilizan inteligencia artificial para mejorar detalles en fotos reales. Para garantizar la precisión, la empresa retrasó el lanzamiento del modelo para realizar pruebas específicas con dispositivos como el iPhone 18 Pro, que inicialmente generaba falsas alertas de contenido IA.
Acceso y disponibilidad
Estas nuevas capacidades para detectar contenido generado por IA en videos e imágenes están disponibles para los usuarios con suscripción activa a Pangram. Los usuarios con cuentas gratuitas pueden analizar un número limitado de imágenes sin necesidad de suscribirse.
Contexto y relevancia
La expansión de las herramientas de Pangram responde a la creciente proliferación de contenido audiovisual generado o manipulado mediante inteligencia artificial, lo que plantea desafíos para la verificación de autenticidad en medios digitales y redes sociales. Esta tecnología ofrece una solución avanzada para periodistas, investigadores y plataformas que buscan identificar y gestionar contenido potencialmente manipulado.
