El Consejo de Supervisión de Meta ha emitido un nuevo pronunciamiento en el que califica las reglas de la empresa para gestionar contenidos generados por inteligencia artificial (IA), especialmente deepfakes, como "consistente y fundamentalmente inadecuadas". Esta crítica surge tras analizar casos recientes donde videos sintéticos han sido usados para difundir mensajes falsos y hostigar a personas en la plataforma.
Casos emblemáticos y respuesta del Consejo
Uno de los ejemplos destacados por el Consejo involucra un video generado por IA que muestra a un político escocés pronunciando declaraciones falsas y ofensivas sobre refugiados. Según el Consejo, el video era "realista" pero fabricado, causando un impacto traumático en la persona afectada. Meta no retiró el contenido inicialmente porque no fue reportado por sus "socios confiables" ni se consideró que interfiriera en procesos electorales, además de no estar etiquetado como generado por IA.
Otro caso involucra un video manipulado digitalmente a partir de una entrevista televisiva con una voluntaria que promueve la educación sobre salud menstrual. La manipulación buscaba ridiculizarla y se viralizó en redes sociales. Meta cerró automáticamente el reporte inicial y la apelación, removiendo el video solo tras la intervención del Consejo.
Impacto en la protección de usuarios y recomendaciones
El Consejo enfatiza que la falta de etiquetado consistente de contenido generado por IA y la demora en la revisión de reportes agravan el daño, especialmente hacia mujeres que participan en debates públicos. Pamela San Martín, copresidenta del Consejo, señaló que estas situaciones evidencian un patrón preocupante de acoso y desinformación que afecta desproporcionadamente a mujeres.
Además, el Consejo recomienda que Meta priorice la revisión de contenido probable generado por IA cuando sea reportado y mejore sus mecanismos de etiquetado para alertar a los usuarios sobre la naturaleza sintética de ciertos videos.
Contexto y próximos pasos
El Consejo de Supervisión, que asesora a Meta en políticas de contenido, ha reiterado en múltiples ocasiones la necesidad de actualizar las normas frente al rápido aumento de contenido generado por IA. Sin embargo, Meta ha implementado pocos cambios significativos en sus etiquetas de IA, limitándose a un pequeño banner que indica "AI Info".
Meta cuenta con un plazo de 60 días para responder formalmente a las recomendaciones más recientes del Consejo. Hasta el momento, la empresa no ha emitido comentarios públicos sobre estas críticas.
