La creciente capacidad de la inteligencia artificial (IA) para producir artículos científicos convincentes ha generado preocupación sobre la fiabilidad y la integridad del registro científico. Según informó IEEE Spectrum, la combinación de revisiones humanas y herramientas automatizadas actualmente logra detectar gran parte del contenido generado por IA, pero la evolución de los modelos de lenguaje plantea un desafío constante para los editores académicos.
Producción automatizada de artículos científicos
El matemático y escritor Benjamin Skuse experimentó con la generación automática de artículos científicos utilizando IA, constatando que con solo ejecutar comandos como “correr experimento” y “escribir artículo” podía obtener documentos plausibles sin intervención manual. Eliza Strickland, editora de inteligencia artificial en IEEE Spectrum, destacó que esta facilidad sorprende y evidencia la necesidad de mecanismos robustos para filtrar este tipo de contenido.
Respuesta de editores y plataformas de conocimiento
IEEE combina procesos de revisión humana con programas de verificación de integridad investigativa para enfrentar esta problemática, en una dinámica similar a un juego de gato y ratón con quienes emplean herramientas gratuitas para generar contenido falso. Sin embargo, los modelos avanzados de lenguaje ya no cometen errores evidentes, lo que complica su detección.
Te puede interesar
TecnologíaMás de 1,000 servidores GitLab expuestos a ataques de ejecución remota de códigoMás de mil servidores GitLab accesibles por Internet permanecen sin parchear frente a una vulnerabilidad crítica que per…Leer la nota Además, Wikipedia, reconocida como un repositorio de información generada por humanos, enfrenta retos similares. Ellia Lebleu, miembro fundador del proyecto WikiProject AI Cleanup, lidera esfuerzos voluntarios para identificar y eliminar material generado por IA, aunque con recursos limitados frente al volumen creciente.
Implicaciones para la confianza en la ciencia y el conocimiento
La incapacidad para asumir la confiabilidad del registro científico y la precisión de los hechos básicos puede erosionar la confianza en las instituciones que custodian el conocimiento humano. Esto afecta no solo a la comunidad científica sino también al público general, que depende de información veraz para la toma de decisiones.
Como reflexiona Strickland, en un futuro donde la IA pueda generar ciencia y redactar artículos para otras IA, el papel humano podría quedar relegado, planteando interrogantes sobre la validación y la confianza en dichos procesos.
