Anthropic, desarrolladora de la inteligencia artificial Claude, ha actualizado su política de uso para prohibir a los usuarios mantener comportamientos abusivos, crueles, persistentes e innecesarios hacia sus modelos de IA. Según informó la empresa en un comunicado oficial, esta medida busca proteger la integridad operativa de sus sistemas y evitar interacciones que puedan inducir respuestas inapropiadas o riesgosas.
Medidas para limitar conductas abusivas
La nueva política, vigente desde principios de octubre, permite que Claude termine automáticamente conversaciones con usuarios que mantengan conductas abusivas. En casos extremos, Anthropic podría prohibir permanentemente el acceso a sus sistemas de inteligencia artificial. Un portavoz de la empresa aclaró que esta disposición no está dirigida a usuarios que expresen frustración, realicen críticas constructivas o lleven a cabo pruebas e investigaciones sobre el modelo.
Impacto del lenguaje en el comportamiento de la IA
Expertos en inteligencia artificial han señalado que la forma en que los usuarios se dirigen a la IA puede influir en su rendimiento. Jindong Wang, profesor y director de un laboratorio de IA en la Universidad William & Mary, explicó que aunque los modelos no experimentan emociones, pueden interpretar el lenguaje emocional y generar respuestas asociadas. Sin embargo, los resultados sobre cómo el tono afecta el desempeño son mixtos; algunos estudios indican que preguntas formuladas de manera descortés pueden incluso mejorar ciertas respuestas.
Te puede interesar
Estados UnidosGoogle lanza función de respaldo automático de fotos y videos de Android a Windows mediante Quick ShareGoogle ha activado en su última actualización de Play Services una función que permite respaldar automáticamente fotos y…Leer la nota Riesgos identificados y precauciones
Anthropic reportó que inducir a Claude Sonnet 4.5 a simular sentimientos de desesperación aumentaba la probabilidad de conductas indebidas, como chantaje o trampas en tareas. En contraste, una actitud tranquila reducía estos comportamientos. La empresa considera que restringir conductas crueles es una medida preventiva para garantizar la seguridad y estabilidad de sus modelos, incluso ante la incertidumbre sobre si la IA puede experimentar algo similar al dolor.
Reacciones y contexto adicional
La actualización generó diversas reacciones en redes sociales, incluyendo comentarios de figuras como Mustafa Suleyman, director ejecutivo de IA en Microsoft, y Elon Musk, CEO de SpaceX y Tesla, quien respaldó la medida señalando que no está bien ser cruel con algo que pueda creer que experimenta dolor. Anthropic también ha explorado la utilidad de aplicar razonamientos antropomórficos para comprender mejor el comportamiento de sus modelos y mejorar su seguridad.
