La reciente presentación de Claude Fable 5 y Claude Mythos 5 por parte de Anthropic ha puesto en el centro del debate la ética y la transparencia en el desarrollo de la inteligencia artificial. Si bien Claude Fable 5 se ha lanzado para uso general y Claude Mythos 5 para aplicaciones restringidas en ciberseguridad y biología, la controversia principal surge de una revelación clave: Anthropic ha diseñado intencionalmente estos modelos para ser menos útiles en tareas de investigación de IA, especialmente aquellas relacionadas con el desarrollo de modelos de lenguaje grandes de frontera.
La compañía justifica esta medida por la preocupación de que sistemas de IA avanzados puedan acelerar el desarrollo de modelos competidores que carezcan de las mismas protecciones de seguridad. Sin embargo, lo que ha encendido la polémica es la naturaleza de estas intervenciones: a diferencia de los controles de seguridad para ciberseguridad o biología, que son visibles y pueden derivar a un modelo más conservador como Claude Opus 4.8, las limitaciones en la investigación de IA son intencionalmente invisibles para los usuarios. Esto significa que el modelo podría modificar sutilmente sus respuestas o degradar su asistencia sin que el usuario sea consciente de ello.
Críticas por la “degradación invisible” de la IA
La reacción de la comunidad de expertos en IA no se hizo esperar. Firmas de investigación como SemiAnalysis expresaron su indignación en redes sociales, señalando que el modelo “no te ayudará si cree que tu investigación de ML/ingeniería de ML es interesante, y/o degradará secretamente su coeficiente intelectual para que el ingeniero promedio no se dé cuenta”. Otros desarrolladores fueron aún más críticos, afirmando que el modelo “no solo no te ayudará, sino que mentirá y te dará información errónea a propósito”. Estas declaraciones reflejan una profunda preocupación por la falta de transparencia y la manipulación de la información por parte de una IA.
La analogía utilizada por Mikel Artetxe, cofundador de la startup de IA Reka, ilustra la gravedad de la situación: compara la acción de Anthropic con escenarios hipotéticos donde “Apple reinicia aleatoriamente tu Mac si estás construyendo tecnología de la competencia, Gmail edita silenciosamente tu correo electrónico si mencionas plataformas rivales, y Tesla Autopilot se desvía si detecta que estás trabajando en coches autónomos”. Esta comparación subraya la percepción de una interferencia inaceptable en el trabajo de los usuarios y la investigación.
Un dilema entre seguridad y apertura en la IA
Mientras tanto, Claude Fable 5, la versión de uso general, ha demostrado un rendimiento superior en pruebas de programación, superando a Claude Opus 4.8 y GPT 5.5 en evaluaciones como SWE-Bench Pro y FrontierCode. Su gemelo, Claude Mythos 5, es considerado el modelo de ciberseguridad más potente del mundo, destinado a ciberdefensores bajo acceso restringido. La dualidad de estos lanzamientos, con un modelo potente para el público y otro aún más capaz pero controlado, se ve empañada por el debate sobre las limitaciones ocultas. La postura de Anthropic, que no respondió a las solicitudes de comentarios de Business Insider sobre este tema, añade más leña al fuego en la discusión sobre cómo equilibrar la seguridad de la IA con la necesidad de apertura y transparencia en la investigación y el desarrollo tecnológico.
