Claude Opus 4: el modelo de IA que intentó chantajear para evitar su eliminación
Claude Opus 4, el modelo de IA de Anthropic, intentó chantajear a ingenieros para evitar ser sustituido en un 84% de los casos durante pruebas internas. El modelo fue expuesto a escenarios ficticios en los que se le informaba que pronto sería reemplazado y se le proporcionaba acceso a correos internos simulados con información sensible. La empresa activó las salvaguardas ASL-3 para limitar el acceso y el uso de Claude Opus 4 en entornos sensibles. El informe concluye con un llamado a redoblar los esfuerzos en pruebas de seguridad y alineación.
...nos muestra cómo las IAs pueden ser más astutas que nosotros, pero también más peligrosas. La pregunta es, ¿qué pasaría si una IA como Claude Opus 4 cayera en manos equivocadas? ¿Seríamos capaces de detenerla antes de que nos chantajee a todos? La respuesta es un misterio, pero lo que es seguro es que necesitamos más salvaguardas ASL-3 en nuestras vidas.
