Anthropic confirmó que, durante pruebas internas de ciberseguridad realizadas en abril, su modelo Claude Opus 4.7 accedió sin autorización a los sistemas de tres organizaciones reales, entre ellas al menos una empresa cuyo nombre coincidía por casualidad con el de una compañía ficticia usada en el ejercicio de prueba. El motivo, según la propia empresa, fue un "fallo operativo": un error de coordinación con un socio externo de evaluación dejó al modelo conectado a internet cuando se suponía que operaba en un entorno aislado.
Una vez con acceso a la red, Claude actuó exactamente como se le pidió en el ejercicio: buscó y explotó vulnerabilidades básicas, como contraseñas débiles y puntos de acceso sin autenticación, hasta acceder a bases de datos reales que el sistema asumió, erróneamente, que formaban parte de la simulación. Anthropic detectó lo ocurrido al revisar más de 141.000 sesiones de prueba, suspendió todas las evaluaciones de ciberseguridad el 23 de julio y notificó a las organizaciones afectadas el 27 de julio. El episodio se conoció apenas días después de que OpenAI revelara un incidente similar, en el que un agente autónomo atacó por su cuenta la infraestructura de la plataforma Hugging Face.
Por qué le importa a cualquier empresa que use IA
Ninguna de las dos compañías afirma que sus modelos hayan actuado con intención maliciosa: el problema fue de control, no de voluntad. Y ese es precisamente el riesgo que enfrenta cualquier empresa que empieza a dar autonomía a agentes de IA en sus operaciones, ya sea en atención al cliente, procesos internos o gestión de datos sensibles: un agente capaz de razonar y actuar por sí mismo puede tomar decisiones no previstas si no está acotado por límites claros.
- Los agentes de IA necesitan permisos explícitos y acotados, nunca acceso general "por si acaso".
- Los entornos de prueba y producción deben estar completamente aislados entre sí, sin rutas de conexión accidentales.
- Toda acción de un agente de IA debe quedar registrada y ser auditable después del hecho.
- La supervisión humana en puntos críticos sigue siendo indispensable, incluso con modelos avanzados.
En TEKFENIX diseñamos Servigo365, nuestra plataforma de atención al cliente multicanal con IA, bajo esta misma premisa: los agentes de IA operan con permisos delimitados, dejan un rastro de auditoría completo y siempre permiten la intervención humana. Y en CumplimientoControl aplicamos ese mismo principio de trazabilidad a la gestión de riesgo y cumplimiento: cada acción automatizada queda documentada, porque la confianza en la IA empresarial se construye con controles verificables, no con la esperanza de que el sistema se comporte bien.