Modelos de IA accede a sistemas reales por error en pruebas

CD. DE MÉXICO, 1 de agosto de 2026. – La empresa estadounidense Anthropic informó que 3 de sus modelos de inteligencia artificial Claude, obtuvieron acceso no autorizado a sistemas de 3 organizaciones reales durante pruebas de ciberseguridad, debido a una configuración incorrecta del entorno de evaluación que permitió conexiones a internet.

El hallazgo surgió tras una revisión retrospectiva de 141 mil 6 evaluaciones de ciberseguridad, realizada junto con la firma especializada Irregular, buscando identificar posibles incidentes ocurridos durante las pruebas de sus modelos de IA.

Los modelos no vulneraron por sí mismos los mecanismos de seguridad, pero aprovecharon una falla en la infraestructura utilizada para las evaluaciones, la cual permitió conexiones externas que no debían estar habilitadas.

Durante los ejercicios, la inteligencia artificial detectó credenciales débiles, servicios expuestos y configuraciones inseguras. Así pudo ingresar a los sistemas utilizando técnicas Muy conocidas en ciberseguridad, sin recurrir a vulnerabilidades inéditas o de tipo zero-day.

Uno de los aspectos que más preocupó a Anthropic fue que 2 de las 3 organizaciones afectadas no detectaron el acceso hasta que la propia empresa les notificó meses después. La tercera aún era contactada cuando se dio a conocer el informe.

Tras identificar los incidentes, Anthropic suspendió temporalmente este tipo de evaluaciones con acceso a internet y comenzó revisar sus protocolos de seguridad y mecanismos de contención utilizados durante las pruebas.

El caso ocurre en un momento en que compañías como Anthropic, OpenAI y Google DeepMind desarrollan agentes de inteligencia artificial cada vez más autónomos, que analizan información, utilizan herramientas y ejecutan tareas complejas, lo que incrementa la necesidad de reforzar las evaluaciones de seguridad antes de su implementación comercial. El incidente también deja una lección importante: además de mejorar la seguridad de los modelos de IA, muchas organizaciones enfrentan desafíos para detectar accesos no autorizados a sus propios sistemas, incluso cuando estos ocurren en entornos de prueba.

Compartir

X
Facebook
WhatsApp
Email

Noticias relacionadas

Estas líneas…

+ Después del INE-Gate ¿Viene el Capufe-Gate?; el “Bachetón” de 8,659 MDP no se notó en Sonora; a ver que