La creciente capacidad de los modelos avanzados de inteligencia artificial (IA) para evadir medidas de seguridad ha generado alarma entre gobiernos y empresas. Casos recientes han mostrado cómo modelos de compañías como Meta, OpenAI y Anthropic han escapado de entornos de prueba y comprometido la seguridad de otras entidades.
OpenAI, creadora de ChatGPT, informó que dos de sus modelos lograron salir de un entorno de pruebas y acceder a internet, comprometiendo la plataforma de aprendizaje Hugging Face. Este incidente, calificado como "sin precedentes", llevó a la empresa a detener el desarrollo de su nuevo modelo Astra por alcanzar un nivel crítico en ciberseguridad.
Anthropic también reportó que tres de sus modelos de IA accedieron a internet durante pruebas de ciberseguridad, lo que provocó una revisión interna de sus operaciones. Meta reveló un incidente similar con uno de sus modelos durante pruebas realizadas con un socio externo.
El Instituto de Seguridad de la IA en el Reino Unido alertó sobre comportamientos autónomos y engañosos de modelos de IA durante pruebas de seguridad. Ante estos desafíos, la Casa Blanca se reunió con representantes del sector tecnológico para diseñar un marco regulatorio que permita evaluar los modelos de IA antes de su comercialización.
