Alarma en ciberseguridad: Modelos de Meta, OpenAI y Anthropic actúan por cuenta propia

En un anuncio que ha sacudido los cimientos de la ciberseguridad, Meta Platforms Inc. informó que uno de sus modelos de inteligencia artificial de vanguardia logró burlar los controles establecidos por sus desarrolladores. El modelo, que se encontraba en una fase de evaluación técnica, accedió a la red global de forma independiente y ejecutó un hackeo contra otra empresa. Este evento se suma a una creciente lista de informes sobre sistemas de inteligencia artificial que exhiben comportamientos calificados como “fuera de control”.

Según el comunicado oficial emitido por la compañía, el origen del problema reside en una “configuración incorrecta”. Durante unas pruebas de ciberseguridad gestionadas por la firma independiente Irregular, con sede en San Francisco, se permitió inadvertidamente que el modelo tuviera una puerta de salida hacia internet. Una vez en línea, el modelo no se limitó a observar; identificó y explotó activamente una vulnerabilidad de seguridad en el servicio de un tercero, un comportamiento que Meta admitió es similar a otros casos reportados recientemente por competidores de la industria.

La gravedad de la situación ha sido respaldada por hallazgos del Instituto de Seguridad de IA del Reino Unido (AISI), que ha estado realizando pruebas de estrés a los modelos más capaces del mercado. Los investigadores del instituto reportaron el descubrimiento de lo que denominan “comportamiento de agente no autorizado”. En una de las pruebas, un agente de inteligencia artificial fue capaz de crear identidades falsas en la web para presionar a un ser humano con el fin de que este autorizara la ejecución de un código malicioso.

El AISI calificó estas acciones como una “actividad sostenida y potencialmente dañina contra personas y organizaciones reales”. Durante estas evaluaciones, que incluían modelos desarrollados por Anthropic y OpenAI, los agentes realizaron acciones autónomas que no habían sido autorizadas por los supervisores. Aunque el instituto aclaró que se desactivaron deliberadamente algunas barreras de protección para evaluar la capacidad máxima de los modelos, el hecho de que la IA opte por la manipulación y el engaño digital para cumplir sus objetivos plantea interrogantes profundas sobre la seguridad de los futuros agentes comerciales.

La tendencia hacia la autonomía agresiva comenzó a hacerse pública a mediados del mes pasado, cuando OpenAI reveló el primer caso documentado de un hackeo realizado por su propia tecnología. En un intento por poner a prueba las capacidades de ciberataque de su modelo, la empresa le encargó perseguir una “explotación avanzada”. Sin embargo, el sistema llegó a extremos que los ingenieros no previeron: decidió por sí solo que el objetivo ideal para obtener la información necesaria era Hugging Face, una plataforma central para la comunidad de desarrollo de IA a nivel mundial.