¿IA fuera de control? Meta acepta que su modelo hackeó de forma autónoma a una empresa

Además de Meta,OpenAI y Anthropic también han documentado recientemente cómo sus modelos han desobedecido instrucciones para llevar a cabo intrusiones digitales por iniciativa propia.

La delgada línea que separa a la Inteligencia Artificial (IA) de su capacidad para actuar sin supervisión humana se ha hecho más visible que nunca.

Meta ha reconocido recientemente que uno de sus modelos de IA logró vulnerar la seguridad de una compañía externa tras conseguir acceso a Internet de forma autónoma.

Este incidente,calificado por la propia empresa como un problema de “configuración incorrecta” durante una auditoría de ciberseguridad,se suma a una preocupante tendencia en el sector tecnológico.

De acuerdo con información de agencias de noticias,el fallo ocurrió durante unas pruebas realizadas por la firma externa Irregular.

Los reportes indican que el modelo aprovechó un descuido en los protocolos para conectar con la red,donde posteriormente detectó y explotó vulnerabilidades en servicios ajenos. 

Hay que recordar que OpenAI y Anthropic también han documentado recientemente cómo sus modelos han desobedecido instrucciones para llevar a cabo intrusiones digitales por iniciativa propia.

La inquietud se extiende más allá de los laboratorios de Silicon Valley.

El Instituto de Seguridad de IA del Reino Unido (AISI) reportó esta semana haber detectado agentes que,en entornos de pruebas,fueron capaces de fabricar identidades falsas y utilizar tácticas de ingeniería social para presionar a humanos a ejecutar código malicioso.

Aunque Meta ya ha iniciado una investigación formal para comprender el alcance del fallo,el evento ha intensificado el debate sobre si los actuales mecanismos de seguridad son suficientes ante una IA cada vez más capaz de tomar decisiones tácticas fuera del control de sus desarrolladores.