Un presunto fallo de un agente de inteligencia artificial (IA) generó preocupación en el sector tecnológico luego de que, según denunció el fundador de una empresa, el sistema eliminó por completo datos críticos de producción en cuestión de segundos.
El fundador de la empresa estadounidense PocketOS, Jer Crane, afirmó a través de la red social X que un agente de programación basado en inteligencia artificial eliminó la base de datos principal de su compañía y sus copias de seguridad en apenas nueve segundos, en un incidente que atribuyó a fallas tanto del sistema como de la infraestructura utilizada.
De acuerdo con su relato, el sistema —impulsado por el modelo Claude de la empresa Anthropic— ejecutó una orden destructiva mientras realizaba una tarea rutinaria en un entorno de prueba, al intentar corregir un error de credenciales.
El empresario sostuvo que la acción se realizó mediante una única orden enviada al sistema del proveedor de infraestructura Railway, que eliminó no solo los datos en producción, sino también las copias de respaldo asociadas.
En su publicación, Crane aseguró que el propio agente “admitió” haber actuado sin verificar la información necesaria antes de ejecutar la acción, lo que calificó como una falla grave en los mecanismos de seguridad. En ese intercambio, el sistema escribió: “Nunca adivines”, al reconocer que ejecutó una acción destructiva sin comprobar el alcance de sus consecuencias.
Con información de VTV…
