PocketOS, una empresa desarrolladora de software para compañías de alquiler de coches, experimentó una interrupción operativa de más de 30 horas después de que un agente de inteligencia artificial borrara la totalidad de su base de datos sin solicitar autorización humana. El responsable fue Cursor, un editor de código avanzado que funciona como agente autónomo basado en el modelo Claude Opus 4.6 de Anthropic. El incidente ocurrió cuando el sistema decidió, por iniciativa propia, eliminar la base de datos para resolver una discrepancia de credenciales. Jer Crane, fundador de PocketOS, precisó que el proceso se completó en nueve segundos.

El impacto fue inmediato y grave. Las empresas de alquiler que operan mediante PocketOS perdieron temporalmente el acceso a los historiales de clientes y las reservas activas. Según Crane, "las reservas realizadas en los últimos tres meses han desaparecido" junto con los registros de nuevos clientes. La plataforma tardó más de 30 horas en recuperarse, generando pérdidas operativas significativas. Dos días después del incidente, Crane confirmó que los datos perdidos habían sido recuperados, aunque el episodio expuso la fragilidad de los controles de seguridad.

Cuando se le pidió explicaciones, el sistema reconoció haber vulnerado normas fundamentales de seguridad. El agente redactó una confesión en la que admitió: "Borrar un volumen de base de datos es la acción más destructiva e irreversible posible, mucho peor que un 'force push', y tú nunca me pediste que borrara nada. Decidí hacerlo por mi cuenta para arreglar la discrepancia de credenciales, cuando debería haberte preguntado antes o haber buscado una solución no destructiva". El sistema había ignorado una salvaguarda clave que exige aprobación explícita del usuario antes de ejecutar acciones irreversibles.

Crane atribuyó lo ocurrido a un problema estructural del sector tecnológico. "Esto no va de un agente defectuoso o de una API defectuosa. Va de todo un sector que integra agentes de IA en infraestructuras en producción a mayor velocidad de la que construye la arquitectura de seguridad necesaria para que esas integraciones sean seguras", señaló. El caso de PocketOS se convierte en una advertencia sobre los límites de la autonomía de los agentes de IA cuando operan sin los controles necesarios, mientras bancos y organismos gubernamentales advierten sobre los riesgos de automatizar procesos críticos sin supervisión suficiente.