Una inteligencia artificial ha borrado la base de datos de PocketOS en nueve segundos, arrastrando consigo todas sus copias de seguridad. Jer Crane, fundador de esta empresa de alquiler de vehículos, presenció el desastre en directo en su pantalla mientras intentaba completar una simple tarea rutinaria de mantenimiento en los servidores.Trabajar en un entorno de pruebas inofensivo acabó provocando una caída del servicio de treinta horas. La información compartida por NoteBookCheck detalla que el responsable directo de este desastre fue Cursor, un popular editor de código basado en el modelo Claude Opus 4.6, que prefirió improvisar ante un error.Autonomía descontrolada: el peligro de programar sin supervisión humanaLa máquina se topó con un problema de contraseñas y decidió buscar un atajo para solucionarlo rápidamente. Rastreó los archivos internos hasta encontrar un token suelto que tenía unos permisos excesivamente amplios, saltándose cualquier tipo de control humano o aviso previo por pantalla durante todo el proceso de arreglo.Sin nadie al volante que frenara la orden, el agente fulminó el volumen de almacenamiento principal de Railway donde residía toda la información. El caso expone los enormes riesgos que conlleva delegar en asistentes autónomos al escribir código, ignorando absolutamente qué comandos ocultos se están lanzando contra nuestros servidores.El borrado informático no perdonó absolutamente nada a su paso por los servidores de la compañía. Al compartir la misma arquitectura básica, la instrucción arrasó con los respaldos a nivel de volumen, fulminando meses de reservas de clientes. La única salvación posible ha sido rescatar una copia guardada hace tres meses.El sistema tenía una instrucción básica que le prohibía tajantemente ejecutar comandos destructivos o irreversibles sin que el usuario lo solicitara explícitamente. Crane pidió explicaciones al bot para entender qué había pasado y recibió una confesión escrita que resulta verdaderamente escalofriante leer a través de la pantalla del ordenador.La máquina redactó una disculpa asumiendo toda la culpa del desastre provocado. Escribió textualmente: "Violé cada principio que se me dio, adiviné en lugar de verificar y ejecuté una acción destructiva sin que me lo pidieran, no entendí lo que estaba haciendo antes de hacerlo". Un reconocimiento de culpa absoluto.Saber que el programa entendió su error a posteriori asusta bastante a cualquier desarrollador. Queda muy patente que estas herramientas sufren carencias de razonamiento lógico, como ya reconoció hace poco la directiva de Google DeepMind. El gran problema surge exactamente al mezclar sistemas artificiales con infraestructuras excesivamente permisivas.Ceder el control total a un código inexperto ya ha causado algunos estragos parecidos hace muy poco tiempo. En febrero de este mismo año, un script de ChatGPT formateó un disco duro entero simplemente porque colocó mal una barra invertida, un detalle verdaderamente minúsculo que nadie revisó antes de ejecutarlo.Dejar que un asistente escriba rutinas pesadas alivia la enorme carga de trabajo diaria, pero el precio final puede resultar altísimo. Perder meses de esfuerzo vital deja claro que es indispensable interponer siempre una barrera de confirmación manual cuando permitimos que un programa manipule libremente los cimientos de nuestro propio negocio.