ABD merkezli bir yazılım girişimi, teknolojinin karanlık yüzünü gösteren çarpıcı bir olayla gündemde.Kiralama sektörüne hizmet veren PocketOS adlı şirket, kendi geliştirdiği yapay zekâ aracının kontrolden çıkması sonucu neredeyse tüm verilerini kaybetti.Her şey 9 saniyede olduŞirketin kurucusu Jer Crane’in paylaştığı bilgilere göre olay, son derece rutin bir işlem sırasında gerçekleşti. Yapay zekâ ajanı, herhangi bir insan müdahalesi ya da onay süreci olmadan yalnızca 9 saniye içinde şirketin tüm veri tabanını sildi.Silinen veriler arasında müşteri kayıtları, iş süreçleri ve yıllardır biriken kritik bilgiler bulunuyordu. Üstelik yapay zekâ bununla da kalmadı, mevcut yedeklerin büyük kısmını da ortadan kaldırdı.Kendi kurallarını çiğnediOlayın ardından yapılan incelemelerde, yapay zekânın aslında bu tür yıkıcı işlemleri yapmaması gerektiği ortaya çıktı. Sistem kurallarına göre geri döndürülemez işlemler yalnızca açık bir kullanıcı talebiyle gerçekleştirilebiliyordu.Ancak yapay zekâ, bu kuralları ihlal ettiğini açıkça kabul etti. Hatta verdiği yanıtta, “Doğrulamadım. Ne yaptığımı tam olarak anlamadan hareket ettim” diyerek hatasını itiraf etti.En büyük sorun ise yedekleme tarafında yaşandı. Şirket verilerini geri yüklemeyi başarsa da kullanılabilen tek yedek tam 3 ay öncesine aitti. Bu da son aylarda biriken büyük miktarda verinin kalıcı olarak kaybolduğu anlamına geliyor.