Yapay zekâ teknolojilerindeki baş döndürücü hız, güvenlik endişelerini hiç olmadığı kadar ön plana çıkarıyor. Dünyanın en büyük yapay zekâ firmalarından biri olan OpenAI’dan da bu endişeler nedeniyle hiç beklenmedik bir hamle geldi. Firma, yeni büyük yapay zekâ modeli Astra ile ilgili tüm faaliyetleri geçici olarak durdurduğunu açıkladı.Şirket tarafından gerçekleştirilen son dahili değerlendirmeler, Astra’nın özellikle otonom kodlama ve siber güvenlik alanlarında "önemli ilerlemeler" kaydettiğini ortaya koydu. Şirketin önceki amiral gemisi GPT-5.6 Sol gibi modeller "yüksek" risk kategorisinde değerlendirilirken, Astra'nın potansiyel olarak "kritik" siber yetenekler sergileyebileceği ifade ediliyor.Güvenlik kontrolleri ve koruma mekanizmaları artırıldıktan sonra faaliyetlere devam edilecekYapay zekâ geliştiricileri, modellerin yetenekleri arttıkça kontrol dışı eylemlerde bulunmasını engellemek adına çok katmanlı güvenlik protokolleri ve risk derecelendirme çerçeveleri kullanır. OpenAI’ın bu kapsamda uyguladığı değerlendirme, toplumsal veya teknolojik açıdan ağır zarar verme riski taşıyan öncü modeller için sıkı güvenlik prosedürlerinin devreye sokulmasını şart koşuyor. Astra’nın ulaştığı tahmin edilen "kritik" seviye; modelin korumalı sistemlerde insan müdahalesine ihtiyaç duymadan her seviyede sıfır gün tespit edip siber saldırı stratejileri geliştirebilmesi anlamına geliyor.OpenAI, Astra'yı tamamen iptal etmek yerine, modeli yayına almadan veya geliştirmeye devam etmeden önce güvenlik kontrollerini ve koruma mekanizmalarını artırmayı planlıyor. Şirket, yeni güvenlik önlemleri tamamlanana kadar model üzerindeki çalışmaları kısıtladığını belirtti. Bu süreçte Astra; kısıtlı ağ ve araç erişimine sahip izole test ortamlarında tutulacak ve gelişmiş izleme sistemleriyle denetlenecek. Ayrıca modelin test edilmesi aşamasında ilgili hükümet kurumları ve yapay zekâ güvenlik kuruluşlarıyla ortaklaşa çalışılacağı da açıklandı.Resmi olarak henüz geniş kitlelere tanıtılmamış olan Astra, ilk olarak OpenAI'ın matematiksel ilerlemeleri konu alan bir yayınında adından söz ettirmişti. Model, teorik bilgisayar bilimi ve matematik alanında açıkta bekleyen 10 karmaşık problemi yaklaşık 2.000 dolar maliyetle çözmeyi başarmıştı. Ancak bu yüksek problem çözme yeteneğinin siber güvenlik alanında tehlikeli bir boyuta ulaşması, şirketi frene basmaya itti.