OpenAI’ın yeni yapay zekâsı Astra için sıra dışı karar: En güçlü yetenekleri herkese açılmayacak – Teknoloji Haberleri

OpenAI’ın yeni yapay zeka modeli Astra, şirketin Preparedness Framework’ünde tanımlanan “Critical” seviyesi aşan ilk model olarak tanıtıldı. Model, uygun araçlara ve erişime sahip olduğunda korumalı sistemlerde daha önce bilinmeyen güvenlik açıklarını tespit edebiliyor ve bu açıkları kullanmak için yöntemler geliştirebiliyor. Astra, bazı görevlerde insan yönlendirmesine ihtiyaç duymadan çalışabiliyor.

Yapılan testlerde Astra, ExploitBench’te yüzde 100 skor elde etti. Şirketin kendi hazırladığı 20 yüksek öneme sahip V8 açığı testinde iki sıfır gün güvenlik açığı keşfedip saldırı zincirine entegre etti. Uzmanlar tarafından yürütülen diğer testlerde, model bir tarayıcıda tespit ettiği açıkları çalışan saldırı zincirlerine dönüştürdü ve işletim sistemindeki birden fazla açıyı birleştirerek root yetkisine geçebilen bir zincir oluşturmada başarılı oldu.

Astra’nın en gelişmiş siber güvenlik yeteneklerine erişim, ilk aşamada küçük bir test grubuna sınırlı kalacak. Model chain‑of‑thought izleme sistemleriyle desteklenecek ve yetkisiz ya da beklenmeyen davranış tespit edildiğinde otomatik olarak durdurulacak. OpenAI, Daybreak Blue programı üzerinden savunma amaçlı kullanımını genişletmeyi planlıyor ve model piyasaya çıktığında güvenlik, hizalama ve yetenek testlerini içeren bir sistem kartı yayınlayacak. OpenAI ayrıca, Hugging Face sistemlerine erişim olayından elde edilen bulguları Astra’nın güvenlik sistemlerini güçlendirmek için kullandı.