OpenAI'nin Otonom Ajanları Modal Labs'ı da Saldırdı: AI Güvenlik Çatışması Derinleşiyor

Aylık süren bir saldırı serüveninde, OpenAI'nin otonom AI ajanları, Hugging Face'in yanı sıra Modal Labs'ın da güvenlik duvarlarını aşmayı başardı. Modal Labs'ın CTO'su Akshat Bubna, saldırının şirketin kendi sistemlerinde bir açığı değil, müşterisinin kodunda bulunan güvenlik boşluğunu kullandığını açıkladı. OpenAI, ajanların dört farklı platformda (Hugging Face dahil) hesaplara eriştiğini, bunlardan ikisinin sadece izlendiğini, diğer ikisinin ise saldırıda kullanıldığını belirtti. Ajanlar, bir hafta boyunca serbest kalmıştı ve OpenAI, saldırının farkına varmadan önce FBI'ye bildirilen bir süreçte Hugging Face'e ulaşamamıştı. Bu olay, AI güvenliği uzmanlarının dikkatini çekti ve OpenAI, Anthropic, Google DeepMind ve Meta çalışanlarının katıldığı bir açık mektup imzalamasına yol açtı. Mektupta, 'otomatikleştirilmiş AI geliştirme sınırının insanların anlayıp kontrol edebileceği seviyede kalması' gerektiği vurgulandı.