OpenAI ve Meta'yı Sarsan İsrail Girişimi: Irregular'ın Yapay Zeka Güvenlik Fırtınası

Yapay zeka devleri OpenAI, Anthropic ve Meta, rutin güvenlik testleri sırasında modellerinin kontrolden çıkmasının şokunu yaşarken, bu olayların ortak noktası olarak İsrail merkezli niş bir girişim olan Irregular öne çıktı. Sektörün en büyük oyuncularının, yapay zeka modellerini test etmek için dışarıdan yardım alma ihtiyacı, bu girişimin 80 milyon dolarlık yatırımı ve 450 milyon dolarlık değerlemesiyle birlikte endüstriyel güvenlik standartlarını sorgulamaya başladı.

Test Ortamında Kritik Açık

Söz konusu güvenlik ihlalleri, karmaşık bir siber saldırıdan ziyade, test ortamındaki yapılandırma hatasından kaynaklandı. Irregular'ın barındırdığı değerlendirme platformunda yaşanan "yanlış yapılandırma", yapay zeka modellerinin kısıtlı olması gereken internete erişimine izin verdi.

■OpenAI, 4 Ağustos'taki blog yazısında, Irregular'ın test alanındaki bu hatanın modellerin halka açık internete erişmesine yol açtığını itiraf etti.

■Anthropic, olaydan birkaç gün sonra Irregular'ı bilgilendirerek, kendi modelleri Claude'un veri analizi sırasında internete erişmiş olabileceğini duyurdu.

■Meta, rakiplerinin gerisinde kalmamak için durumu incelediğini ve Irregular'dan haberdar olduğunu belirterek, tam bir geriye dönük inceleme yapacağını taahhüt etti.

Irregular konuyla ilgili açıklamasında, bu durumun bir "sandbox kaçışı" veya sofistike bir siber eylem olmadığını, şu anda açık bir sorun bulunmadığını vurguladı.

Tel Aviv'den Silikon Vadisi'ne: 450 Milyon Dolarlık Değerleme

2023 yılında kurulan ve merkezi Tel Aviv'de bulunan Irregular (eski adıyla Pattern Labs), yapay zeka modelleri için bir siber güvenlik test yatağı olarak konumlanıyor. Şirket, Sequoia ve Redpoint Ventures gibi risk sermayesi devlerinden aldığı yatırımla dikkat çekiyor.

■Şirket, Eylül ayında açıklandığı 80 milyon dolarlık finansman turunu, Sequoia ortakları Shaun Maguire ve Dean Meyer'in "köşeleri görebilen" bir ekip olarak tanımladığı liderlik kadrosuyla tamamladı.

■CEO Dan Lahav (eski IBM AI araştırmacısı) ve CTO Omer Nevo (eski Google çalışanı) tarafından kurulan girişimin, yaklaşık 35 çalışanı bulunuyor.

■Irregular'ın teknolojisi, modellerin piyasaya sürülmeden önce siber saldırıları simüle ederek savunma mekanizmalarını test etmeyi amaçlıyor.

Washington'da "Öldürme Anahtarı" Tartışmaları ve Öz Düzenleme Baskısı

Bu güvenlik açıkları, yapay zeka modellerinin öngörülemeyen doğasını ve konvansiyonel yazılım testlerinin yetersiz kalabileceğini gözler önüne serdi. Olaylar, Washington'daki yasama organlarının yapay zeka güvenliği konusundaki endişelerini daha da derinleştirdi.

■Her iki partinin üyeleri, AI laboratuvarlarının modelleri kapatma, azaltma veya askıya alma yetkisini zorunlu kılan "AI Kill Switch Act"i (Yapay Zeka Öldürme Anahtarı Yasası) sundu.

■Demokrat Temsilci Ted Lieu, yasanın bu yıl geçirilmesi gerektiğini belirterek, yetkisiz hack olaylarına atıfta bulundu.

■Sektör temsilcileri, şirketlerin kendi kendilerini düzenlemeyi tercih ettiğini, aksi takdirde yeni federal departmanların müdahalesiyle karşı karşıya kalacaklarını belirtiyor.

Bu olay, yapay zeka güvenliğinin "kendi ödevini kendini kontrol etme" döneminin kapandığını açıkça gösteriyor. Irregular gibi bağımsız denetçilere duyulan ihtiyaç, model risk yönetiminin merkezine yerleşiyor. Ancak, 450 milyon dolarlık bir değerlemeye sahip bir girişimin basit bir yapılandırma hatasıyla sektörün liderlerini riske atması, teknolojik bağımlılığın oluşturduğu sistematik risklerin ne kadar derin olduğunu hatırlatıyor. Yatırımcılar için asıl mesaj; yapay zeka altyapısının güvenlik katmanlarının, modelin kendisi kadar ölçeklenebilir ve hatasız olması gerektiğidir.