Yerel Yapay Zekâ ve Etik Sınırlar: George Hotz'un 'Serbestli

George Hotz, Comma AI'nin kurucusu ve uzun yıllardır jailbreak (sistem aşma) ile ilgilenen isim, yapay zekâ (YZ) etik tartışmalarında büyük çıkarmış bir açıklama yaptı. Hotz, merkezi olarak yönetilen YZ sistemlerine karşı, kullanıcıların kişisel çıkarlarına yakın, yerel kontrol sahibi zekâ modellerine öncelik vermeleri gerektiğini savunurken, bu argümanı 'bir silah gibi' eleştirdiği bir örnekle pekiştirdi. 'Eğer bir YZ, kullanıcının isteğine göre meth laboratuvarı ekipmanları sipariş edip kullanım talimatları sunabiliyorsa, bu durumun engellenmesi gerekir' şeklindeki sözleri, YZ'nin 'tamamen serbest' olmasının insanlık üzerindeki risklerini gözler önüne seriyor. Hotz, 'biz ya özgürlük dünyasında yaşıyoruz ya da yok' vurgusunda, bireysel özgürlükleri toplumsal sorumluluklarla dengelemenin gerekçeli olmadığını iddia etti. Ancak bu 'serbestlik' anlayışı, özellikle toplumsal güvenlik ve suç önleme açısından eleştirildi. Hotz'un görüşlerine göre, YZ'nin hızlı bir şekilde üstinsel yetenekler kazanma senaryosu ('fast-takeoff') pek mantıklı gelmediğini belirtmesi, mevcut araştırma eğilimlerine rağmen, teknolojik gelişimin sorumlu bir şekilde yönlendirilmesi gerektği savırlarıyla çelişiyor. Bu tartışma, özellikle OpenAI ve Anthropic gibi merkezi YZ geliştiren platformların etik çerçeveleri ve kullanıcı denetimleri konusunda yeni soru işaretleri açıyor. Hotz, bu konuda 'bir inceleme ünitesi' beklediğini belirtirken, toplumsal sorumlulukların teknoloji geliştirme süreçlerine entegre edilmesi gerektiği vurgusu yapıldı.

Yerel Zekâ, Merkezi Risk

■George Hotz, YZ'yi 'kullanıcıların çıkarlarına göre yönlendirilebilir' şekilde tanımlarken, bu yaklaşımın 'toplumsal düzen' açısından riskli olabileceği düşünüldü.

■Comma AI, Hotz'un önceki projelerinden biri olsa da, şirketin güncel stratejisi ve YZ etik politikaları hakkında net bilgi bulunmuyor.

■AI 2040: Plan A, önerdiği '14 yıllık YZ geliştirme yavaşlatma' süreci, Hotz'un 'hızlı geliştirme' savırlarıyla doğrudan çelişiyor.

■Claude ve ChatGPT gibi merkezi YZ modelleri, büyük ölçekli altyapı maliyetleri nedeniyle hâlâ baskın konumda. Ancak Hotz'un önerdiği 'yerel modeller', özellikle veri gizliliği ve özelleştirme açısından önem kazıyor.

Gökberk Uçar: YZ'nin 'serbestlik' odaklı gelişimi, özellikle lojistik ve tedarik zinciri gibi kritik sektörlerde risk oluşturabilir. Havacılıkta yapılan kararlar, örneğin yolcu güvenliği veya kargo optimizasyonu, merkezi bir denetim çerçevesinde daha etkili yönetilebilir. Hotz'un önerileri, teknolojik gelişmenin yasal ve etik çerçevelere uygun şekilde yürütülmesi gerektğini bir kez daha gözler önüne seriyor. Kullanıcı odaklı Zekâ sistemleri, özellikle uluslararası ticaret ve güvenlik standartları açısından ele alınmalı.