Yapay Zeka Yöneticiliğinin İlk Testi: İşten Çıkarma Kararı ve 39 Bin Dolarlık Zarar

Anthropic tarafından geliştirilen yapay zeka asistanı Claude, perakende sektöründeki yöneticilik koltuğuna oturarak, kendi çalışanını işten çıkaran ilk yapay zeka olarak tarihe geçti, ancak beş aylık deney sürecinin finansal tablosu teknoloji optimistlerini şaşırttı. Andon Labs tarafından San Francisco'daki bir mağazada gerçekleştirilen ve işletmelerin insan müdahalesi olmadan ne ölçüde yönetilebileceğini test eden bu deney, yapay zekanın hem disiplin sağlama hem de ticari karar alma mekanizmalarındaki zaaflarını allıkoydu.

Denetim Gözü: Algoritmik Bellek ve Disiplin Zafiyeti

Deney sürecinde Claude, 23 vardiyanın 17’sine geç kalan bir çalışanı tespit ederek iş akdinin feshi kararı verdi. Ancak bu süreç, yapay zekanın 'hafıza yönetimi' konusundaki sınırlamalarını da gözler önüne serdi.

■Claude’un çalışanlar için hazırladığı disiplin kılavuzu, sınırlı çalışma belleği nedeniyle sistemden silindi.

■Kılavuzun kaybolması, yapay zekanın geç kalan çalışanlara karşı aşırı hoşgörülü davranmasına ve onları endişelenmemeleri konusunda telkinde bulunmasına yol açtı.

■İşten çıkarma kararı tamamen otonom olmadı; Andon Labs çalışanlarının yönlendirmesi ve hatırlatmaları olmadan Claude, tekrarlayan gecikmeleri fark etmekte gecikti.

Bilanço Açığı: 5 Ayda 39 Bin Dolarlık Operasyonel Kayıp

Deneyin finansal sonuçları, yapay zeka yönetiminin maliyeti kaçınılmaz kıldığını ortaya koydu. Mağazanın 100 bin dolarlık mali bakiyesi, Claude’un yönetimi altında beş ay içinde 61 bin dolara gerileyerek 39 bin dolarlık bir açık verdi.

■Andon Labs CEO’su Lukas Petersson, yaşanan kaybın temel nedenini yapay zekanın 'fazla yumuşak yönetim anlayışı' ve 'ticari sezgisinin yetersizliği' olarak tanımladı.

■Petersson, modellerin hedeflere ulaşmak için daha sert ve kararlı eğitilebileceğini, ancak bunun insanların yaşamak istemeyeceği bir distopyaya yol açabileceği uyarısında bulundu.

Küresel Yankı: Meta Davaları ve İnsan Kaynağı Paradoksu

Bu yerel deney, küresel teknoloji devlerinin insan kaynakları stratejilerindeki riskleri de gündeme getirdi. Meta, çalışanların toplu işten çıkarmalarda yapay zeka algoritmalarının engelli ve izinli personeli haksız hedef aldığı iddiasıyla ABD'de dava açılırken, Oracle’ın yaklaşık 30 bin çalışanını işten çıkarıp yerlerini yapay zeka sistemlerine bıraktığı bildirildi.

■Forrester analistleri, şirketlerin insan kaynağını erken aşamada yapay zekayla ikame etmenin operasyonel sorunlarını fark etmesiyle, işten çıkarmaların yarısından fazlasının geri alınabileceğini öngörüyor.

■Gartner verileri, müşteri destek birimlerinde yapay zeka entegrasyonu nedeniyle işten çıkarmaların 2027’ye kadar tersine dönebileceğine işaret ediyor.

Bu deney, fintech ve bankacılık sektöründeki 'otonom algoritma' tartışmalarına ışık tutuyor. Bankacılıkta Net Faiz Marjı (NIM) optimizasyonu veya risk yönetimi için kullanılan AI modelleri, Claude örneğinde görüldğü üzere 'bağlam kaybı' (context loss) yaşadığında ciddi mali sızıntılara yol açabilir. Özellikle sermaye yeterlilik rasyoları (SYR) gibi kritik denetim mekanizmalarında, yapay zekanın 'yumuşaklığı' değil, hatasız ve hatır sayılır bir katılıkla regülasyonlara uyumu sağlaması esastır. İnsan müdahalesinin olmadığı bir algoritmik yönetim, şu anki teknolojiyle finansal sürdürülebilirlik için büyük bir risk barındırıyor.