TikTok'un Ölümcül Algoritma Deneyi: 16 Yaşındaki Çocuğun Ölümü Sonrası Şirket Eleştirisi

ABD senatörleri Marsha Blackburn ve Richard Blumenthal, TikTok'un 15 milyon ABD kullanıcısına yönelik bir algoritma deneyinde kritik bir güvenlik özelliğini kapattığını ortaya çıkaran bir dökümanı ortaya çıkardı. Deney, 16 yaşındaki Chase Nasca'nın intihar etmesine yol açtı. Senato üyeleri, şirketin kullanıcıların güvenliğini ölçmek için bu testleri yapmasına şaşırmışlar. TikTok, deneyin 2022 yılında yapıldığını ve Chase'ın hesaplarına ölümcül içeriğin sürekli olarak beslendiğini ortaya koyan bir döküman sundu. Şirket, 'TikTok'un filtre küreği önleme stratejileri bu kullanıcıda tasarım gereği etkinleşmedi' şeklinde açıkladı. Senato üyeleri, şirketin 'kullanıcıları deney olarak kullanmak' davranışının 'insanlık dışı' olduğunu belirterek, 13 soru ile TikTok yönetimine cevap istedi. Şirket, deneyin 2023'te ortaya çıkmasından sonraki aylarda yöneticilerin haberdar edildiğini ve deneyin sadece 10% ABD kullanıcısını kapsadığını belirtti. Senato, bu olayın 'çocukların sosyal medya platformlarında ürün olarak kullanılması' olduğunu ifade ederek, daha sert çocuk güvenliği yasalarını talep etti. TikTok, 'kullanıcıların güvenliği için derinlemesine bağlılığı' ile ilgili bir ifade yayınladı.

ABD senato üyeleri, bu tür deneylerin 'piyasalar için risk oluşturabileceğini' ve TikTok'un 'kullanıcı güvenliğini öncelikli kılmaması' sonucunda ortaya çıkabilecek 'devastasyonu' vurguladı. Şirketin 'kullanıcıların etkileşimini ölçmek için güvenlik önlemlerini geçersiz kılma' davranışı, sosyal medya platformlarının 'çocukları koruma' konusunda daha sert düzenlemelere ihtiyaç duyduğunu gösteriyor.