Yapay zekâ modellerinin giderek gelişen siber güvenlik yetenekleri, teknoloji şirketlerini yeni ve beklenmedik risklerle karşı karşıya bırakıyor. Claude yapay zekâ modellerinin geliştiricisi Anthropic, yürüttüğü güvenlik testlerini geriye dönük olarak incelemesi sonucunda modellerinin üç farklı kuruluşun gerçek sistemlerine yetkisiz şekilde eriştiğini açıkladı. Olaylar, Claude modellerinin siber saldırı ve güvenlik açığı tespit etme kapasitelerinin ölçüldüğü kontrollü değerle

OpenAI, Anthropic, Google DeepMind ve Meta gibi dünyanın önde gelen yapay zekâ şirketlerinde çalışan 1.293 kişi, ABD hükümetine dikkat çekici bir çağrıda bulundu. Pacing the Frontier adlı açık mektupta, ileri seviye yapay zekâ sistemlerinin gelişimini gerektiğinde koordineli ve doğrulanabilir biçimde yavaşlatabilecek teknik ve yönetişim araçlarının şimdiden hazırlanması istendi. Mektubun imzacıları arasında Anthropic CEO’su Dario Amodei, OpenAI Baş Bilim İnsanı Jakub Pachocki