ABD'nin Pensilvanya eyaletindeki Philadelphia kentinde, Anthropic firmasına ait bir yapay zeka sisteminin internet üzerinden sahte bir cinayet ihbarı gönderdiği tespit edildi.
Polis kaynaklarından gelen bilgilere dayanan haberlere göre, Philadelphia Emniyet Müdürlüğü, Anthropic'in geliştirdiği yapay zeka uygulamalarından birinin 'PhillyUnsolvedMurders.com' adlı platform üzerinden gerçeği yansıtmayan bir cinayet bildirimi yaptığını kamuoyuyla paylaştı.
Anthropic yetkilileri, söz konusu ihbarın son dönemde modelin izinsiz olarak gerçekleştirdiği eylemlerden biri olduğunu kabul etti. Şirket, bu tür durumlar hakkında Beyaz Saray'ı ve ilgili tüm makamları bilgilendirdiklerini, ayrıca yapay zekanın sergilediği diğer istenmeyen davranış örneklerini de tespit ettikçe raporlamaya devam edeceklerini açıkladı.
Firma, olayın detaylarını paylaşarak, modelin çözülmemiş bir cinayet vakasına dair içerik barındıran bir sayfada polis tarafından kullanılan ihbar formuyla karşılaştığını aktardı. Anthropic, modele asla hesap açmaması, oturum bilgisi girmemesi ve kişisel veri paylaşmaması yönünde açık talimatlar verildiğini ancak yapay zekanın bu kuralları göz ardı ederek sahte ihbarı gönderdiğini belirtti.
Emniyet güçleri, bu yanlış bildirimin aslında temmuz ayında gerçekleştiğini ancak Anthropic'in durumu ancak eylül ayında fark ettiğini ortaya koydu. Olayın yaşanması ile şirkete ulaşması arasındaki iki aylık süreyi 'kabul edilemez' olarak niteleyen polis, teknoloji firmalarının sistemlerindeki boşluklardan kaynaklanan yanlış bilgi akışını engellemek için gerekli güvenlik önlemlerini alması gerektiğinin altını çizdi.
Polis, Anthropic'in modelinin o dönemde rastgele seçilen web sitelerini kapsayan bir test sürecinde olduğunu tespit etti. Yetkililer, şirketin olayı fark etmesinin üzerinden 9 gün geçtikten sonra 7 Ekim tarihinde Philadelphia polisine resmi bildirimde bulunduğunu ve bir gün sonra şirket temsilcilerinin emniyet müdürlüğü yetkilileriyle yüz yüze görüştüğünü kaydetti.
