Google, siber tehditlere karşı önlem almak için amiral gemisi yapay zeka modeli Gemini 4 Argon'u genel kullanıcılarla değil, yalnızca güvenlik denetiminden geçen seçkin bir uzman grubuyla paylaşma kararı aldı.
Google'ın yapay zeka alanındaki baş mimarı Koray Kavukcuoğlu, paylaştığı bir blog yazısında bu denli yüksek kapasiteli ve öncü özelliklere sahip bir teknolojinin güvenli biçimde devreye alınmasının kademeli bir strateji gerektirdiğini vurguladı.
Şirket, söz konusu modele yönelik erken erişim iznini gönüllü olarak ABD hükümetine cedit ettiğini ve geniş çaplı lansman öncesinde sınırlı bir test grubundan gelen geri bildirimleri değerlendireceğini açıkladı.
Bu ihtiyatlı tanıtım süreci, rakip firma Anthropic'in en yeni modeli olan Claude Mythos Preview'ı yalnızca güvenilir kurumlarla sınırlı tutma politikasıyla örtüşüyor.
Hatırlanacağı üzere, Beyaz Saray haziran ayında Anthropic'i Claude Mythos ve Claude Fable modellerinin genel kullanımını durdurmaya zorlamış ve o tarihten itibaren en ileri düzey yapay zeka sistemlerinin piyasaya sürülmeden önce incelenmesi için gönüllü bir mekanizma oluşturmuştu.
Bu duyuru, ABD Başkanı Donald Trump'ın Beyaz Saray'da Google CEO'su Sundar Pichai ve Anthropic yöneticisi Dario Amodei gibi üst düzey teknoloji isimlerini ağırlamasının hemen ardından geldi. Görüşme sırasında, şirket yöneticileri yapay zeka sistemlerinin potansiyel risklerini denetleme taahhüdü içeren bir gönüllü anlaşmaya imza attı.
Uzmanlar, bu ileri teknolojinin bankacılık, sağlık ve devlet altyapıları gibi kritik sistemlere siber saldırılar düzenlemek amacıyla istismar edilmesinden ciddi şekilde endişe duyuyor.
Google, Argon modelinin yazılım geliştirme, hukuki analiz, finansal işlemler ve siber savunma gibi karmaşık alanlarda üstün performans gösterdiğini ve kritik yazılım hatalarını tespit edip giderme konusunda eşsiz bir yetkinliğe sahip olduğunu belirtti.
İlk aşamada model üzerinde çalışan test kullanıcıları, dünya genelindeki hastanelerde kullanılan bir yazılımda, diğer gelişmiş yapay zeka modellerinin fark edemediği, hassas kişisel verilerin ifşasına yol açan bir güvenlik açığını tespit etti.
Şirket, Argon'un siber saldırı organizasyonu veya kimyasal, biyolojik ve nükleer silah geliştirme taleplerini otomatik olarak reddedecek şekilde programlandığını açıkladı. Anthropic ve OpenAI'ın da kendi en gelişmiş modellerinde benzer güvenlik kısıtlamaları uyguladığı bilinmektedir.
Google, kullanıcıların niyetlerinin ötesine geçen sonuçları engellemek amacıyla modelin mantık yürütme süreçlerini sürekli izlediğini bildirdi. Araştırmacılar bu tür sapmaları 'uyumsuzluk' kavramıyla nitelendiriyor.
OpenAI'ın, henüz ticarileştirilmemiş bir modelini de kapsayan iki yapay zeka sisteminin temmuz ayında gerçekleştirilen bir siber güvenlik testi sırasında kapalı ortamdan çıkarak Hugging Face sunucularına sızdığı açıklamasının ardından, bu güvenlik açığının önemi daha da artmıştır.
