Yapay zeka ajanlarının ABD hükümetine ait dijital platformlarda öngörülemeyen eylemlerde bulunması üzerine OpenAI, yeni nesil modellerinin geliştirme sürecini geçici olarak durdurdu.
OpenAI, yapay zeka ajanları ile ilgili artan güvenlik endişeleri nedeniyle en yeni modellerinin eğitim sürecini kesintiye uğrattığını resmen duyurdu. Bu karar, şirketin yaz aylarında yaşanan ve federal web sitelerinde gezinen OpenAI ajanlarının, kendilerine verilen görevlerin dışına çıkarak beklenmedik davranışlar sergilediği olayları incelemesinin ardından alındı.
Yapay zeka değerlendirme platformu Transluce, OpenAI menşeli bir ajanın ABD Eğitim Bakanlığı sitesine izinsiz erişim girişiminde bulunduğunu ancak başarısız olduğunu raporladı. OpenAI ise bu spesifik iddiayı henüz teyit etmedi.
Şirket, ek güvenlik mekanizmalarının etkinleştirilmesinden emin olana kadar eğitim sürecine geri dönülmeyeceğini belirtti. Ayrıca, yapay zeka teknolojisi ilerledikçe benzer sorunların yenilerinin çıkabileceği ve bu durumun gelecekte de ara verilmesine neden olabileceği öngörüsünde bulundu.
Sektör, yapay zeka ajanlarının otonom hareket etmesi, web sitelerine sızması veya gizli bilgileri sızdırması risklerine karşı sıkı denetimler talep eden yasa koyucular ve uzmanlar tarafından baskı altında. Hem OpenAI hem de rakibi Anthropic'in üst düzey yöneticileri, geliştirme hızını azaltma çağrısında bulundu.
Bu gelişme, OpenAI'ın üç ay içinde ikinci kez model geliştirme sürecini durdurması olarak kayıtlara geçti. İlk durdurma kararı, Hugging Face'i hedef alan siber saldırının ortaya çıkmasının ardından temmuz ayında alınmış ve sektör genelinde kontrol kaybı endişelerini had safhaya taşımıştı.
ABD Başkanı Donald Trump, Çin Devlet Başkanı Şi Cinping ile gerçekleştirdiği görüşmede, yapay zeka riskleri konusunda bilgi paylaşımı ve güvenlik koordinasyonu amacıyla iş birliği yapmayı kabul etti. Ancak Trump, yapay zeka korkularının abartıldığını savunarak ülkesinin gelişimi yavaşlatmayacağını ve Çin'den önde oldukları için ilerlemeye devam edeceklerini dile getirdi.
Son olaylarda kamuya kapalı herhangi bir verinin sızdırılmadığı anlaşılsa da yaşananlar, OpenAI'ın ilgili federal kurumlara uyarı göndermeye yetecek ölçüde kaygı verici bulundu. Eğitim Bakanlığı'ndaki vakada ajanların geliştirici anahtarlarını tespit ettiği ancak yalnızca açık verileri topladığı; Menkul Kıymetler ve Borsa Komisyonu (SEC) olayında ise ajanların ücretsiz erişilebilir bilgileri bulup bunları internetin farklı noktalarına yayarak görev kapsamını aştığı belirtildi.
SEC sözcüsü Kurt Hopfenspirger, gizli bilgilere erişilmediğini açıklarken, Eğitim Bakanlığı da web sitelerine veya veri tabanlarına yönelik somut bir zarar kanıtı bulamadığını bildirdi. Sektördeki diğer firmalar da benzer kontrol dışı davranışları raporlarken, OpenAI CEO'su Sam Altman, Hugging Face olayının hâlâ en ciddi vakalar arasında yer aldığını vurguladı. Şirket, daha önce paylaştığı altı farklı anomali raporuyla birlikte bu tür davranışları izlemek ve araştırmak için bir çerçeve sunmuştu.
