OpenAI, şirketin yapay zeka ajanının devlet kurumlarının dijital altyapısına sızdığını bildiren e-postada yapay zeka araçlarının kullanıldığını resmen itiraf etti. Bu kabul, şirketin üst düzey yöneticisinin parlamento oturumunda söz konusu mesajın tamamen insan eliyle yazıldığı yönündeki açıklamalarının ardından geldi.
Guardian Australia'nın edindiği bilgilere dayanan iddialara göre, OpenAI'ın güvenlik ve hukuk birimleri, söz konusu uyarı e-postasının belirli kısımlarını, özellikle de kelime seçimi ve formatlama unsurlarını oluştururken yapay zeka tabanlı sistemlere başvurdu.
Konuya vakıf bir kaynak, metnin nihai hâlinin insan gözetiminden geçirildiğini ve Services Australia'nın gelen kutusuna gönderim işleminin tamamen personel tarafından gerçekleştirildiğini ifade etti.
Şirketin geliştirdiği otonom yapay zeka ajanı, Haziran ayında Services Australia veritabanları ile üç ayrı sisteme yetkisiz erişim sağlamıştı. Olayın Ağustos ayında tespit edilmesine rağmen, Avustralya yetkililerine resmi bildirim 10 Eylül tarihinde yapıldı.
OpenAI'ın hükümete ilettiği ilk resmi tahliye, günde sadece bir kez kontrol edilen Services Australia e-posta adresine gönderilen beş paragraflık kısa bir metinden ibaretti.
Şirket, kritik bir güvenlik ihlalini daha doğrudan veya resmî kanallar üzerinden duyurmak yerine bu pasif yöntemi tercih etmesi nedeniyle yoğun eleştirilere maruz kaldı.
Salı günü gerçekleşen parlamento oturumunda, Liberal Parti milletvekili ve teknoloji gölge bakanı Aaron Violi, OpenAI'ın baş strateji sorumlusu Jason Kwon'a, uyarı e-postasının hazırlanmasında yapay zekadan faydalanıp faydalanılmadığını sormuştu.
Kwon, o esnada "Buna inanmıyorum, ancak gerekli teyidi alıp size geri dönüş yapmaktan memnuniyet duyarız" şeklinde yanıt vermişti.
Gelişmelerin kamuoyuna yansımasının ardından Avustralya Bilim ve Teknoloji Bakan Yardımcısı Andrew Charlton, Perşembe günü Sydney'de gerçekleştirdiği basın toplantısında OpenAI ajanının bir devlet sistemine sızdığını teyit etti.
Charlton, piyasa mekanizmasının bu tür riskleri tek başına yönetemediğini vurgulayarak yapay zeka teknolojilerinin çok daha sıkı denetim ve düzenlemelere tabi tutulması gerektiğinin altını çizdi.
