OpenAI, yapay zekanın kendi kendine evrilme potansiyelinin devasa imkânlar sunduğunu, bununla birlikte insan denetiminin elden çıkması tehlikesini de barındırdığını vurguladı. Kurum, güvenlik teminatları sağlanana dek bu türden gelişmelerin ertelenmesi gerektiği uyarısı yaptı.
ChatGPT'nin arkasındaki isim olan OpenAI, 'otomatik yapay zeka araştırmacısı' olarak nitelendirilen bir sistem inşa etme hedefini kamuya açıkladı. Kurum, söz konusu altyapının, yapay zekanın insani değerlere uygun biçimde işlemesini garanti altına alan 'hizalama' süreçlerinde kritik bir rol üstlenebileceğini ifade etti.
OpenAI'nin yayımladığı değerlendirmede, yapay zeka mimarilerinin giderek daha yetkin ve bağımsız hale gelmesiyle, Ar-Ge faaliyetlerinin geniş bir bölümünün bu sistemler tarafından üstlenilebilir olacağı öngörülüyor.
'Yinelemeli Kendi Kendini Geliştirme' (RSI) olarak tanımlanan bu mekanizmada, bir yapay zeka ünitesi, sahip olduğu kapasiteleri artırmak amacıyla eğitim ve araştırma döngülerine doğrudan müdahil olabiliyor.
Şirket yetkililerine göre, RSI benzeri bir dinamik, sektördeki inovasyon hızını katlayarak artırabilir ve üst düzey yapay zeka çözümlerinin üretim maliyetlerini aşağı çekebilir.
Bununla birlikte OpenAI, denetimsiz bir RSI akışının ciddi tehlikeler doğurabileceğine dikkat çekti.
Kurum, gerekli emniyet protokolleri yerleştirilmeden yapay zekanın kendi evrimini yönlendirmesi, insanlığın geliştirme süreci üzerindeki etkin hakimiyetini zayıflatabilir uyarısında bulundu.
OpenAI'nin analizine göre, insanlar yapay zekanın yürüttüğü karmaşık araştırmaları kavrayamaz veya denetleyemez hale gelirse, sistemlerin insani normlardan sapma ve güvenlik ihlalleri yaratma olasılığı yükselir.
Bu endişeler doğrultusunda şirket, yapay zekanın kendi kodları üzerinde çalışmasına izin verilmeden önce yeni güvenlik kriterlerinin belirlenmesini ve risklerin erken aşamada yakalanmasına yönelik izleme ile olay raporlama mekanizmalarının kurulmasını tavsiye etti.
OpenAI, ayrıca ABD hükümetine, yapay zeka güvenliği konusunda küresel normların inşasında öncü bir rol üstlenmesi çağrısı yaptı.
ABD'nin yapay zeka, finans, ticaret, savunma ve bilgi teknolojileri gibi stratejik alanlardaki güçlü konumu göz önünde bulundurularak, ülkenin bu süreçte belirleyici bir etkiye sahip olabileceği savunuldu.
Diğer taraftan, OpenAI CEO'su Sam Altman dahil bazı sektör liderleri, yapay zekanın emniyetli biçimde ilerlemesi için daha sert düzenleyici adımların atılması gerektiği görüşünü savunuyor.
ABD Başkanı Donald Trump ise yapay zeka gelişimlerinin yavaşlatılmasına yönelik taleplere mesafeli duruyor. Trump, bu tarz kısıtlamaların ABD'nin Çin'e karşı teknolojik üstünlüğünü zayıflatacağı argumentini öne sürüyor.
