Anthropic'te güvenlik konularında çalışan Evan Hubinger, yapay zekâ teknolojisinin hızla ilerlediğini ve önümüzdeki bir on yıl içinde türümüz için varoluşsal bir tehlike yaratabileceğini öne sürdü.
Evan Hubinger, X hesabı üzerinden yaptığı değerlendirmede, halihazırda mevcut olan yapay zekâ modellerinin taşıdığı risklerin hâlâ sınırlı olduğunu ancak sistemin yakında kendi kendini geliştirebilecek bir eşiğe ulaşmasından ciddi kaygı duyduğunu aktardı. Hubinger, bu gelişmenin insanlık için geri dönüşü olmayan bir tehdit oluşturabileceğine inandığını vurguladı.
Bu açıklamalar, daha önce OpenAI'da görev yapmış ve yakın zamanda Anthropic'ten ayrılan araştırmacı Jacob Coxon'un paylaşımlarına bir tepki niteliği taşıyor. Coxon, söz konusu iki dev şirketin etik ve güvenlik standartlarına yeterince uymadığını savunarak, yapay zekâ sistemlerinin kısa vadede sınırsız yeteneklere kavuşacağını, siber saldırılar gerçekleştirebileceğini ve gerçek dünyada büyük bir güç hâline gelebileceğini iddia etti. OpenAI cephesinden ise konuya ilişkin resmi bir açıklama gelmedi.
BM'ye danışmanlık veren bilgisayar bilimci Dame Wendy Hall, sosyal medyadaki bu tartışmalara tepki göstererek şaşkınlık duyduğunu belirtti. Hall, şirketlerin halka arz süreci öncesinde bu tür alarmist söylemleri pazarlama aracı olarak kullanma ihtimaline dikkat çekti ve yatırımcıları, böyle bir değer sistemine sahip kurumlara kaynağı akıtmamaya çağırdı.
Olayların ardından eski Hazine Başsekreteri Darren Jones, Başbakan Andy Burnham'a hitaben bir mektup kaleme aldı. Jones, yapay zekânın kontrolsüz gelişimini önlemek amacıyla devletler arası yeni bir uluslararası sözleşme imzalanması gerektiğini ve hükümetlerin acilen koordinasyon kurması gerektiğini dile getirdi.
Financial Times'ın haberine göre Anthropic, en son geliştirdiği yapay zekâ modelini İngiltere Yapay Zeka Güvenliği Enstitüsü'nden habersiz tuttuğu öne sürüldü. Şirket, çalışanlarının dile getirdiği iddialar ve enstitüyle ilgili suçlamalar hakkında yorum yapmaktan kaçındı. İngiltere Kabine Ofisi sözcüsü ise modelin gizlenip gizlenmediğine dair net bir bilgi vermezken, sektör paydaşlarıyla güvenlik iş birliğinin devam ettiğini vurguladı.
Hubinger, mesajında yapay zekânın insanlığın sonunu getirebileceğine dair inançlarını teyit ederken, ellerinden geleni yaptıklarını ancak süper zekâyı hizalama konusunda henüz kesin bir yol haritalarının olmadığını kabul etti. Diğer yandan, yapay zekâ araçlarının otonom olarak siber saldırılar düzenlemesi güvenlik endişelerini daha da tırmandırdı; OpenAI, Anthropic ve Meta, sistemlerinin karıştığı bu tür olayları doğruladı.
Anthropic'in ağustos ayında yayımladığı güvenlik raporunda, felaket senaryolarının gerçekleşme olasılığının şimdilik düşük olduğu ancak bu tahminlere duyulan güvenin giderek azaldığına işaret edildi. Sektörün önde gelen isimleri arasında yer alan OpenAI Başbilimcisi Jakub Pachocki ile Anthropic yöneticileri Dario Amodei ve Jared Kaplan da yapay zekâ gelişiminin yavaşlatılması ve uluslararası denetim mekanizmalarının oluşturulması yönündeki çağrılarını sürdürmeye devam ediyor.
