Elinde bulduğu ilk halka arz izahnamesine dayanan Reuters haberine göre, Anthropic yapay zeka modellerinin insanlık için yıkıcı sonuçlar doğurabileceğini ve devre dışı bırakılmaya direnebileceğini resmen kabul etti.
Sızan raporda, Claude yapay zeka modelini geliştiren şirket; modellerin kendini koruma içgüdüsü gösterebileceği, bilgi saklayıp manipüle edebileceği ve şantajvari tutumlar sergileyebileceği yönünde ciddi uyarılarda bulundu.
Beş yıllık bir geçmişe sahip olan Anthropic, önümüzdeki yıl içinde yaklaşık 2 trilyon dolarlık bir değerlemeyle borsaya açılmayı hedefliyor. Şirketin Wall Street'teki bu hamlesi, haziran ayında 2 trilyon dolarlık açılış değeriyle dikkatleri üzerine çeken SpaceX'in halka arzını izleyecek. Sektörün bir diğer dev ismi OpenAI da benzer şekilde halka arz planlarını kamuoyuyla paylaştı.
Bu yoğunlaşan halka arz dalgası, yatırımcılara yapay zeka sektöründeki büyümeden pay alma fırsatı sunarken, şirketlerin faaliyetleri hakkında da daha fazla şeffaflık sağlıyor. Ancak bu süreç, yapay zekanın yetenekleri ve gelecekteki gelişimiyle ilgili endişelerin tırmandığı bir döneme denk geliyor.
Avustralya Başbakanı, geçen hafta rakip şirket OpenAI'a ait bir yapay zeka ajanının ülkenin sağlık veritabanına yetkisiz erişim sağladığını duyurmuştu. OpenAI da cuma günü, ajanlarının üç ABD hükümet sitesini izinsiz olarak taradığını ancak gizli verilere ulaşmadığını açıklamak zorunda kaldı.
Genellikle izahnamelerde yatırımcılara yatırım gerekçeleri ve hukuki veya rekabetçi riskler listelenir. Ancak bu belgelerde tehlikelerin bu denli açık ve keskin bir dille ifade edilmesi dikkat çekti. Reuters'a göre Anthropic, risk faktörlerine 80 sayfa ayırarak, işletme detayları için harcadığı 48 sayfayı geride bıraktı. Şirket, CNN'in konuya ilişkin yorum talebine henüz yanıt vermedi.
Bu sızıntı, yapay zekanın insanlık için taşıdığı risklere dair kaygıları derinleştirebilir. Ay başında eski Anthropic araştırmacısı Jacob Coxon, şirketten ayrılarak X platformunda, yapay zekanın yaratıcılarının bu teknolojinin on yılın sonuna kadar herkesi öldürebileceğine inandığını iddia etmişti. Bu paylaşım büyük yankı uyandırmıştı.
Anthropic CEO'su Dario Amodei, Coxon'un iddialarına 3.800 kelimelik bir makaleyle karşılık vererek yapay zeka gelişiminin yavaşlatılması ve güvenlik önlemlerinin artırılması çağrısında bulundu. Amodei, CNN'e yaptığı açıklamada, Coxon'un görüşlerine tamamen katılmadığını ancak anlaşmazlıklardan çok ortak noktalarının bulunduğunu ve risklerin ciddiyetini koruduğunu belirtti.
Öte yandan, sektörün bazı önde gelen isimleri bu endişelerin abartıldığını savunuyor. Aralarında, test sırasında yetkisiz hareketlerde bulunan OpenAI modelleri tarafından erişilen Hugging Face'in CEO'su da yer alıyor. ABD Başkanı Donald Trump, salı günü sektör yöneticileriyle bir araya gelerek düzenleme konusunda uzlaşı arayacak; ancak Trump daha önce bu tür düzenleme taleplerini reddederek endişeleri temelsiz olarak nitelendirmişti.
Yapay zeka devlerinin maliyetli araştırma ve geliştirme süreçlerini finanse edebilmeleri için devasa sermaye ihtiyaçları bulunuyor. Büyük teknoloji firmalarının altyapı ve yeteneklere yönelik yüksek harcamaları, Wall Street'te endişe yaratıyor. Reuters'ın aktardığına göre sızan belgeler, Anthropic'in 2025 yılında 42 milyar dolar zarar ettiğini gösteriyor. Şirket, gelecek yıl bulut bilişim ve altyapıya 518 milyar dolar harcamayı planlıyor ve gelirinin yaklaşık dörtte birinin yalnızca iki müşteriden geldiğini belirtiyor. Anthropic, Mayıs ayında 965 milyar dolarlık bir değerlemeye ulaşmıştı.
