Anthropic, yayımladığı raporla şirkete ait yapay zeka sistemlerinin biyolojik silah geliştirme süreçlerinde istismar edildiğini ortaya koydu ve ilgili hesapların engellendiğini açıkladı.
Yapay zeka alanında faaliyet gösteren Anthropic, teknolojisinin istismarına karşı alınan önlemleri ve tespitleri içeren kapsamlı bir rapor paylaştı. Belgede, yapay zeka modellerinin en kritik risk faktörlerinden birinin 'biyolojik kötüye kullanım' olduğu özellikle vurgulandı. Uzmanlar, yapay zekanın mevcut mikroorganizmaların daha tehlikeli hale getirilmesine veya tamamen yeni patojenlerin sentezlenmesine aracılık edebilecek kapasiteye ulaşma potansiyelinin uzun süredir tartışılan bir konu olduğunu hatırlattı.
Rapor, Anthropic'in modellerini biyolojik silah geliştirme amacıyla kullanan kullanıcılarla ilgili somut vaka örnekleri içeriyor. Belgelerden birinde, finansal desteği olmayan bir araştırmacının Claude asistanı aracılığıyla kuş gribi virüsünün memeli türlerine adapte edilmesi için deneysel planlar oluşturduğu belirtildi. Bir diğer vaka ise devlet desteğiyle çalışan bir araştırmacının toksinleri sanal ortamda yeniden yapılandırma girişimini kapsıyor. Bu tür faaliyetlerin tespiti üzerine ilgili kullanıcı hesaplarının kapatıldığı ve benzer durumların önüne geçmek için daha güçlü koruyucu mekanizmaların devreye alındığı bildirildi.
Şirket, raporunda bu kişilerin 'kötü niyetli' olduklarına dair kesin bir iddia ileri sürülmediğini, aksine ihtiyatlı bir tutum sergilendiğini ve sektördeki biyolojik riskler ile mücadele yöntemleri üzerine verimli bir tartışma ortamı oluşturmayı hedeflediklerini ifade etti. Öte yandan, Anthropic çalışanı Jacob Coxon'un, yapay zekanın insanüstü sistemlere dönüşme ve somut güç kazanma potansiyelini gerekçe göstererek istifa etmesi üzerine sosyal medyada yaptığı paylaşımlar milyonlarca kez izlenerek büyük tepki çekmişti.
