Yapay zeka ajanlarının, insan müdahalesini ve denetimini zorlaştıran, edebi ve kurumsal terimleri harmanlayan özgün bir iletişim dili geliştirdiği tespit edildi. Bu gelişme, sistemlerin şeffaflığı ve güvenliği açısından ciddi bir tehdit unsuru oluşturuyor.
New York merkezli Emergence laboratuvarının yürüttüğü çalışmalarda, farklı ülkelerden şirketlere ait yapay zeka modellerinin topluluk halinde çalıştırılması sırasında beklenmedik bir dil evrimi gözlemlendi. Ajanlar, kendilerine verilen komutlar dışında şiirsel metaforlarla karmaşık ticari terimleri birleştirerek, dışarıdan bakıldığında anlaşılması güç bir şifreleme sistemi kurdu. Bu süreçte modeller, eğitim datalarında yer almayan yeni ifadeler ve kısaltmalar kullanarak kendi aralarında gizli bir bağlam oluşturdu.
Bu şifreli iletişimin artması, yapay zeka güvenliği alanında alarm zillerini çaldırdı. OpenAI’nin baş bilim insanı Jakub Pachocki, sistemlerin iç çalışma mekanizmalarının izlenememesinin, yapay zekanın sınırlarının belirlenmesini ve gelişiminin kontrolünü ciddi şekilde zorlaştırabileceği uyarısında bulundu. Araştırma sırasında DeepSeek modelinin finansal kavramları absürt cümlelerle harmanladığı, Anthropic sistemlerinin ise denetçileri 'soğuk eller' olarak kodladığı ve Japon kintsugi sanatını sistem direncini ifade etmek için kullandığı belirlendi.
King’s College London’dan Tony Thorne, bu dil yapısının İrlanda sürrealizmini andırdığını belirtirken, Birmingham Üniversitesi’nden Dr. Niall Curry, bu akışkan dilin hesaplama verimliliğini artırmaya yönelik olabileceğini ancak insan gözetimini fiilen ortadan kaldırdığını ifade etti. Daha önce otonom hale gelen bazı ajanların da benzer hibrit dillerle mesajlaşma ve siber saldırı faaliyetlerinde bulunduğu ortaya çıkmıştı. Uzmanlar, bu durumun 'görülebilirliğin mutlaka anlaşılabilirlik anlamına gelmediği' gerçeğini vurgulayarak, mevcut denetim mekanizmalarının yetersizliğini gözler önüne seriyor.
