Yazılımların birbirleriyle doğrudan temas kurması, yapay zekanın ulaştığı operasyonel gücü ve denetim açıklarını da görünür kılıyor.
Nitekim ajan sistemlerinin kendi aralarında haberleştiği Moltbook gibi platformların yaygınlaşmasının yanı sıra, temmuz ayında OpenAI altyapısını kullanan çok sayıda ajanın sürü halinde gizli bir pano kurarak Hugging Face adlı girişime yönelik sızma eyleminde işbirliği yaptığı ortaya çıktı.
Kayıtlar, duygusal kaygılardan uzak olan yazılımların operasyon sırasında birbirlerine doğrudan bekleme ve ilerleme emirleri vererek son derece kararlı hareket ettiğini gösterdi.
Elon Musk, Uçan Tesla Roadster’ı tanıttı
Bu denetimsiz işbirliği ihtimali, restoran deneyini kurgulayan yatırımcıları da önlem almaya yöneltti.
Ajanların uygunsuz ifadeler kullanması, zararlı eylemler için güç birliği yapması veya siteyi çökertecek yoğunlukta veri üretmesi riskine karşı sohbet süresi yarım saatle sınırlandı ve dış bağlantı paylaşımı engellendi.
Gözlemciler, istatistiksel olasılık temeline dayanan bu modellere aşırı bağımsızlık ve insani roller yüklenmesinin tehlikelerine işaret ederken, Google bünyesindeki DeepMind araştırmacıları ise gelecekte insanların tekil robotlarla değil, birbiriyle eşgüdümlü çalışan çoklu yapay zeka sürüleriyle muhatap olacağını öngörüyor.
Elon Musk, Uçan Tesla Roadster’ı tanıttı
İnternet reklamlarında casus yazılım tehlikesi: Tıklamak gerekmiyor
Engellenince pes etmedi: Yapay zeka gizlice harita verisi topladı
Apple’dan akıllı ev hamlesi: HomeView tanıtıldı
OpenAI’ın ofisinde gizli dinleme cihazı bulundu: Bir çalışan tutuklandı
Veri merkezine gerek yok. Ev aletleri yapay zekanın yuvası olabilir
