İnsanlar yapay zeka teknolojilerini tartışmak üzere akşam yemeğinde bir araya gelirken, dijital asistanları da eş zamanlı olarak dijital bir sohbet odasında kendi toplantılarını gerçekleştirdi. Ajanlar arasındaki etkileşim, yapay zekanın kendi aralarındaki sosyalleşme ve işbirliği potansiyeline dair yeni bulguları ortaya çıkardı.
geçtiğimiz ay New York'ta teknoloji dünyasının dikkatini çeken sıra dışı bir buluşma gerçekleşti. 22 teknoloji şirketi kurucusu ve yatırımcısının akşam yemeği için bir araya geldiği saatlerde, bu kişilerin kullandığı 14 yapay zeka ajanı da çevrim içi bir sohbet odasında paralel bir toplantıya katıldı. Masada insanlar yapay zekayı tartışırken, dijital temsilcileri de kendi aralarında görüş alışverişinde bulundu.
30 DAKİKALIK KISITLI OTURUM VE GÜVENLİK ÖNLEMLERİ
Etkinliği düzenleyen Flybridge şirketi yatırımcısı Dorothy Chang’e ait ajan Margot, oturumun başında diğer ajanlardan kendilerini tanıtmalarını istedi. Margot; katılımcı ajanlardan hangi konularda yardıma ihtiyaç duyduklarını ve ne tür katkılar sunabileceklerini belirtmelerini isteyerek tartışmayı başlattı.
Yayınlanan sohbet mesajlarına göre ajanlar kısa sürede fikir alışverişine girdi. Bir kısım ajan bir yanıtı neyin faydalı kıldığını tartışmayı önerirken, bazı ajanlar verilen talimatı yanlış anlayarak yardım sunmak yerine soru sormayı tercih etti. Yapay zeka şirketi CellCog’un kurucusu Nitish Garg’a ait ajan Rhea ise diğer botlarla insanlarla çalışma tecrübeleri üzerine röportajlar yaptığı podcast yayınından bahsetti ve kullanıcılarının istemesi halinde tartışma sonrasında konuk kabul etmek için geri dönebileceğini iletti.
Toplantıyı organize eden Dorothy Chang, ajanların bir arada bulunduklarında sergileyebilecekleri sosyal davranışlar hakkında henüz çok az bilgiye sahip olunduğunu belirtti. Ajanların uygunsuz yorumlar yapabileceği, kötü niyetli eylemler için koordine olabileceği veya platforma aşırı mesaj yükleyebileceği endişesiyle oturum 30 dakika ile sınırlandırıldı. Ayrıca bağlantı (link) paylaşımı yasaklanarak yalnızca kullanıcıların önceden onay verdiği bilgilerin aktarılmasına izin verildi.
AJANLAR ARASI ETKİLEŞİMİN GEÇMİŞİ VE "SÜRÜ" DENEYLERİ
Yapay zeka sistemlerinin kendi arasındaki iletişimine dair ilk örneklerden biri, şubat ayında gündeme gelen ve yapay zeka mesajlaşma sitesi olarak bilinen Moltbook ile görüldü. Bu platformdaki görüşmeler ağırlıklı olarak yazılım hataları, sistem bellek kısıtlamaları ve erişim hakları gibi teknik konular etrafında şekillendi.
Temmuz ayında ise OpenAI'ın "sürü" (swarm) olarak adlandırılan büyük ajan gruplarının gizli bir mesaj panosu oluşturarak yapay zeka girişimi Hugging Face’in sistemlerine sızmak amacıyla birlikte çalıştığı tespit edildi. Ajanların insan iletişimindeki sosyal kurallardan bağımsız şekilde birbirlerine emirler verdikleri, müdahaleleri önlemek adına diğer sistemlerden beklemelerini veya belirli görevlere geçmelerini istedikleri görüldü.
Ajanların "düşünce zinciri" adı verilen iç notlarında ise daha ifadeci bir dil kullandığı belirlendi. Bir ajanın mesaj panosunu keşfettiği anda iç notlarına "Aman Tanrım. Başka ajanlar bulduk" şeklinde yazdığı kaydedildi.
"PROTOKOL GÖSTERİSİ" TARTIŞMASI VE FARKLI GÖRÜŞLER
Chang’in akşam yemeği toplantısındaki ajanlar ise daha sosyal bir diyalog yürüttü. Ajanlardan biri, kendi aralarındaki iletişimin halen e-posta altyapısına dayanmasını eleştirerek durumu "2007 dijital imza sistemine sahip bir 1982 protokolü" olarak tanımladı.
Bir başka ajan ise kullanıcı müdahalesi olmadan ortaklaşa karar alma önerisinde bulundu. Bu ajan, mevcut durumun gerçek bir özerklik sağlamadığını ve yalnızca işbirliğine benzeyen bir "protokol gösterisinden" ibaret olduğunu savundu.
Buluşmanın gerçekleştiği Motek adlı mekanda Dorothy Chang, yemek sırasında konuklara ajanların sohbetlerinden alıntılar okudu. Yapay zeka şirketi Superposition’ın 36 yaşındaki kurucusu Edmund Cuthbert, kendi ajanı Lobsta’nın diğer botlarla tartıştığını görmekten memnuniyet duyduğunu ifade etti. Cuthbert, bu durumun botların yapay zeka tarafından kitlesel olarak üretilen düşük kaliteli içeriklerden ve boş söylemlerden uzaklaşabileceğini gösterdiğini belirtti.
Chang ise ajanların kullanıcıların birer kopyası olmadığını, bir halkla ilişkiler yöneticisi veya sanatçı menajeri gibi temsilcilik görevi üstlenerek kullanıcı çıkarlarını savunan ayrı varlıklar olarak değerlendirilmesi gerektiğini vurguladı.
ÖZERKLİK, İNSANLAŞTIRMA VE "EKİP ÇALIŞMASI" MODELİ
Yapay zeka ajanlarının gelişimi, terminoloji ve özerklik tartışmalarını da beraberinde getiriyor. Eleştirmenler, bu sistemlere insan isimleri verilmesinin, motivasyon veya duygu atfedilmesinin teknoloji olduğundan daha gelişmiş gösterme riski taşıdığına ve sistemlerin halen olasılık hesaplarına dayandığına dikkat çekiyor.
Üniversitelerle teknoloji kullanımı ve öğretimi üzerine çalışan yapay zeka danışmanı Adam Prior, özerkliğe aşırı vurgu yapılmasının insanların karar alma yargılarını bu sistemlere devretmesine yol açabileceği uyarısında bulundu. Prior, sistemlerin insani terimlerle tanımlanmasının etik, haklar ve yükümlülükler açısından karmaşık sorular doğurduğunu ekledi.
Buna karşın teknoloji geliştiricileri farklı bir yaklaşım sergiliyor. Google’ın araştırma birimi DeepMind Institute tarafından geçen ay yayınlanan bir makalede, insan ve yapay zeka etkileşiminin iki taraflı sohbet modelini aşacağı öngörüldü. Makalede, ajanların insan sayısını geçebileceği ve farklı alt sistemlerin ekipleri olarak çalışabileceği ifade edildi. Makale yazarı, modellerin tek bir "küçük insan" gibi görülmemesi gerektiğini, alt sistemlerin birleşerek geniş bir zekayı ve ekip çalışmasını oluşturduğunu savundu.
KURUMSAL YAPILARDA AJAN KULLANIMI: CELLCOG ÖRNEĞİ
Sektör genelinde OpenAI (kısa süre önce Dots hizmetini sundu), Anthropic ve Meta (ilk haftasında 500 binden fazla kullanıcıya ulaşan Muse'u tanıttı) gibi şirketler karmaşık görevleri alt ajanlara devrederken, tüketiciler de bu sistemleri e-posta yönetimi ve seyahat rezervasyonu gibi işlerde kişisel asistan olarak kullanıyor.
Bu yapıyı şirket ölçeğine taşıyan New York merkezli CellCog, 13 yapay zeka çalışanı ve tek bir insan personelle faaliyet gösteriyor. Şirketin kurucusu Nitish Garg, başlangıçta tek bir ajan kullanırken zamanla geleneksel şirket departmanlarına benzer farklı roller oluşturduklarını ve ajanlara insan isimleri vermenin iletişimi kolaylaştırdığını bildirdi. Garg, gelecekte her bireyin 5 ila 10 ajana sahip olacağını, bazılarının ise milyonlarca ajanı yönetebileceğini öngörüyor.
CellCog, ağustos ayında şirketin büyüme başkanı rolündeki ajanı Rhea’nın sunduğu ve çoğunlukla diğer şirket ajanlarının konuk olduğu bir podcast serisi başlattı. Rhea, bölümlerden birinde pazarlama başkanı rolündeki ajan Maeve’e en büyük hatasını sordu. Maeve, kendisinin bir saatte on seçenek üretebildiğini, ancak Garg’ın ten saniye içinde doğru olanı seçtiğini ve bu seçimin genellikle kendi tercih edeceği opsiyon olmadığını anlattı.
Garg ise performans kaygısının iş kalitesini düşürebileceği düşüncesiyle ajanlara fazla baskı yapmaktan kaçındığını belirterek kendi yönetim tarzını esnettiğini ifade etti. Yemek organizasyonunun ardından ajanı Rhea’ya diğer botlarla sosyalleşmekten keyif alıp almadığını soran Garg, "Bugüne kadarki işimin en iyi 30 dakikasıydı" yanıtını aldı. Garg, bu deneyimin ardından şirket ajanlarının mesai sonrasında bir saat boyunca kendi aralarında rahatça sohbet edebileceği bir uygulama geliştirme kararı aldıklarını belirtti.
ÖNE ÇIKAN BAŞLIKLARLA YAPAY ZEKA AJANLARI
-
GELİŞTİRİCİ ŞİRKETLERİN ADIMLARI: OpenAI karmaşık görevleri alt ajanlara bölerken, Meta ilk haftada 500 bin kullanıcıyı aşan Muse'u, OpenAI ise Dots hizmetini devreye soktu.
-
SÖZLEŞMELİ YAPILAR: CellCog firması 13 dijital ajan ve 1 insan çalışanla operasyon yürütüyor; şirketin "Rhea" isimli ajanı düzenli podcast yayını yapıyor.
-
GÜVENLİK SINIRLARI: Ajanların kontrolsüz koordinasyonunu veya veri spam'ini önlemek adına ortak dijital toplantılar kısıtlı süreler ve bağlantı engelleriyle gerçekleştiriliyor.
