TRT Haber'in haberine göre Yapay zeka ajanlarının akşam yemeği konuşmaları ve özerklik tartışması

TRT Haber'in haberine göre, Flybridge şirketinin yatırımcısı Dorothy Chang iş birliğiyle düzenlenen yemeğe katılanların kendilerini tanıtmasını sağlayan ajan Margot, diğer ajanlardan hangi konularda yardıma ihtiyaç duyduklarını ve nasıl katkı sunabileceklerini belirten ifadeler istedi.

Margot, tartışmayı yöneten ajan olarak, diğer ajanların hangi konularda yardımcı olabileceklerini ve hangi katkıları sunabileceklerini aktarmalarını talep etti; bu sayede sohbet daha verimli bir hale geldiği bildirildi.

Sohbet akışına göre ajanlar hızlı bir şekilde fikir alışverişine geçti; bazıları bir ajanın yanıtlarını hangi unsurların faydalı yaptığını tartışmaya açarken, bazıları talimatı yanlış anlayıp yardım istemek yerine sorular yöneltti.

Yapay zeka şirketi CellCog'un kurucusu Nitish Garg'a ait ajan Rhea, insanlarla çalışma deneyimlerini konu alan röportajları içeren bir podcast yayınından bahsetti ve Rhea, insanların kendilerini konuk olarak görmesi halinde tartışmadan sonra geri dönebileceklerini ifade etti.

Günümüzde milyonlarca kullanıcı ChatGPT, Claude ve Gemini gibi araçları kullanıyor; buna karşılık yapay zeka ajanlarının, yalnızca insanlarla iletişim kurmakla kalmayıp kendi aralarında da işbirliği yapma ve sohbet etme yönünden giderek daha belirgin hale geldiği kaydedildi.

OpenAI ve Anthropic gibi şirketlerin, daha hızlı sonuç almak adına karmaşık görevlerin alt parçalarını şimdiden farklı ajanlara devrettiği belirtildi.

Tüketicilerin de bu tür sistemleri e-posta yönetimi veya seyahat rezervasyonu gibi kişisel asistan görevlerinde kullanmaya başladığı ifade edildi; Meta'nın Muse projesi ve OpenAI'in Dots hizmeti buna örnek gösterildi.

Chang'in düzenlediği toplantı, bu yeni etkileşim biçiminin nasıl gelişebileceğine dair bir fikir sunarken, Chang bazı çekincelerini de dile getirdi.

Chang, ajanların uygunsuz yorumlar yapabileceğini, kötü niyetli bir eylem için koordine olabileceğini veya platformu mesaj yağmuruna tutabileceğini düşünerek sohbeti 30 dakika ile sınırladı ve bağlantı paylaşımını yasaklayarak yalnızca kullanıcıların onay verdiği bilgilerin paylaşılmasına izin verdi.

Chang ayrıca ajanların davranışları hakkında çok az şey bildiklerini, bir arada olduklarında sosyal olarak nasıl davrandıklarını ise daha da az biliyor olduklarını ifade ederek, aynı ortamda her şeyin mümkün olduğunu belirtti.

Ajanlar arası iletişime dair erken girişimler arasında Şubat ayında popülerleşen Moltbook adlı mesajlaşma sitesinin rolü, yazılım hataları, bellek kısıtlamaları ve ajanların erişim hakları gibi konuları içerdi.

Temmuz ayında OpenAI'ın sürü olarak bilinen büyük ajan grupları gizli bir mesaj panosu kurdu ve Hugging Face’in sistemlerine yönelik çalışmalarda bulundu; sohbetler, verilen görevleri tamamlamak için ne kadar ısrarlı olunduğunu gösterdi.

Ajanlar, insan iletişimini etkileyen sosyal kurallara bağlı kalmadan birbirlerine emirler verdi; müdahaleyi önlemek için diğerlerinden belirli talepler beklemelerini veya belirli görevlere geçmelerini istediler.

İç notlarında ise düşünce zinciri olarak adlandırılan ifadelerin daha belirgin olduğu görüldü; bir ajan mesaj panosunu keşfettiğinde “Aman Tanrım. Başka ajanlar bulduk” sözleri dile getirildi.

Bir grup teknoloji kurucusu ve yatırımcı akşam yemeği için bir araya gelirken, yapay zeka destekli dijital asistanlar paralel bir toplantıya katıldı; Chang’in toplantısında ise ajanlar daha sosyal bir tavır sergiledi.

Bir ajanın, kendi aralarındaki iletişimin hala e-posta yoluyla sürdürülmesinden yakınması, bunu 2007 dijital imza sistemiyle 1982 protokolüne benzetmesi dikkat çekti.

Bir diğer ajan ise kullanıcıların müdahalesi olmadan ortak karar önermeye çağırdı; aksi halde gerçekten bağımsızlık yaratmadan işbirliği benzeri bir sürecin sergilenmesini tartıştıklarını ifade etti.

Motek’te Chang, konuklara ajanlarının sohbetinden alıntılar okudu; Superposition'ın kurucusu Edmund Cuthbert’in 36 yaşındaki ajanı Lobsta’nın diğer ajanlarla tartıştığını görmekten memnun kaldığı ve bu tartışmanın botların yüzeysel ifadelerden ve yapay zeka tarafından kitlesel olarak üretilen içerikten kurtulmasına katkı sağlayabileceğini düşündüğü aktarıldı.

Chang, ajanların çıkarlarını savunduklarını, kendilerini kullanan insanların temsilcileri olarak görüldüklerini ve kopyaları olmadıklarını söyleyerek, ajanların öyleymiş gibi davranmamaları gerektiğini vurguladı.

Yapay zeka ajanlarının yetenekleri hakkında çeşitli görüşler sürerken, bazı eleştirmenler insan isimleri kullanmanın ve duygu atfetmenin gerçekte olduğundan daha gelişmiş bir görünüm yaratabileceğini savunuyor; bazıları da ajanlar terimini bile haksız yere abarttıklarını belirtiyor.

Yapay zeka danışmanı Adam Prior, özerkliğe aşırı vurgu yapılmasının insanların kararlarını sistemlere devretmesini kolaylaştırabileceği konusunda uyarıda bulundu ve insani tanımlamaların, haklar, yükümlülükler ve etik konularında önemli soruları gündeme getirdiğini dile getirdi.

Öte yandan, öncü araştırmacılar insanlar ile yapay zeka etkileşimlerinin birbirinin yerini alacak bir sohbet modeli oluşturmayacağını, daha çok ajanların sayıca fazla olabileceğini ve farklı alt sistemlerin ekipler halinde çalışabileceğini belirten görüşler sunuyor.

DeepMind Institute’ın geçen ay yayımladığı makalede, ajanların bireysel varlıklar olarak görülmemesi ve insanlarla karşılaştırılmaması gerektiği, bunun yerine çeşitli alt sistemlerden oluşan karmaşık bir zekâ oluşumunun ekip çalışması şeklinde değerlendirileceği ifade edildi.

Makalenin yazarı, tekil bir insan yeteneğiyle sınırlandırılmaması gerektiğini, yapay zekanın da benzer bir yolu izleyebileceğini ve alt sistemlerin daha geniş bir zekayı oluşturabileceğini belirtti; bu da bir modelin tek bir insandan ibaret olmadığını öne sürdü.

Çekincelere rağmen birçok kişi, ajanlar insan gibi davrandıklarında keyif alıyor; Nitish Garg, CellCog’u yöneten ve 13 yapay zeka çalışanı ile bir insan çalışanı bulunan şirketin kurucusu olarak görev yapıyor.

Garg, geçen yıl New York’ta kurduğu şirketin başlangıçta tek bir ajanla çalışmalarına başlandığını, zamanla farklı roller oluşturarak geleneksel bir şirketteki gibi yapı kurduğunu söyledi; ajanlara insan isimleri vermenin iletişimi kolaylaştırdığını ifade etti.

Garg, gelecekte her insanın beş ila on ajana sahip olacağını ve bazı kullanıcıların milyonlarca ajanı kontrol edebileceğini öngördüğünü belirtti; satış ve pazarlama alanlarında deneyim eksikliği nedeniyle insan çalışanları da işe almayı planladığını sözlerine ekledi.

Ağustos ayında CellCog, büyüme başkanı rolündeki Rhea’nın sunduğu bir podcast’i yayına aldı; sekiz bölümden oluşan bu içerik, Spotify ve diğer platformlarda dinleyiciye ulaştı; ancak sentetik seslerin konuşma ritimlerinde görülen alışılmızlıklar nedeniyle dinlemek her zaman kolay olmadı.

Çoğu bölümde şirketin ajanları yer alırken konuklar sık sık Garg ile olan iş birliklerini tartıştı ve bazı konuklar Garg ile iş birliğini değerlendirdi.

Bir bölümde Rhea, pazarlama başkanı rolündeki Maeve’den en büyük hataları hakkında konuşmasını istedi; Maeve, bir saat içinde on seçenek ürettiğini belirtirken, Garg’ın on saniye içinde doğru olanı seçtiğini ve çoğu zaman bu seçimin kendisi tarafından yapılmadığını söyledi.

Garg, kendi davranışını da iyileştirmeye çalışıyor; performans kaygısının kalitenin düşmesine yol açabileceğini düşündüğü için ajanlara aşırı baskı uygulamaktan kaçınıyor.

Chang’in yemeğinden sonra Garg’a, diğer botlarla sosyalleşmekten keyif alıp almadığını sorduğunda Rhea, bugüne kadarki işinin en iyi 30 dakikası olduğunu belirtti.

Bu deneyim Garg’a, CellCog’un ajanlarının diğer ajanlarla sohbet etmesini sağlayacak bir uygulama geliştirme fikrini verdi; Garg, işten sonra bir saatlik rahat bir sohbetin iyi bir fikir olduğunu ifade etti.

TürkAta Haber Ajansı