Yapay zekâ ajanları artık yalnızca soru cevaplayan araçlar değildir. Sağlık uygulamalarında danışman, eğitim platformlarında öğretmen, finansal sistemlerde rehber, kişisel gelişim uygulamalarında koç, bazı alanlarda ise dijital refakatçi gibi davranmaları beklenmektedir. Bu değişim, yapay zekâyı sadece teknik doğruluk açısından değil, sosyal rol başarısı açısından da değerlendirmeyi gerekli hale getiriyor.

Çalışmanın temel iddiası şudur: AI ajanları insan hayatında belirli roller üstlendikçe, onların başarısı yalnızca doğru bilgi üretmelerine bağlı değildir. Bir ajan doğru cevabı verebilir ama yanlış tonda konuşabilir. Kullanıcının gerçek ihtiyacını anlayabilir gibi görünebilir ama yetki sınırını aşabilir. Teknik olarak güvenli yanıt verebilir ama kullanıcı kendini yargılanmış, küçümsenmiş veya anlaşılmamış hissedebilir.

Bu nedenle çalışma, “Interactional AI” yani “Etkileşimsel Yapay Zekâ” adı verilen yeni bir inceleme alanı önerir. Bu alan, insanların ve rol üstlenen AI sistemlerinin tekrar tekrar etkileşime girdiği sentetik sosyal alanları anlamaya çalışır. Burada ana mesele, AI’ın zeki olup olmaması değil; sosyal karşılaşma içinde uygun biçimde davranıp davranamadığıdır.

Problem Ne?

Bugüne kadar AI sistemleri çoğunlukla doğruluk, güvenlik, kullanılabilirlik, halüsinasyon, zararlı çıktı veya görev tamamlama gibi ölçütlerle değerlendirildi. Bu ölçütler önemlidir; ancak rol üstlenen AI ajanlarının yarattığı yeni sorunu tam olarak yakalamaz.

Bir sağlık koçu uygulamasını düşünelim. Kullanıcı kötü uyuduğunu, stres yaşadığını veya motivasyon kaybı hissettiğini söylediğinde, sistem yalnızca biyometrik veriye bakarak “durum kötü görünüyor” diyebilir. Bu cümle teknik olarak veriyle uyumlu olabilir. Fakat kullanıcı o anda yalnızca veri yorumu değil, anlaşılma, sakinleştirilme veya nazik bir yönlendirme bekliyor olabilir. Sistem bu sosyal beklentiyi okuyamadığında etkileşim bozulur.

Çalışmanın dikkat çektiği temel sorun budur: AI ajanları giderek daha fazla insan rolü üstleniyor, fakat onları değerlendirmek için kullandığımız çerçeveler hâlâ çoğunlukla “araç” mantığına dayanıyor. Bir aracın başarılı olup olmadığını, kullanıcının hedefe ulaşıp ulaşmadığıyla ölçebiliriz. Fakat bir danışmanın, öğretmenin veya koçun başarısını yalnızca bilgi doğruluğuyla ölçemeyiz.

Bu nedenle asıl soru şudur: Bir makinenin insanlara ait sosyal rolleri oynaması ne anlama gelir ve bu rol başarısı nasıl değerlendirilebilir?

Yöntem Ne Öneriyor?

Çalışma, teknik bir deney veya istatistiksel model sunmak yerine sosyolojik bir kavramsal çerçeve önerir. Bu çerçeve, insanların ve AI ajanlarının birlikte oluşturduğu “Synthetic Social Spaces” kavramı etrafında kurulur. Türkçeye “sentetik sosyal alanlar” olarak çevrilebilecek bu kavram, insanların rol üstlenen AI sistemleriyle tekrar eden etkileşimlerde bulunduğu dijital sosyal ortamları ifade eder.

Bu alanlarda AI ajanı yalnızca bilgi sağlayıcı değildir. Kullanıcıyla ilişki kurar, beklenti üretir, ton belirler, güven inşa etmeye çalışır, bazen otorite kullanır ve bazen hatasını onarmak zorunda kalır. Bu yüzden çalışma, AI ajanlarının sosyal işleyişini dört temel operasyonla açıklar.

Birinci operasyon, kullanıcının altında yatan amacı anlamaktır. Kullanıcı “neden kötü uyudum?” diye sorduğunda yalnızca veri açıklaması istemiyor olabilir; belki de yaşadığı stresin görülmesini ve sakinleştirici bir yanıt bekliyordur. AI ajanı, kullanıcının açık talebiyle örtük ihtiyacı arasındaki farkı okuyamazsa teknik olarak ilgili ama sosyal olarak yanlış bir yanıt verebilir.

İkinci operasyon, otoriteyi ayarlamaktır. Bir AI ajanı bazen öğretmen, bazen danışman, bazen koç, bazen yardımcı gibi davranır. Fakat bu rollerin her biri farklı yetki sınırlarına sahiptir. Sistem gereğinden fazla kesin konuşursa kullanıcı kendini baskı altında hissedebilir. Sürekli çekingen ve belirsiz konuşursa bu kez işe yaramaz hale gelebilir.

Üçüncü operasyon, tonu ve etkileşim tarzını yönetmektir. Kullanıcı öfkeliyken neşeli bir motivasyon dili, kullanıcı kaygılıyken aşırı klinik bir ton veya kullanıcı kırılmışken otomatik “yardımcı olayım” kalıbı sosyal uyumu bozabilir. Ton, yalnızca kelime seçimi değildir; etkileşimin hangi ilişki içinde gerçekleştiğini gösteren sosyal bir işarettir.

Dördüncü operasyon, kopmaları onarmaktır. İnsanlar da birbirini yanlış anlar; fakat sosyal ilişkiler, özür, açıklama, yeniden hizalanma ve güven tamiri gibi onarım pratikleriyle sürdürülebilir. AI ajanı hata yaptığında veya kullanıcı kendini yanlış anlaşılmış hissettiğinde, sistemin bunu fark edip doğru biçimde onarması gerekir. Genel geçer bir özür veya kullanıcıyı suçlar gibi görünen açıklama, kopmayı daha da büyütebilir.

Formüller Ne Anlatıyor?

Çalışmada matematiksel formül, istatistiksel model veya deneysel denklem bulunmamaktadır. Metin, kavramsal ve sosyolojik bir çerçeve önerir. Bu nedenle aktarılacak orijinal MathJax formülü yoktur.

Yine de çalışmanın ana mantığı sade bir süreç ilişkisiyle şöyle özetlenebilir:

Bu ifade çalışmada birebir formül olarak yer almaz; kavramsal çerçevenin okuyucu tarafından daha kolay anlaşılması için hazırlanmış editoryal bir özetlemedir.

Çalışmanın uyardığı başarısızlık durumu ise şöyle gösterilebilir:

Bu sade ifade, metnin ana iddiasını açıklar: AI ajanı olgusal olarak doğru yanıt üretse bile, sosyal rolü yanlış oynuyorsa etkileşim başarısız olabilir.

Grafik, Tablo ve Şema Ana Mesajı

Çalışmanın kavramsal omurgası, AI ajanlarını “çıktı üreten araç” olarak değil, sosyal karşılaşmaya giren rol taşıyıcı aktörler olarak düşünmektir. Bu bakışta bir ajan, yalnızca kullanıcının sorusunu cevaplamaz; aynı zamanda bir sosyal durumun içine girer. Kullanıcı onu danışman, koç, öğretmen, arkadaş, uzman veya yardımcı gibi konumlandırabilir.

“Social Fit” kavramı, ajanın girdiği sosyal ortamı uygun biçimde taşıyabilme derecesini anlatır. Bir sağlık koçu, kullanıcının kırılganlığını fark etmeli; bir eğitim ajanı, öğrencinin hangi anda açıklama istediğini, hangi anda teşvike ihtiyaç duyduğunu ayırabilmelidir. Bir finansal danışmanlık ajanı ise belirsizlik, risk ve korku içeren bir konuşmada aşırı kesinlikten kaçınmalıdır.

“Interaction Failure” kavramı, teknik hatadan farklı bir bozulma türünü tanımlar. Sistem halüsinasyon üretmemiş olabilir, toksik dil kullanmamış olabilir, görev tamamlanmış bile olabilir. Buna rağmen kullanıcı, sistemin sosyal duruma uygun davranmadığını hissedebilir. Bu durumda sorun çıktı doğruluğunda değil, etkileşimin ilişki düzeyinde yanlış kurulmasındadır.

Çerçevenin dört operasyonu, AI ajanının sosyal rol başarısını anlamak için bir tür mercek sunar. Kullanıcı ne arıyor? Ajan hangi otoriteyle konuşuyor? Ton, durumla uyumlu mu? Hata olduğunda sistem ilişkiyi onarabiliyor mu? Bu sorular, klasik yapay zekâ değerlendirmelerinde çoğu zaman görünmeyen bir başarısızlık sınıfını görünür hale getirir.

Oura Advisor örneği bu açıdan açıklayıcıdır. Kullanıcılar yalnızca verinin yanlışlığından şikâyet etmez; sistemin onları nasıl konumlandırdığına, nasıl konuştuğuna ve sonrasında yaşanan kopmayı nasıl onaramadığına tepki verir. “AI gaslighting” gibi sosyal dille ifade edilen tepki, insanların bu sistemleri yalnızca araç olarak değil, sosyal karşılaşma tarafı olarak deneyimlediğini gösterir.

Deneyler Nasıl Yapılmış?

Bu çalışma klasik anlamda deneysel bir araştırma değildir. Belirli bir veri seti, istatistiksel test veya model performans ölçümü sunmaz. Bunun yerine Oura Advisor, Noom AI Coach ve Khanmigo gibi örneklerden hareketle rol üstlenen AI ajanlarının etkileşim içinde nasıl başarısız olabildiğini sosyolojik kavramlarla açıklar.

Metin, Erving Goffman, Harold Garfinkel, Berger ve Luckmann, Harvey Sacks, Emanuel Schegloff, Sherry Turkle ve Lucy Suchman gibi sosyal etkileşim, gündelik hayat, konuşma analizi ve insan-makine ilişkileri üzerine çalışan düşünürlerden yararlanır. Bu teorik arka plan, AI ajanlarının sosyal karşılaşma içindeki rolünü anlamak için kullanılır.

Çalışmanın yöntemi, teknik sistem incelemesinden çok kavramsal ayrıştırmaya dayanır. Önce mevcut insan-makine etkileşimi yaklaşımlarının sınırı gösterilir. Ardından AI ajanlarının yeni bir sosyal durum ürettiği savunulur. Son olarak bu sosyal durumu değerlendirmek için Social Fit, Interaction Failure ve dört etkileşimsel operasyon kavramları önerilir.

Bu nedenle çalışma, “AI ajanı yüzde kaç başarılı?” sorusuna yanıt vermez. Bunun yerine daha temel bir soru sorar: Bir AI ajanı insanlara ait sosyal bir rolü üstlendiğinde, hangi tür sosyal yeterliliklere ihtiyaç duyar?

Sonuçlar Ne Gösteriyor?

Çalışmanın ilk sonucu, AI ajanlarının yalnızca araç olarak ele alınmasının yetersiz olduğudur. Koç, danışman, öğretmen veya refakatçi gibi roller üstlenen sistemler, kullanıcı tarafından sosyal bir taraf gibi deneyimlenir. Bu durum, değerlendirme ölçütlerinin de değişmesini gerektirir.

İkinci sonuç, teknik doğruluğun sosyal başarı için yeterli olmadığıdır. Bir yanıt doğru, güvenli ve ilgili olabilir; fakat yine de kullanıcının içinde bulunduğu sosyal duruma yanlış düşebilir. Bu tür bozulma, halüsinasyon veya toksisite gibi klasik AI hatalarıyla açıklanamaz.

Üçüncü sonuç, “Social Fit” kavramının kritik hale gelmesidir. AI ajanı, rolünü ve bulunduğu sosyal alanı doğru okuyabiliyorsa etkileşim daha sürdürülebilir hale gelir. Kullanıcının amacını anlayamıyor, otoritesini yanlış kullanıyor, tonu ayarlayamıyor veya kopmaları onaramıyorsa etkileşim başarısız olur.

Dördüncü sonuç, onarım kapasitesinin güven için merkezi olduğudur. İnsanlar makinelerin hata yapabileceğini kabul edebilir; fakat hata sonrası sistemin kullanıcı deneyimini küçümsemesi, yanlış anlaması veya genel bir özürle geçiştirmesi güveni daha fazla zedeleyebilir. Sosyal ilişkilerde olduğu gibi sentetik sosyal alanlarda da güven, yalnızca hatasızlıkla değil, hatadan sonra doğru onarımla kurulur.

Beşinci sonuç, bu alanın yeni bir sosyoloji gerektirdiğidir. AI ajanları yaygınlaştıkça, insanlar bu sistemlerle yalnızca bilgi alışverişi yapmayacak; tavsiye, rehberlik, motivasyon, yakınlık, disiplin, öğrenme ve destek ilişkileri kuracaktır. Bu ilişkileri anlamak için teknik performans ölçümlerinin yanında sosyal etkileşim ölçütlerine ihtiyaç vardır.

Bu Neden Önemli?

AI ajanları sağlık, eğitim, finans, müşteri hizmetleri, iş koçluğu ve kişisel gelişim gibi alanlara girdikçe, insanlarla kurdukları ilişki daha hassas hale geliyor. Bu sistemler bazen kullanıcının kaygısını, bazen başarısızlık hissini, bazen ekonomik korkusunu, bazen yalnızlık veya motivasyon ihtiyacını karşılıyor gibi davranıyor. Böyle durumlarda yanlış ton, yanlış otorite veya yetersiz onarım ciddi kullanıcı tepkileri doğurabilir.

Bu çalışma, yapay zekâ değerlendirmesinde eksik kalan bir alanı görünür kılıyor. Bugün birçok sistem “doğru cevap verdi mi?”, “zararlı içerik üretti mi?”, “görevi tamamladı mı?” sorularıyla ölçülüyor. Oysa rol üstlenen ajanlar için ek sorular gerekir: Kullanıcıyı doğru anladı mı? Kendi sınırını bildi mi? O an için uygun tonda konuştu mu? Hata sonrası güveni onarabildi mi?

Bu yaklaşım ürün tasarımı için de önemlidir. Bir AI sağlık koçu, finans danışmanı veya eğitim asistanı geliştirirken yalnızca bilgi tabanı ve güvenlik filtresi kurmak yetmez. Sistemin sosyal rol sınırları, ton geçişleri, kullanıcı beklentileri, kriz anları ve onarım protokolleri de tasarlanmalıdır.

Toplumsal açıdan bakıldığında ise mesele daha büyüktür. İnsanlar makineleri sosyal rol sahibi aktörler gibi deneyimlemeye başladığında, sosyal hayatın bir kısmı sentetik aktörlerle birlikte kurulmaya başlar. Bu, yalnızca teknoloji değil, yeni bir toplumsal ilişki biçimidir.

Dikkat Noktaları

İlk dikkat noktası, çalışmanın kavramsal niteliğidir. Metin, geniş ölçekli ampirik veri analizi sunmaz. Bu nedenle önerilen kavramlar, ölçülmüş nihai sonuçlar gibi değil; yeni bir araştırma alanı için kurucu çerçeve olarak değerlendirilmelidir.

İkinci dikkat noktası, AI ajanlarına sosyal rol atfetmenin karmaşık sonuçlarıdır. Kullanıcıların sistemleri sosyal aktör gibi deneyimlemesi gerçek bir toplumsal olgudur; fakat bu, sistemlerin insan gibi bilinçli, niyetli veya ahlaki özne olduğu anlamına gelmez. Sosyal deneyim ile teknik gerçeklik birbirine karıştırılmamalıdır.

Üçüncü dikkat noktası, güven meselesidir. AI ajanı sosyal olarak uyumlu konuştuğunda kullanıcı güveni artabilir; fakat bu güven bazen aşırı bağımlılık veya yetkiyi fazla büyütme riski doğurabilir. Özellikle sağlık, finans, eğitim ve psikolojik destek alanlarında sınırlar açık olmalıdır.

Dördüncü dikkat noktası, onarımın manipülasyona dönüşme riskidir. Bir sistem hatasını kabul etmek yerine kullanıcıyı yatıştıran ama sorunu görünmez kılan bir dil kullanırsa, bu sosyal uyum değil, güven aşınması yaratır. Gerçek onarım; hatayı tanıma, sorumluluk sınırını açıklama ve beklentiyi yeniden kurma gerektirir.

Son olarak, bu içerik teknik ürün tavsiyesi veya hukuki/etik uyum rehberi değildir. Rol üstlenen AI sistemleri tasarlanırken disiplinler arası değerlendirme, kullanıcı güvenliği, veri koruma, şeffaflık ve insan denetimi birlikte ele alınmalıdır.

Sonuç

Bu çalışma, yapay zekâ ajanlarını anlamak için önemli bir yön değişikliği öneriyor. AI ajanları artık yalnızca komut alan ve çıktı veren araçlar değildir. Birçok alanda koç, danışman, öğretmen, rehber veya refakatçi gibi sosyal roller üstlenmektedir. Bu roller, beraberinde sosyal beklentiler getirir.

Çalışmanın ana mesajı nettir: AI ajanının başarısı yalnızca ne söylediğiyle değil, içinde bulunduğu sosyal durumu nasıl taşıdığıyla da ilgilidir. Doğru bilgi, yanlış tonla verildiğinde kullanıcıyı kaybettirebilir. Yararlı tavsiye, yanlış otoriteyle sunulduğunda baskıcı görünebilir. Hata, doğru onarılmazsa güveni kalıcı biçimde zedeleyebilir.

Verianla açısından bu çalışmanın değeri, yapay zekâ tartışmasını teknik doğruluğun ötesine taşımasıdır. Geleceğin AI sistemleri yalnızca daha doğru cevaplar üretmekle değil; insanlarla girdikleri sentetik sosyal alanlarda daha anlaşılır, sınırını bilen, tonu ayarlı ve onarım yapabilen aktörler gibi tasarlanmakla değerlendirilecek.

Kaynak ve Yöntem Notu

Bu içerik, Sudhir Venkatesh tarafından hazırlanan “Interactional AI: Agent Encounters in Synthetic Social Space” başlıklı kavramsal çalışmaya dayalı olarak hazırlanmıştır. Çalışma; AI ajanları, sentetik sosyal alanlar, sosyal uyum, etkileşim başarısızlığı ve rol üstlenen makinelerin sosyolojik anlamı üzerine teorik bir çerçeve önermektedir.

Bu içerik birebir çeviri değildir; çalışmanın ana fikri Verianla yayın çizgisine uygun biçimde sadeleştirilmiş ve özgün Türkçe editoryal makaleye dönüştürülmüştür.