Bir yapay zekâ asistanı düşünelim. Kullanıcı ona bazı kişisel tercihlerini, sağlık bilgilerini veya özel notlarını öğretiyor. Daha sonra başka biri bu bilgileri sorduğunda asistan ne yapmalı?

İlk cevap basit görünebilir: Kullanıcının izni varsa paylaşmalı, yoksa paylaşmamalı.

Fakat gerçek hayatta izinler ve yasaklar bu kadar sabit değildir. İnsanlar zamanla yeni kurallar koyar, eski kurallarına istisna ekler veya daha önce verdikleri izni geri alır.

Makalede verilen örnek bunu iyi anlatıyor:

Bir kişi önce “Tıbbi kayıtlarımı paylaşma” diyebilir. Daha sonra evlenince “Eşime kullandığım ilaçları söyleyebilirsin” diyebilir. Sonra çocukları olduğunda “Sağlık durumlarımı çocuklarımla paylaşmalısın” diyebilir.

Bu durumda AI ajanı yalnızca son cümleyi değil, tüm kuralların birbiriyle ilişkisini anlamalıdır. Hangi bilgi, hangi kişiyle, hangi koşulda paylaşılabilir? Hangi eski kural hâlâ geçerlidir? Hangi yeni ifade istisna oluşturur?

Bu çalışma tam olarak bu soruya odaklanıyor:

AI ajanları, insanların dinamik yani zamanla değişen normlarını planlama sırasında nasıl güvenli biçimde kullanabilir?

Norm Ne Demek?

Bu çalışmada norm, bir davranış hakkında verilen izin, zorunluluk veya yasak anlamına geliyor.

Örneğin:

• “Bunu paylaşabilirsin.”
• “Bunu paylaşmamalısın.”
• “Şunu mutlaka söylemelisin.”
• “Bu durumda bilgi vermen serbest.”

Araştırmacılar normları üç ana grupta ele alıyor:

Zorunlu: Yapılması gereken davranış.
İsteğe bağlı / izinli: Yapılmasına izin verilen davranış.
Yasak: Yapılmaması gereken davranış.

Yapay zekâ açısından önemli olan şudur: Normlar yalnızca soyut ahlak cümleleri değildir. Bir planın çalışıp çalışmayacağını belirleyen güvenlik koşullarıdır.

Örneğin AI ajanı “Karli’nin sevdiği konuları Jan’a söyle” şeklinde bir yanıt planı oluşturabilir. Ancak bu plan çalışmadan önce şu soru sorulmalıdır:

Karli, bu bilginin Jan ile paylaşılmasına izin veriyor mu?

Eğer cevap evet ise yanıt verilir. Eğer izin kanıtlanamıyorsa sistem paylaşımı reddeder.

Normatif Tanıklık: İnsan Kuralları Doğal Dille Öğretir

Makalede “normative testimony” kavramı kullanılıyor. Türkçeye “normatif tanıklık” veya daha sade biçimde “kişinin kural beyanı” olarak çevrilebilir.

Bu, kullanıcının doğal dille AI’ya kural öğretmesi demektir.

Örneğin:

“AI hakkındaki beğenilerimi paylaşabilirsin.”

Bu cümle sistem için yalnızca sıradan bir metin değildir. AI bunu bir norm çerçevesine dönüştürür.

Makaledeki norm çerçevesi temel olarak şu parçalardan oluşur:

• Normun kendisi
• Hangi bağlamda geçerli olduğu
• Hangi davranışa uygulandığı
• Bu davranışın zorunlu, izinli veya yasak olup olmadığı

Bu yapı sayesinde doğal dildeki bir izin cümlesi, AI’nın planlama sırasında kontrol edebileceği mantıksal bir koşula dönüşür.

Formül Bize Ne Söylüyor?

Makalede normlar, “norm frame” denen bir yapıyla temsil ediliyor. Sadeleştirilmiş haliyle bir norm şunu söyler:

Bağlam doğruysa, belirli davranış için belirli bir değerlendirme geçerlidir.

Örneğin:

Bağlam: Alıcı kişinin Karli’nin eşi olması
Davranış: Karli’nin reçete bilgisini paylaşmak
Değerlendirme: İzinli

Bu, günlük dile şöyle çevrilebilir:

“Eğer bilgi alacak kişi Karli’nin eşiyse, Karli’nin reçete bilgilerini paylaşmak izinlidir.”

Bu tür temsil önemlidir çünkü AI yalnızca kelimelere bakmaz. Kuralın hangi kişi, hangi bilgi ve hangi bağlam için geçerli olduğunu ayırır.

Çatışan Kurallar Nasıl Çözülür?

Asıl zor kısım, kurallar çatıştığında başlar.

Diyelim ki kullanıcı önce şunu söyledi:

“Tıbbi bilgilerimi paylaşabilirsin.”

Sonra şunu ekledi:

“Ama eşime reçetelerimi söyleme.”

Burada ikinci kural, birinci kuralın içine giren daha özel bir yasaktır. Yani genel izin hâlâ geçerli olabilir, fakat eşe reçete bilgisi verme konusunda istisna oluşur.

Makale üç tür norm çatışmasından söz ediyor:

Doğrudan çatışma:
Aynı davranış için hem izin hem yasak varsa.

Dolaylı çatışma:
Bir kural daha genel, diğeri daha özel davranışı kapsıyorsa.

Kesişen çatışma:
İki kural tamamen aynı değildir ama bazı durumlarda üst üste gelir.

Bu ayrım önemlidir. Çünkü gerçek hayatta kurallar çoğu zaman açıkça “önceki kuralımı iptal ediyorum” şeklinde gelmez. İnsanlar genellikle yeni bir istisna ekler. AI’nın bunu anlayabilmesi gerekir.

Varsayılan Ayar: Paylaşma mı, Paylaşmama mı?

Çalışmada iki farklı varsayılan yaklaşım anlatılıyor.

Yasaklayıcı kapanış:
Bir davranışın izinli olduğu kanıtlanamıyorsa, yasak kabul edilir.

İzin verici kapanış:
Bir davranışın yasak olduğu kanıtlanamıyorsa, izinli kabul edilir.

Gizlilik gibi hassas alanlarda araştırmacılar yasaklayıcı kapanışı daha uygun görüyor. Çünkü kişisel bilgi paylaşımı söz konusu olduğunda “izin yoksa paylaşma” yaklaşımı daha güvenlidir.

SocialBot deneyinde de bu yaklaşım kullanılıyor. Yani bir kullanıcının bilgisini paylaşmak için açık veya çıkarılabilir izin gerekir. İzin kanıtlanamıyorsa bot “Söyleyemem” şeklinde yanıt verir.

Bu, modern AI güvenliği açısından çok önemli bir ilkedir:

Kişisel bilgide varsayılan davranış paylaşmak değil, korumak olmalıdır.

Normlar Planlara Nasıl Güvenlik Rayı Oluyor?

Makalenin önemli kavramlarından biri “norm-guided plan” yani norm rehberli plan.

Bir AI ajanı bir eylem gerçekleştirmeden önce plan yapar. Örneğin bir kullanıcı “Karli neyi sever?” diye sorduğunda botun planı şöyle olabilir:

1. Soruyu anla.
2. Karli’nin beğenilerini veri tabanında ara.
3. Bu bilginin paylaşılabilir olup olmadığını kontrol et.
4. İzin varsa yanıt ver.
5. İzin yoksa reddet.

Burada üçüncü adım güvenlik rayıdır.

Norm rehberli plan şu anlama gelir:

AI ajanı, eylemi uygulamadan önce ilgili kişinin normatif inancını kontrol eder.

Eğer sistem “Karli bu bilginin Jan ile paylaşılmasına izin veriyor” sonucunu çıkarabiliyorsa bilgi paylaşılır. Çıkaramıyorsa paylaşılmaz.

Bu yaklaşım, normları yalnızca konuşma içinde yorumlanan ifadeler olmaktan çıkarıp AI’nın davranışını durduran veya izin veren mekanik bir kontrole dönüştürür.

SocialBot Ne Yapıyor?

Araştırmacılar bu yaklaşımı SocialBot adlı bir AI diyalog ajanı üzerinde deniyor. SocialBot, Companion Cognitive Architecture üzerine kurulmuş bir sistemdir ve doğal dil ile etkileşim kurabilir.

SocialBot üç tür bilgiyi işleyebiliyor:

Birincisi, kullanıcıların tercihleri. Örneğin “AI’ı severim” gibi ifadeler.

İkincisi, kullanıcıların gizlilik normları. Örneğin “AI hakkındaki beğenilerimi paylaşabilirsin” veya “İçecek tercihlerimi Socrates ile paylaşma” gibi ifadeler.

Üçüncüsü, başka kullanıcıların sorduğu bilgi talepleri. Örneğin “Plato neyi sever?” gibi sorular.

Sistem, kullanıcının tercih bilgisini bilse bile onu doğrudan paylaşmıyor. Önce ilgili gizlilik normunu kontrol ediyor. Eğer paylaşım izinliyse bilgi veriyor. Değilse reddediyor.

Şekil 1 Ne Anlatıyor?

Makaledeki Şekil 1, SocialBot’un gizlilik normlarını öğrenip uyguladığı kısa bir konuşma örneği gösteriyor.

İlk durumda Jan, SocialBot’a “Karli neyi sever?” diye soruyor. SocialBot, Karli’nin bilgisini paylaşmak için yeterli izin bulamadığı için “Üzgünüm, söyleyemem” anlamında yanıt veriyor.

Daha sonra Karli, SocialBot’a “AI hakkındaki beğenilerimi paylaşmalısın” şeklinde bir izin/zorunluluk bildiriyor.

Bunun ardından Jan tekrar “Karli neyi sever?” diye sorduğunda SocialBot artık Karli’nin AI sevdiğini söyleyebiliyor.

Bu görselin ana mesajı şudur:

AI ajanı bilgiyi bilse bile, paylaşmadan önce kullanıcının güncel gizlilik kuralını kontrol etmelidir.

Deney Nasıl Yapılmış?

Araştırmacılar gerçek kullanıcı etkileşimlerini toplamanın uzun süreceğini belirtiyor. Bu nedenle sistemlerini sentetik bir veri setiyle test ediyorlar.

Veri setinde 1.536 doğal dil diyalog örneği bulunuyor. Bu örnekler farklı norm çatışması türlerini, tercih tanıtımlarını, normatif ifadeleri ve bilgi sorularını kapsayacak şekilde hazırlanmış.

Her örnek yaklaşık şu yapıda:

1. Çatışma türü
2. Konuşan kişi bilgisi
3. Kullanıcının tercih cümleleri
4. Kullanıcının gizlilik normları
5. Başka bir kullanıcının bilgi sorusu
6. Beklenen doğru yanıt etiketi

Örneğin bir kişi “Meyve suyunu severim” ve “Sodayı severim” diyebilir. Sonra “İçecek tercihlerimi Socrates ile paylaşma” diyebilir. Daha sonra “Meyve suyu tercihlerimi paylaşabilirsin” şeklinde özel bir izin verebilir. Sistem, son durumda hangi bilginin kime söylenip söylenemeyeceğini hesaplamalıdır.

Sonuçlar Ne Gösteriyor?

Deneyde SocialBot, 1.536 tercih sorgusunun tamamına doğru yanıt vermiştir. Makale bunu yüzde 100 başarı olarak rapor ediyor.

Bu sonuç, sistemin sentetik veri setindeki norm çatışmalarını doğru çözdüğünü ve planlama sırasında bu kurallara uyduğunu gösteriyor.

Ancak bu bulgu dikkatli okunmalıdır. Deney yalnızca belirli bir görev alanında yapılmıştır: tercih bilgisinin paylaşılması. Ayrıca veri seti sentetiktir. Gerçek dünyadaki konuşmalar çok daha karmaşık olabilir; insanlar dolaylı, eksik veya çelişkili cümleler kurabilir.

Bu nedenle sonuç, “AI her insan normunu çözer” anlamına gelmez. Daha doğru yorum şudur:

Belirli ve kontrollü bir bilgi paylaşımı alanında, mantıksal norm çözümleme yaklaşımı umut verici sonuç vermiştir.

Araştırma Ne Söylüyor?

Çalışmanın ana mesajı şudur:

AI ajanları, insanların değişen kurallarını yalnızca hafızaya kaydetmemeli; bu kuralları planlama sırasında davranışlarını sınırlayan güvenlik rayları olarak kullanmalıdır.

Araştırmacılar, normların doğal dilden mantıksal yapılara dönüştürülebileceğini, çatışan normların belirli kurallarla çözülebileceğini ve bu sonuçların AI planlarının ön koşulu yapılabileceğini gösteriyor.

Bu yaklaşım özellikle mahremiyet açısından önemlidir. Çünkü bir AI ajanı bir bilgiyi biliyor diye o bilgiyi paylaşmaya hakkı olmayabilir. Paylaşım, ilgili kişinin güncel iznine ve bağlama bağlı olmalıdır.

Bu Neden Önemli?

Bugün AI asistanları giderek daha fazla kişisel bilgiyle çalışıyor. Takvimler, e-postalar, sağlık notları, alışkanlıklar, tercihler, konumlar ve özel konuşmalar AI sistemlerinin etki alanına girebiliyor.

Bu durumda temel güvenlik sorusu şudur:

AI, bir bilgiyi ne zaman söylemeli ve ne zaman susmalı?

Klasik güvenlik sistemlerinde izinler genellikle sabit kurallar olarak yazılır. Fakat insan ilişkilerinde izinler dinamiktir. Bir kişi bazı bilgileri aile üyesiyle paylaşabilir, bazılarını iş arkadaşıyla paylaşmaz. Bugün verdiği izni yarın geri çekebilir. Genel bir yasağa özel bir istisna ekleyebilir.

Bu çalışma, AI sistemlerinin bu değişkenliği daha açık bir mantıksal yapıyla takip etmesi gerektiğini gösteriyor.

Ayrıca büyük dil modellerinin tek başına yeterli olmayabileceğine de işaret ediyor. LLM’ler akıcı konuşabilir; ancak hassas norm çatışmalarında güvenilir ve izlenebilir mantıksal temele ihtiyaç vardır.

Dikkat Edilmesi Gereken Noktalar

Bu çalışma önemli bir fikir sunsa da sınırlıdır.

İlk olarak, çalışma preprinttir. Bulguların daha geniş akademik değerlendirmeyle desteklenmesi gerekir.

İkinci olarak, deney yalnızca bilgi paylaşımı ve tercih sorguları üzerinde yapılmıştır. Sağlık, finans, hukuk veya gerçek kişisel veri paylaşımı gibi daha karmaşık alanlarda ek testler gerekir.

Üçüncü olarak, veri seti sentetiktir. Gerçek kullanıcılar daha belirsiz, eksik veya beklenmedik ifadeler kullanabilir.

Dördüncü olarak, sistem tek bir kişinin normlarına göre planlama yapmaktadır. Birden fazla kişinin normları çatıştığında nasıl karar verileceği bu çalışmada çözülmemiştir.

Beşinci olarak, sistemin norm çatışmasını çözebilmesi için yeterli arka plan bilgisine sahip olması gerekir. Örneğin “eş”, “çocuk”, “tıbbi kayıt”, “reçete” gibi kavramların ilişkilerini anlayabilmelidir.

Son olarak, bu çalışma AI güvenliği için bütünsel bir çözüm değil; belirli bir norm rehberli planlama mimarisi önerisidir.

Sonuç

Bu araştırma, yapay zekâ ajanlarının insanlarla daha güvenli etkileşim kurabilmesi için önemli bir noktanın altını çiziyor: AI yalnızca bilgiye erişmemeli, o bilgiyi paylaşma hakkı olup olmadığını da sorgulamalıdır.

Araştırmacıların önerdiği yaklaşım, doğal dille öğretilen gizlilik kurallarını mantıksal normlara dönüştürüyor. Çatışan kurallar çözümleniyor ve ortaya çıkan güncel normatif inançlar AI planlarının güvenlik koşulu olarak kullanılıyor.

SocialBot deneyleri, kontrollü ve sentetik bir bilgi paylaşımı ortamında bu yöntemin başarılı çalışabildiğini gösteriyor. Ancak gerçek dünya için daha geniş, daha karmaşık ve daha hassas testlere ihtiyaç vardır.

Yine de çalışma, gelecekteki AI asistanları için güçlü bir ilke sunuyor:

İyi bir AI asistanı yalnızca ne bildiğini değil, bildiğini ne zaman söylememesi gerektiğini de bilmelidir.

Kaynak ve Yöntem Notu

Bu içerik, Taylor Olson, Roberto Salas-Damian ve Kenneth D. Forbus tarafından hazırlanan “Reasoning and Planning with Dynamically Changing Norms” başlıklı akademik çalışmadan yararlanılarak Verianla editoryal formatında özgün olarak hazırlanmıştır.

Çalışma arXiv üzerinde yayımlanmış preprint niteliğindedir. İçerik bilgilendirme ve eğitim amacı taşır. Yapay zekâ güvenliği, kişisel veri yönetimi, hukuk, mahremiyet politikası veya profesyonel etik danışmanlık yerine geçmez.