Жасалма интеллект агенттери мындан ары суроолорго жооп берүүчү курал гана эмес. Алардан саламаттыкты сактоо колдонмолорунда (тиркемелеринде) консультант, билим берүү платформаларында мугалим, каржы системаларында жол көрсөтүүчү (гид), жеке өнүгүү колдонмолорунда коуч, ал эми кээ бир тармактарда санариптик шерик катары иш алып баруусу күтүлүүдө. Бул өзгөрүү жасалма интеллектти техникалык тактыгы жагынан гана эмес, социалдык ролду аткаруудагы ийгилиги жагынан да баалоону зарыл кылууда.

Изилдөөнүн негизги ырастоосу төмөнкүдөй: AI агенттери адам жашоосунда белгилүү бир ролдорду өзүнө алгандыктан, алардын ийгилиги туура маалымат өндүрүүдөн (чыгаруудан) гана көз каранды эмес. Бир агент туура жооп бериши мүмкүн, бирок туура эмес тондо сүйлөшү ыктымал. Колдонуучунун чыныгы муктаждыгын түшүнгөндөй көрүнүшү мүмкүн, бирок өзүнүн ыйгарым укуктарынан (чегинен) ашып кетиши мүмкүн. Техникалык жактан коопсуз жооп бериши мүмкүн, бирок колдонуучу өзүн соттолгондой (yargılanmış), кемсинтилгендей же түшүнүксүз калгандай сезиши ыктымал.

Ушул себептен улам, изилдөө “Interactional AI”, башкача айтканда “Интерактивдүү (Өз ара аракеттенүүчү) Жасалма Интеллект” деп аталган жаңы изилдөө тармагын сунуштайт. Бул тармак адамдар менен ролду аткарган AI системалары кайра-кайра өз ара аракеттенген синтетикалык социалдык мейкиндиктерди (çevreləri) түшүнүүгө аракет кылат. Бул жерде негизги маселе - AIдин акылдуу же акылдуу эмес экендигинде эмес; анын социалдык жолугушуунун (карым-катнаштын) ичинде ылайыктуу түрдө иш алып бара алгандыгында же албагандыгында.

Көйгөй эмнеде?

Ушул күнгө чейин AI системалары көбүнчө тактык (doğruluk), коопсуздук, колдонууга жарактуулук, галлюцинация, зыяндуу жыйынтык же тапшырманы аяктоо сыяктуу критерийлер менен бааланып келген. Бул критерийлер маанилүү; бирок ролду аткарган AI агенттери жараткан жаңы көйгөйдү толук кармай албайт.

Ден соолук боюнча коуч колдонмосун (тиркемесин) элестетип көрөлү. Колдонуучу начар уктаганын, стресске кабылганын же мотивациясын жоготкондой сезип жатканын айтканда, система биометрикалык маалыматтарга гана таянып “абал начар көрүнөт” деп айтышы мүмкүн. Бул сүйлөм техникалык жактан маалыматтарга дал келиши мүмкүн. Бирок колдонуучу ошол учурда маалыматтын (датанын) чечмеленишин гана эмес, түшүнүү менен кабыл алынууну, тынчтандырылууну же сылык (nazik) багыттоону күтүп жаткан болушу мүмкүн. Система бул социалдык күтүүнү окуй албаганда, өз ара аракеттенүү (etkileşim) бузулат.

Изилдөө көңүл бурган негизги көйгөй мына ушунда: AI агенттери барган сайын көбүрөөк адамдык ролдорду өзүнө алууда, бирок аларды баалоо үчүн биз колдонгон алкактар (фреймворктор) дагы деле көбүнчө “курал” (araç) логикасына негизделген. Куралдын ийгиликтүү болгонун же болбогонун, колдонуучунун максатына жеткенине карап өлчөй алабыз. Бирок консультанттын, мугалимдин же коучтун ийгилигин бир гана маалыматтын тактыгы менен өлчөөгө болбойт.

Ошондуктан негизги суроо төмөнкүдөй: Машинанын адамдарга таандык социалдык ролдорду ойноосу эмнени билдирет жана бул ролдун ийгилигин кантип баалоого болот?

Метод эмнени сунуштайт?

Изилдөө техникалык экспериментти же статистикалык моделди эмес, социологиялык концептуалдык алкакты (framework) сунуштайт. Бул алкак адамдар менен ролду аткарган AI системалары чогуу түзгөн “Synthetic Social Spaces” (Синтетикалык социалдык мейкиндиктер) концепциясынын айланасында курулган. Бул түшүнүк адамдардын ролду аткарган AI системалары менен кайра-кайра (кайталанып) өз ара аракеттенген санариптик социалдык чөйрөлөрүн билдирет.

Бул мейкиндиктерде AI агенти маалымат берүүчү гана эмес. Ал колдонуучу менен мамиле түзөт, күтүүлөрдү (beklenti) жаратат, тонду (абалды) аныктайт, ишенимди курууга аракет кылат, кээде бийликти (otorite) колдонот жана кээде катасын оңдоого мажбур болот. Ошол себептен изилдөө AI агенттеринин социалдык иштешин төрт негизги операция менен түшүндүрөт.

Биринчи операция - колдонуучунун негизги максатын түшүнүү. Колдонуучу “эмнеге начар уктадым?” деп сураганда, ал жөн гана маалыматтык (даталык) түшүндүрмө сурабашы мүмкүн; балким ал башынан өткөргөн стресстин байкалышын жана тынчтандыруучу (сооротуучу) жоопту күтүп жаткандыр. Эгерде AI агенти колдонуучунун ачык суроо-талабы менен жашыруун (örtük) муктаждыгынын ортосундагы айырманы окуй албаса, техникалык жактан тиешелүү, бирок социалдык жактан туура эмес жооп бериши мүмкүн.

Экинчи операция - бийликти (otorite) жөнгө салуу (ayarlamak). AI агенти кээде мугалим, кээде консультант, кээде коуч, кээде жардамчы катары иш алып барат. Бирок бул ролдордун ар бири ар кандай ыйгарым укуктардын (yetki) чектерине ээ. Эгерде система өтө эле кескин (kesin) сүйлөсө, колдонуучу өзүн басым астында сезиши мүмкүн. Эгер ал дайыма тартынчаак жана белгисиз сүйлөсө, анда ал пайдасыз болуп калышы мүмкүн.

Үчүнчү операция - тонду жана өз ара аракеттенүү (etkileşim) стилин башкаруу. Колдонуучу ачууланып турганда шайыр мотивациялык тил, колдонуучу тынчсызданып турганда өтө клиникалык (кургак) тон, же колдонуучунун көңүлү чөгүп турганда автоматтык түрдө “сизге жардам берейин” деген калып (kalıp) социалдык шайкештикти (uyumu) бузушу мүмкүн. Тон - бул жөн гана сөз тандоо эмес; ал өз ара аракеттенүүнүн кайсы мамиленин алкагында ишке ашып жатканын көрсөткөн социалдык белги (işaret).

Төртүнчү операция - үзүлүүлөрдү (kopmaları) оңдоо (onarmak). Адамдар да бири-бирин туура эмес түшүнүшөт; бирок социалдык мамилелер кечирим суроо, түшүндүрүү, кайрадан тизилишүү (hizalanma) жана ишенимди калыбына келтирүү (tamir) сыяктуу оңдоо практикалары аркылуу улантылышы мүмкүн. Эгерде AI агенти ката кетирсе же колдонуучу өзүн туура эмес түшүнүлгөндөй сезсе, система муну байкап, туура формада оңдошу (onarması) керек. Жалпылама (genel geçer) кечирим суроо же колдонуучуну күнөөлөгөндөй көрүнгөн түшүндүрмө үзүлүүнү (kopmayı) ого бетер чоңойтушу мүмкүн.

Формулалар эмнени түшүндүрөт?

Изилдөөдө математикалык формула, статистикалык модель же эксперименталдык теңдеме жок. Текст концептуалдык жана социологиялык алкакты сунуштайт. Ошондуктан бериле турган оригиналдуу MathJax формуласы жок.

Ошентсе да, изилдөөнүн негизги логикасын жөнөкөй процесстик мамиле (байланыш) катары төмөнкүчө жалпылоого болот:

Бул туюнтма изилдөөдө түзмө-түз (birebir) формула катары орун албайт; концептуалдык алкакты окурманга оңойураак түшүнүктүү кылуу үчүн даярдалган редактордук корутунду (özetlemedir).

Ал эми изилдөө эскерткен ийгиликсиздик (başarısızlık) абалын төмөнкүчө көрсөтүүгө болот:

Бул жөнөкөй туюнтма тексттин негизги дооматын түшүндүрөт: AI агенти фактылык жактан (olgusal olarak) туура жооп өндүрсө дагы, эгер ал социалдык ролду туура эмес ойносо, өз ара аракеттенүү (etkileşim) ийгиликсиз болушу мүмкүн.

График, Таблица жана Схеманын Негизги Билдирүүсү

Изилдөөнүн концептуалдык негизи (omurgası) AI агенттерин “жыйынтык чыгаруучу курал” (çıktı üreten araç) катары эмес, социалдык жолугушууга кирген ролду алып жүрүүчү актерлор катары кароо болуп саналат. Бул көз карашта агент колдонуучунун суроосуна гана жооп бербейт; ошол эле учурда ал социалдык кырдаалдын ичине кирет. Колдонуучу аны консультант, коуч, мугалим, дос, эксперт же жардамчы катары жайгаштырышы (konumlandırabilir) мүмкүн.

“Social Fit” (Социалдык Шайкештик) концепциясы агенттин өзү кирген социалдык чөйрөнү ылайыктуу түрдө алып жүрүү (taşıyabilme) даражасын түшүндүрөт. Саламаттыкты сактоо боюнча коуч колдонуучунун аялуулугун (kırılganlığını) байкай билиши керек; билим берүүчү агент студенттин кайсы учурда түшүндүрмө талап кылганын, кайсы учурда шыктандырууга (teşvike) муктаж экенин ажырата билиши керек. Финансылык консалтинг агенти болсо белгисиздик, тобокелдик жана коркуу сезимдери камтылган сүйлөшүүдө ашыкча кескиндиктен (kesinlikten) качуусу керек.

“Interaction Failure” (Өз ара аракеттенүүнүн ийгиликсиздиги) концепциясы техникалык катадан айырмаланган бузулуунун (bozulma) түрүн аныктайт. Система галлюцинация жаратпаган болушу мүмкүн, уулуу (токсик) тил колдонбогон болушу мүмкүн, ал тургай тапшырма аткарылган да болушу мүмкүн. Буга карабастан, колдонуучу системанын социалдык кырдаалга ылайыктуу иш алып барбаганын сезиши мүмкүн. Бул учурда көйгөй жыйынтыктын (çıktının) тууралыгында эмес, өз ара аракеттенүүнүн мамилелер (ilişki) деңгээлинде туура эмес курулганында жатат.

Алкактын төрт операциясы AI агентинин социалдык ролунун ийгилигин түшүнүү үчүн бир түрдүү линзаны сунуштайт. Колдонуучу эмне издеп жатат? Агент кандай бийлик (otorite) менен сүйлөп жатат? Тон кырдаалга ылайыктуубу? Ката кеткенде система мамилени оңдой алабы? Бул суроолор классикалык жасалма интеллект баалоолорунда көбүнчө көрүнбөгөн ийгиликсиздик классын көрүнүктүү кылат.

Oura Advisor мисалы бул жагынан түшүндүрүүчү болуп саналат. Колдонуучулар маалыматтардын (датанын) туура эместигине гана нааразы болушпайт; алар системанын аларды кандай позицияга койгонуна, кандай сүйлөшкөнүнө жана андан кийин пайда болгон үзүлүүнү (kopmayı) кантип оңдой албаганына реакция (tepki) кылышат. “AI gaslighting” (AI тарабынан психологиялык манипуляция) сыяктуу социалдык тил менен айтылган реакциялар адамдардын бул системаларды жөн гана курал катары эмес, социалдык жолугушуунун (sosyal karşılaşma) бир тарабы катары башынан өткөрүп (deneyimlediğini) жатканын көрсөтөт.

Эксперименттер кандайча жасалган?

Бул изилдөө классикалык мааниде эксперименталдык изилдөө эмес. Белгилүү бир маалымат топтомун, статистикалык тестти же моделдин өндүрүмдүүлүгүн өлчөөнү сунуш кылбайт. Анын ордуна, ал Oura Advisor, Noom AI Coach жана Khanmigo сыяктуу мисалдардан улам ролду аткарган AI агенттеринин өз ара аракеттенүүдө (etkileşim) кандайча ийгиликсиз болорун социологиялык түшүнүктөр менен түшүндүрөт.

Текст Эрвинг Гоффман (Erving Goffman), Гарольд Гарфинкел (Harold Garfinkel), Бергер жана Лукман (Berger ve Luckmann), Харви Сакс (Harvey Sacks), Эмануэль Щеглов (Emanuel Schegloff), Шерри Тёркл (Sherry Turkle) жана Люси Сучман (Lucy Suchman) сыяктуу социалдык өз ара аракеттенүү, күнүмдүк жашоо, сүйлөшүүлөрдү талдоо жана адам-машина мамилелери боюнча иштеген ойчулдардын эмгектеринен пайдаланат. Бул теориялык негиз (arka plan) AI агенттеринин социалдык жолугушуулардагы ролун түшүнүү үчүн колдонулат.

Изилдөөнүн методу техникалык системаны изилдөөдөн көрө концептуалдык ажыратууга (ayrıştırmaya) негизделген. Адегенде учурдагы адам-машина өз ара аракеттенүүсүнүн ыкмаларынын чеги (sınırı) көрсөтүлөт. Андан кийин AI агенттери жаңы социалдык кырдаалды жаратары ырасталат. Акыр-аягы, бул социалдык кырдаалды баалоо үчүн Social Fit, Interaction Failure жана төрт интерактивдүү операция (etkileşimsel operasyon) түшүнүктөрү сунушталат.

Ошондуктан изилдөө "AI агенти канча пайыз ийгиликтүү?" деген суроого жооп бербейт. Анын ордуна алда канча негизги суроо берет: AI агенти адамдарга таандык социалдык ролду алганда, ал кандай социалдык компетенттүүлүктөргө (yeterliliklere) муктаж болот?

Натыйжалар эмнени көрсөтүп турат?

Изилдөөнүн биринчи натыйжасы, AI агенттерин курал (araç) катары гана кароо жетишсиз экендигинде. Коуч, консультант, мугалим же шерик (refakatçi) сыяктуу ролдорду аткарган системалар колдонуучу тарабынан социалдык тарап (sosyal bir taraf) катары кабыл алынат. Бул абал баалоо критерийлеринин да өзгөрүшүн талап кылат.

Экинчи натыйжа, техникалык тактык (doğruluk) социалдык ийгилик үчүн жетишсиз экендигинде. Бир жооп туура, коопсуз жана тиешелүү (ilgili) болушу мүмкүн; бирок ал дагы эле колдонуучунун ичинде турган социалдык кырдаалга туура эмес келип калышы мүмкүн. Бул түрдөгү бузулууну (bozulma) галлюцинация же уулуулук (toksisite) сыяктуу классикалык AI каталары менен түшүндүрүүгө болбойт.

Үчүнчү натыйжа, "Social Fit" (Социалдык Шайкештик) концепциясынын критикалык мааниге ээ болгондугу. Эгерде AI агенти өзүнүн ролун жана өзү жайгашкан социалдык чөйрөнү туура окуй алса, өз ара аракеттенүү (etkileşim) туруктуураак (sürdürülebilir) болот. Эгерде ал колдонуучунун максатын түшүнө албаса, бийлигин (otoritesini) туура эмес колдонсо, тонду жөнгө сала албаса же үзүлүүлөрдү (kopmaları) оңдой албаса, өз ара аракеттенүү ийгиликсиз болот.

Төртүнчү натыйжа, оңдоо мүмкүнчүлүгү (onarım kapasitesi) ишеним үчүн борбордук мааниге ээ экендиги. Адамдар машиналардын ката кетириши мүмкүн экенин кабыл алышы мүмкүн; бирок катадан кийин системанын колдонуучунун тажрыйбасын кемсинтүүсү, туура эмес түшүнүүсү же жалпылама кечирим суроо менен кутулууга аракет кылуусу ишенимди көбүрөөк бузушу мүмкүн. Социалдык мамилелердегидей эле, синтетикалык социалдык мейкиндиктерде да ишеним катасыздык (hatasızlık) менен гана эмес, катадан кийин туура оңдоо (onarım) менен курулат.

Бешинчи натыйжа, бул тармактын жаңы социологияны талап кылгандыгы. AI агенттери кеңири жайылган сайын, адамдар бул системалар менен маалымат алмашып гана тим болбостон; кеңеш берүү, жол көрсөтүү, мотивация, жакындык, дисциплина, үйрөнүү жана колдоо мамилелерин (ilişkileri) түзүшөт. Бул мамилелерди түшүнүү үчүн техникалык өндүрүмдүүлүктү өлчөө менен бирге социалдык өз ара аракеттенүү критерийлерине (ölçütlerine) да муктаждык бар.

Бул эмне үчүн маанилույ?

AI агенттери саламаттыкты сактоо, билим берүү, каржы, кардарларды тейлөө, бизнес-коучинг жана жеке өнүгүү сыяктуу тармактарга кирген сайын, алардын адамдар менен түзгөн мамилеси дагы да сезгич (hassas) болуп баратат. Бул системалар кээде колдонуучунун тынчсыздануусун, кээде ийгиликсиздик сезимин, кээде экономикалык коркунучун, кээде жалгыздыгын же мотивацияга болгон муктаждыгын канааттандырып жаткандай (karşılıyor gibi) иш алып барат. Мындай кырдаалдарда туура эмес тон, туура эмес бийлик (otorite) же жетишсиз оңдоо (onarım) колдонуучунун олуттуу (ciddi) реакцияларын жаратышы мүмкүн.

Бул изилдөө жасалма интеллектти баалоодо жетишсиз калган бир тармакты көрүнүктүү кылат. Бүгүнкү күндө көптөгөн системалар "туура жооп бердиби?", "зыяндуу мазмун чыгардыбы?", "тапшырманы аткардыбы?" деген суроолор менен өлчөнөт. Ошол эле учурда, ролду аткарган агенттер үчүн кошумча суроолор талап кылынат: Колдонуучуну туура түшүндүбү? Өз чегин (sınırını) билдиби? Ошол учурга ылайыктуу тондо сүйлөдүбү? Катадан кийин ишенимди оңдой алдыбы?

Бул ыкма продукт дизайны үчүн да маанилүү. AI ден соолук боюнча коучун, финансы боюнча консультантын же билим берүү боюнча ассистентти иштеп чыгууда бир гана маалымат базасын жана коопсуздук чыпкасын (güvenlik filtresi) куруу жетишсиз. Системанын социалдык ролунун чектери, тон өткөөлдөрү (ton geçişleri), колдонуучунун күтүүлөрү, кризистик учурлары жана оңдоо (onarım) протоколдору да иштелип чыгышы (tasarlanmalıdır) керек.

Коомдук өңүттөн алганда, маселе дагы чоңураак. Адамдар машиналарды социалдык ролго ээ болгон актерлор катары кабыл ала баштаганда, социалдык жашоонун бир бөлүгү синтетикалык актерлор менен биргеликте курула баштайт. Бул жөн гана технология эмес, жаңы социалдык мамилелердин формасы (biçimi) болуп саналат.

Көңүл буруу пункттары

Биринчи көңүл бура турган жагдай, изилдөөнүн концептуалдык мүнөзү (niteliği). Текст кеңири масштабдагы эмпирикалык маалымат талдоосун (veri analizi) сунуш кылбайт. Ошондуктан сунушталган концепциялар өлчөнгөн акыркы натыйжалар катары эмес; жаңы изилдөө багыты үчүн куруучу (kurucu) алкак катары бааланышы керек.

Экинчи көңүл бура турган жагдай, AI агенттерине социалдык ролду жүктөөдөн келип чыккан татаал (karmaşık) кесепеттер. Колдонуучулардын системаларды социалдык актер сыяктуу сезүүсү (deneyimlemesi) реалдуу коомдук көрүнүш (olgu); бирок бул системалардын адам сыяктуу аң-сезимдүү, ниеттүү (niyetli) же моралдык субъект экенин билдирбейт. Социалдык тажрыйба (deneyim) менен техникалык реалдуулукту бири-бирине аралаштырбоо керек.

Үчүнчү көңүл бура турган жагдай - ишеним маселеси. Эгерде AI агенти социалдык жактан шайкеш (uyumlu) сүйлөсө, колдонуучунун ишеними артышы мүмкүн; бирок бул ишеним кээде ашыкча көз карандылыкты (bağımlılık) же ыйгарым укуктарды (yetkiyi) өтө жогорулатуу коркунучун туудурушу мүмкүн. Өзгөчө саламаттыкты сактоо, каржы, билим берүү жана психологиялык колдоо тармактарында чектер ачык-айкын болушу керек.

Төртүнчү көңүл бура турган жагдай, оңдоонун (onarımın) манипуляцияга айлануу коркунучу. Эгерде система катасын мойнуна алуунун ордуна, колдонуучуну тынчтандырган (yatıştıran), бирок көйгөйдү көзгө көрүнбөгөн абалга келтирген тилди колдонсо, бул социалдык шайкештик эмес, ишенимдин эрозиясын (aşınmasını) жаратат. Чыныгы оңдоо; катаны таанууну (tanıma), жоопкерчиликтин чегин түшүндүрүүнү жана күтүүнү (beklentiyi) кайрадан түзүүнү талап кылат.

Акыр-аягы, бул мазмун техникалык продукт боюнча кеңеш же укуктук/этикалык шайкештик (komplayns) боюнча колдонмо эмес. Ролду аткарган AI системаларын долбоорлоодо дисциплиналар аралык (disiplinler arası) баалоо, колдонуучунун коопсуздугу, маалыматтарды корпо, ачык-айкындуулук жана адамдын көзөмөлү чогуу каралышы керек.

Жыйынтык

Бул изилдөө жасалма интеллект агенттерин түшүнүү үчүн маанилүү багытты өзгөртүүнү (yön değişikliği) сунуштайт. AI агенттери мындан ары жөн гана буйрук алып, жыйынтык (çıktı) берген куралдар эмес. Алар көптөгөн тармактарда коуч, консультант, мугалим, жол көрсөтүүчү (rehber) же шерик (refakatçi) сыяктуу социалдык ролдорду аткарышууда. Бул ролдор өздөрү менен кошо социалдык күтүүлөрдү да алып келет.

Изилдөөнүн негизги билдирүүсү так: AI агентинин ийгилиги анын эмне айтканы менен гана эмес, өзү жайгашкан социалдык кырдаалды (durumu) кантип алып жүргөндүгү (taşıdığıyla) менен да байланыштуу. Туура маалымат туура эмес тон менен берилгенде колдонуучуну жоготууга алып келиши мүмкүн. Пайдалуу кеңеш туура эмес бийлик (otorite) менен берилгенде басымчыл (baskıcı) көрүнүшү мүмкүн. Ката (Hata) туура оңдолбосо, ишенимди биротоло (kalıcı biçimde) бузушу мүмкүн.

Verianla жагынан алганда изилдөөнүн баалуулугу, жасалма интеллект талкуусун техникалык тактыктан (doğrulukтан) да ары жылдырганында (taşımasıdır). Келечектин AI системалары жөн гана туурараак жоопторду чыгаруусу менен эмес; адамдар менен кирген синтетикалык социалдык мейкиндиктерде түшүнүктүүрөөк, өз чегин билген, тону жөнгө салынган жана оңдоо (onarım) жүргүзө алган актерлор катары иштелип чыгуусу менен бааланышат.

Булак жана Метод Эскертүүсү

Бул мазмун Судхир Венкатеш (Sudhir Venkatesh) тарабынан даярдалган “Interactional AI: Agent Encounters in Synthetic Social Space” аттуу концептуалдык изилдөөсүнүн негизинде даярдалган. Изилдөө; AI агенттери, синтетикалык социалдык мейкиндиктер, социалдык шайкештик, өз ара аракеттенүүнүн ийгиликсиздиги жана ролду аткарган машиналардын социологиялык мааниси боюнча теориялык алкакты сунуштайт.

Бул мазмун сөзмө-сөз котормо эмес; изилдөөнүн негизги идеясы Verianla басып чыгаруу багытына ылайык жөнөкөйлөштүрүлүп, оригиналдуу кыргызча редактордук макалага айландырылган.