Агентҳои зеҳни сунъӣ дигар танҳо абзорҳое нестанд, ки ба саволҳо ҷавоб медиҳанд. Аз онҳо интизор меравад, ки дар барномаҳои тандурустӣ ҳамчун мушовир, дар платформаҳои таълимӣ ҳамчун омӯзгор, дар низомҳои молиявӣ ҳамчун роҳнамо, дар барномаҳои рушди шахсӣ ҳамчун мураббӣ ва дар баъзе соҳаҳо ҳамчун ҳамроҳи рақамӣ амал кунанд. Ин тағйирот зарурати арзёбии зеҳни сунъиро на танҳо аз рӯйи дурустии техникӣ, балки аз рӯйи муваффақияти нақши иҷтимоӣ низ ба миён меорад.

Даъвои асосии таҳқиқот чунин аст: ҳангоме ки агентҳои AI дар зиндагии инсон нақшҳои муайянро ба уҳда мегиранд, муваффақияти онҳо танҳо ба тавлиди иттилои дуруст вобаста нест. Агент метавонад ҷавоби дуруст диҳад, аммо бо оҳанги номуносиб сухан гӯяд. Метавонад чунин намояд, ки ниёзи воқеии корбарро мефаҳмад, аммо аз ҳудуди ваколати худ берун равад. Метавонад ҷавоби аз ҷиҳати техникӣ бехатар пешниҳод кунад, аммо корбар худро доваришуда, таҳқиршуда ё нафаҳмида эҳсос намояд.

Аз ин рӯ, таҳқиқот соҳаи нави омӯзиширо бо номи “Interactional AI”, яъне “Зеҳни сунъии интераксионӣ” пешниҳод мекунад. Ин соҳа мекӯшад фазоҳои иҷтимоии синтетикиеро дарк кунад, ки дар онҳо одамон ва низомҳои AI-и нақшдор пайдарпай бо ҳам تعامل мекунанд. Дар ин ҷо масъалаи асосӣ он нест, ки AI соҳибақл аст ё не; масъала он аст, ки оё он дар дохили вохӯрии иҷтимоӣ ба таври муносиб рафтор карда метавонад.

Мушкил дар чист?

То имрӯз низомҳои AI бештар аз рӯйи меъёрҳое чун дурустӣ, бехатарӣ, қобили истифода будан, галлюсинатсия, натиҷаи зараровар ё иҷрои вазифа арзёбӣ мешуданд. Ин меъёрҳо муҳиманд, аммо масъалаи наверо, ки агентҳои AI-и нақшдор ба вуҷуд меоранд, пурра фаро намегиранд.

Як барномаи мураббии тандурустиро тасаввур кунем. Вақте корбар мегӯяд, ки хуб хоб накардааст, стресс дорад ё ҳавасмандии худро аз даст додааст, низом метавонад танҳо ба маълумоти биометрӣ нигоҳ карда бигӯяд: “вазъият бад менамояд”. Ин ҷумла аз ҷиҳати техникӣ метавонад бо маълумот мувофиқ бошад. Аммо корбар дар он лаҳза шояд на танҳо тафсири маълумот, балки фаҳмида шудан, ором карда шудан ё роҳнамоии мулоимро интизор бошад. Вақте низом ин интизории иҷтимоиро хонда наметавонад, ҳамкорӣ вайрон мешавад.

Мушкилоти асосие, ки таҳқиқот ба он ишора мекунад, ҳамин аст: агентҳои AI торафт бештар нақшҳои инсониро ба уҳда мегиранд, аммо чаҳорчӯбаҳое, ки мо барои арзёбии онҳо истифода мебарем, ҳанӯз ҳам асосан ба мантиқи “абзор” такя мекунанд. Муваффақияти абзорро метавон аз рӯйи он чен кард, ки корбар ба ҳадаф расид ё не. Аммо муваффақияти мушовир, омӯзгор ё мураббиро танҳо бо дурустии иттилоот чен кардан мумкин нест.

Аз ин рӯ, саволи асосӣ чунин аст: барои мошин иҷро кардани нақшҳои иҷтимоии хоси одамон чӣ маъно дорад ва муваффақияти ин нақшро чӣ гуна метавон арзёбӣ кард?

Усул чӣ пешниҳод мекунад?

Таҳқиқот ба ҷойи озмоиши техникӣ ё модели оморӣ як чаҳорчӯбаи консептуалии сотсиологиро пешниҳод мекунад. Ин чаҳорчӯба атрофи мафҳуми “Synthetic Social Spaces” сохта шудааст. Ин мафҳум, ки онро метавон “фазоҳои иҷтимоии синтетикӣ” тарҷума кард, муҳитҳои иҷтимоии рақамиро ифода мекунад, ки дар онҳо одамон бо низомҳои AI-и нақшдор ба таври такрорӣ ҳамкорӣ мекунанд.

Дар чунин фазоҳо агенти AI танҳо таъминкунандаи иттилоот нест. Он бо корбар муносибат месозад, интизорӣ ба вуҷуд меорад, оҳангро муайян мекунад, мекӯшад эътимод созад, баъзан аз нуфуз истифода мебарад ва баъзан маҷбур мешавад хатои худро ислоҳ кунад. Аз ҳамин сабаб таҳқиқот фаъолияти иҷтимоии агентҳои AI-ро бо чор амалиёти асосӣ шарҳ медиҳад.

Амалиёти аввал фаҳмидани ҳадафи аслии корбар аст. Вақте корбар мепурсад: “чаро ман бад хобидам?”, шояд ӯ танҳо шарҳи маълумотро нахоҳад; мумкин аст мехоҳад стресси худро дидашуда ҳис кунад ва ҷавоби оромбахш гирад. Агар агенти AI фарқи байни дархости ошкор ва ниёзи пинҳонии корбарро дарк карда натавонад, метавонад ҷавобе диҳад, ки аз ҷиҳати техникӣ мувофиқ, вале аз ҷиҳати иҷтимоӣ нодуруст аст.

Амалиёти дуюм танзими сатҳи нуфуз аст. Агенти AI баъзан ҳамчун омӯзгор, баъзан мушовир, баъзан мураббӣ ва баъзан ёвар амал мекунад. Аммо ҳар яке аз ин нақшҳо ҳудуди гуногуни ваколат доранд. Агар низом аз ҳад қатъӣ сухан гӯяд, корбар метавонад худро зери фишор эҳсос кунад. Агар ҳамеша тардиднок ва номуайян бошад, ин дафъа метавонад бефоида гардад.

Амалиёти сеюм идора кардани оҳанг ва тарзи ҳамкорӣ аст. Забони аз ҳад шодонаи ҳавасмандкунанда ҳангоми хашми корбар, оҳанги аз ҳад клиникӣ ҳангоми изтироби корбар ё қолаби худкори “биёед кумак кунам” ҳангоми ранҷидани корбар метавонад мутобиқати иҷтимоиро вайрон кунад. Оҳанг танҳо интихоби калимаҳо нест; он нишонаи иҷтимоиест, ки нишон медиҳад ҳамкорӣ дар дохили чӣ гуна муносибат сурат мегирад.

Амалиёти чорум ислоҳи кандашавиҳо аст. Одамон низ якдигарро нодуруст мефаҳманд; аммо муносибатҳои иҷтимоӣ бо амалияҳои ислоҳӣ чун узрхоҳӣ, шарҳ, ҳамоҳангсозии дубора ва барқарор кардани эътимод идома меёбанд. Вақте агенти AI хато мекунад ё корбар худро нодуруст фаҳмидашуда ҳис мекунад, низом бояд инро дарк карда ба таври дуруст ислоҳ кунад. Узрхоҳии умумӣ ё шарҳе, ки ба айбдор кардани корбар монанд аст, метавонад кандашавиро боз ҳам амиқтар кунад.

Формулаҳо чӣ мегӯянд?

Дар таҳқиқот формулаи математикӣ, модели оморӣ ё муодилаи таҷрибавӣ вуҷуд надорад. Матн як чаҳорчӯбаи консептуалӣ ва сотсиологиро пешниҳод мекунад. Аз ин рӯ, формулаи аслии MathJax барои интиқол вуҷуд надорад.

Бо вуҷуди ин, мантиқи асосии таҳқиқотро метавон бо як робитаи соддаи равандӣ чунин ҷамъбаст кард:

Ин ифода дар таҳқиқот айнан ҳамчун формула мавҷуд нест; он ҷамъбасти редаксиониест, ки барои осонтар фаҳмидани чаҳорчӯбаи консептуалӣ аз ҷониби хонанда омода шудааст.

Ҳолати нокомие, ки таҳқиқот аз он ҳушдор медиҳад, метавонад чунин нишон дода шавад:

Ин ифодаи содда даъвои асосии матнро шарҳ медиҳад: ҳатто агар агенти AI ҷавоби аз ҷиҳати воқеият дуруст тавлид кунад, агар нақши иҷтимоии худро нодуруст иҷро намояд, ҳамкорӣ метавонад ноком шавад.

Паёми асосии графикҳо, ҷадвалҳо ва схемаҳо

Меҳвари консептуалии таҳқиқот ин аст, ки агентҳои AI на ҳамчун “абзори тавлидкунандаи натиҷа”, балки ҳамчун бозигарони нақшдор, ки ба вохӯрии иҷтимоӣ ворид мешаванд, баррасӣ шаванд. Дар ин нигоҳ агент на танҳо ба саволи корбар ҷавоб медиҳад; ҳамзамон ба як вазъияти иҷтимоӣ ворид мешавад. Корбар метавонад онро ҳамчун мушовир, мураббӣ, омӯзгор, дӯст, коршинос ё ёвар ҷой диҳад.

Мафҳуми “Social Fit” дараҷаеро тавсиф мекунад, ки агент то чӣ ҳад метавонад муҳити иҷтимоии воридшудаашро ба таври муносиб нигоҳ дорад. Мураббии тандурустӣ бояд осебпазирии корбарро дарк кунад; агенти таълимӣ бояд фарқ кунад, ки донишомӯз кай шарҳ мехоҳад ва кай ба ташвиқ ниёз дорад. Агенти машварати молиявӣ бошад, дар гуфтугӯе, ки номуайянӣ, хавф ва тарс дорад, бояд аз қатъияти аз ҳад зиёд худдорӣ кунад.

Мафҳуми “Interaction Failure” навъи вайроншавиеро муайян мекунад, ки аз хатои техникӣ фарқ мекунад. Низом шояд галлюсинатсия накарда бошад, забони заҳролуд истифода набурда бошад ва ҳатто вазифаро анҷом дода бошад. Бо вуҷуди ин, корбар метавонад ҳис кунад, ки низом ба вазъияти иҷтимоӣ мувофиқ рафтор накард. Дар ин ҳолат мушкил дар дурустии натиҷа не, балки дар тарзи нодуруст сохтани муносибат дар сатҳи ҳамкорӣ аст.

Чор амалиёти чаҳорчӯба барои фаҳмидани муваффақияти нақши иҷтимоии агенти AI як навъ линза пешниҳод мекунанд. Корбар чиро меҷӯяд? Агент бо кадом сатҳи нуфуз сухан мегӯяд? Оҳанг ба вазъият мувофиқ аст? Вақте хато рух медиҳад, низом метавонад муносибатро ислоҳ кунад? Ин саволҳо синфи нокомиро намоён мекунанд, ки дар арзёбиҳои классикии зеҳни сунъӣ аксар вақт дида намешавад.

Намунаи Oura Advisor аз ин ҷиҳат фаҳмост. Корбарон танҳо аз нодурустии маълумот шикоят намекунанд; онҳо ба он вокуниш нишон медиҳанд, ки низом онҳоро чӣ гуна ҷой медиҳад, чӣ гуна сухан мегӯяд ва кандашавии баъдиро чӣ гуна ислоҳ карда наметавонад. Вокунишҳое, ки бо истилоҳоти иҷтимоӣ чун “AI gaslighting” ифода мешаванд, нишон медиҳанд, ки одамон ин низомҳоро на танҳо ҳамчун абзор, балки ҳамчун тарафи вохӯрии иҷтимоӣ таҷриба мекунанд.

Таҷрибаҳо чӣ гуна гузаронида шудаанд?

Ин таҳқиқот ба маънои классикӣ таҳқиқоти таҷрибавӣ нест. Он маҷмӯи муайяни маълумот, санҷиши оморӣ ё ченаки иҷрои моделро пешниҳод намекунад. Ба ҷойи ин, бо такя ба намунаҳое чун Oura Advisor, Noom AI Coach ва Khanmigo, шарҳ медиҳад, ки агентҳои AI-и нақшдор чӣ гуна метавонанд дар ҷараёни ҳамкорӣ аз ҷиҳати иҷтимоӣ ноком шаванд.

Матн аз андешаҳои Erving Goffman, Harold Garfinkel, Berger ва Luckmann, Harvey Sacks, Emanuel Schegloff, Sherry Turkle ва Lucy Suchman, ки дар бораи ҳамкории иҷтимоӣ, зиндагии рӯзмарра, таҳлили гуфтугӯ ва муносибатҳои инсон-мошин кор кардаанд, истифода мебарад. Ин заминаи назариявӣ барои фаҳмидани нақши агентҳои AI дар дохили вохӯрии иҷтимоӣ истифода мешавад.

Усули таҳқиқот бештар ба ҷудокунии консептуалӣ такя мекунад, на ба таҳлили низоми техникӣ. Аввал маҳдудияти равишҳои мавҷудаи ҳамкории инсон-мошин нишон дода мешавад. Сипас иддао мешавад, ки агентҳои AI вазъияти нави иҷтимоӣ ба вуҷуд меоранд. Дар охир мафҳумҳои Social Fit, Interaction Failure ва чор амалиёти интераксионӣ барои арзёбии ин вазъияти иҷтимоӣ пешниҳод мешаванд.

Аз ин рӯ, таҳқиқот ба саволи “агенти AI чанд фоиз муваффақ аст?” ҷавоб намедиҳад. Ба ҷойи ин саволи асоситареро матраҳ мекунад: вақте агенти AI нақши иҷтимоии хоси одамонро ба уҳда мегирад, ба кадом навъ салоҳиятҳои иҷтимоӣ ниёз дорад?

Натиҷаҳо чӣ нишон медиҳанд?

Натиҷаи аввал ин аст, ки баррасии агентҳои AI танҳо ҳамчун абзор нокифоя мебошад. Низомҳое, ки нақшҳои мураббӣ, мушовир, омӯзгор ё ҳамроҳро иҷро мекунанд, аз ҷониби корбар ҳамчун як тарафи иҷтимоӣ таҷриба мешаванд. Ин ҳолат тағйир додани меъёрҳои арзёбиро низ талаб мекунад.

Натиҷаи дуюм ин аст, ки дурустии техникӣ барои муваффақияти иҷтимоӣ кофӣ нест. Ҷавоб метавонад дуруст, бехатар ва мувофиқ бошад, аммо ҳамзамон ба вазъияти иҷтимоии корбар нодуруст мувофиқат кунад. Ин гуна вайроншавиро бо хатогиҳои классикии AI, ба мисли галлюсинатсия ё заҳролудӣ, шарҳ додан мумкин нест.

Натиҷаи сеюм ин аст, ки мафҳуми “Social Fit” аҳамияти ҳалкунанда пайдо мекунад. Агар агенти AI нақш ва фазои иҷтимоии худро дуруст бихонад, ҳамкорӣ пойдортар мешавад. Агар ҳадафи корбарро нафаҳмад, нуфузи худро нодуруст истифода барад, оҳангро танзим карда натавонад ё кандашавиро ислоҳ накунад, ҳамкорӣ ноком мешавад.

Натиҷаи чорум ин аст, ки қобилияти ислоҳ барои эътимод аҳамияти марказӣ дорад. Одамон метавонанд қабул кунанд, ки мошинҳо хато мекунанд; аммо баъд аз хато, агар низом таҷрибаи корбарро камарзиш нишон диҳад, нодуруст фаҳмад ё бо узрхоҳии умумӣ аз масъала бигзарад, эътимод боз ҳам бештар осеб мебинад. Ҳамон гуна ки дар муносибатҳои иҷтимоӣ, дар фазоҳои иҷтимоии синтетикӣ низ эътимод танҳо аз беайбӣ не, балки аз ислоҳи дуруст баъд аз хато сохта мешавад.

Натиҷаи панҷум ин аст, ки ин соҳа ба як сотсиологияи нав ниёз дорад. Бо паҳн шудани агентҳои AI, одамон бо ин низомҳо на танҳо мубодилаи иттилоот, балки муносибатҳои машварат, роҳнамоӣ, ҳавасмандсозӣ, наздикӣ, интизом, омӯзиш ва дастгирӣ месозанд. Барои фаҳмидани ин муносибатҳо дар баробари ченакҳои техникии иҷро, ба меъёрҳои ҳамкории иҷтимоӣ низ ниёз ҳаст.

Чаро ин муҳим аст?

Ҳангоме ки агентҳои AI ба соҳаҳои тандурустӣ, маориф, молия, хидматрасонии муштариён, коучинги касбӣ ва рушди шахсӣ ворид мешаванд, муносибати онҳо бо одамон ҳассостар мегардад. Ин низомҳо баъзан чунин рафтор мекунанд, ки гӯё изтироби корбар, ҳисси нокомӣ, тарси иқтисодӣ, танҳоӣ ё ниёзи ӯ ба ҳавасмандиро посух медиҳанд. Дар чунин ҳолатҳо оҳанги нодуруст, нуфузи номуносиб ё ислоҳи нокифоя метавонад вокунишҳои ҷиддии корбарро ба вуҷуд оварад.

Ин таҳқиқот як бахши норасоро дар арзёбии зеҳни сунъӣ намоён мекунад. Имрӯз бисёр низомҳо бо саволҳое чун “ҷавоби дуруст дод?”, “мӯҳтавои зараровар тавлид кард?” ё “вазифаро анҷом дод?” чен карда мешаванд. Аммо барои агентҳои нақшдор саволҳои иловагӣ лозиманд: оё корбарро дуруст фаҳмид? Ҳудуди худро донист? Дар он лаҳза бо оҳанги мувофиқ сухан гуфт? Пас аз хато эътимодро барқарор карда тавонист?

Ин равиш барои тарҳи маҳсулот низ муҳим аст. Ҳангоми сохтани мураббии тандурустӣ, мушовири молиявӣ ё ёвари таълимии AI танҳо сохтани пойгоҳи дониш ва филтри бехатарӣ кофӣ нест. Ҳудуди нақши иҷтимоӣ, гузаришҳои оҳанг, интизориҳои корбар, лаҳзаҳои буҳрон ва протоколҳои ислоҳ низ бояд тарҳрезӣ шаванд.

Аз дидгоҳи иҷтимоӣ масъала боз ҳам калонтар аст. Вақте одамон мошинҳоро ҳамчун актёрҳои дорои нақши иҷтимоӣ таҷриба мекунанд, як қисми зиндагии иҷтимоӣ бо актёрҳои синтетикӣ ҳамроҳ сохта мешавад. Ин на танҳо технология, балки шакли нави муносибати иҷтимоӣ мебошад.

Нуктаҳои муҳими эҳтиёт

Нуктаи аввал хусусияти консептуалии таҳқиқот аст. Матн таҳлили васеи эмпирикиро пешниҳод намекунад. Аз ин рӯ, мафҳумҳои пешниҳодшуда бояд на ҳамчун натиҷаҳои ниҳоии ченшуда, балки ҳамчун чаҳорчӯбаи бунёдӣ барои соҳаи нави таҳқиқотӣ арзёбӣ шаванд.

Нуктаи дуюм паёмадҳои мураккаби нисбат додани нақши иҷтимоӣ ба агентҳои AI мебошад. Ин як воқеияти иҷтимоист, ки корбарон низомҳоро ҳамчун актёрҳои иҷтимоӣ таҷриба мекунанд; аммо ин маънои онро надорад, ки низомҳо мисли инсон шуурнок, қасдманд ё субъектҳои ахлоқӣ ҳастанд. Таҷрибаи иҷтимоӣ ва воқеияти техникӣ набояд омехта карда шаванд.

Нуктаи сеюм масъалаи эътимод аст. Вақте агенти AI аз ҷиҳати иҷтимоӣ мутобиқ сухан мегӯяд, эътимоди корбар метавонад афзоиш ёбад; аммо ин эътимод баъзан хатари вобастагии аз ҳад зиёд ё бузург нишон додани ваколатро ба вуҷуд меорад. Хусусан дар тандурустӣ, молия, маориф ва дастгирии равонӣ ҳудудҳо бояд равшан бошанд.

Нуктаи чорум хатари ба манипулятсия табдил ёфтани ислоҳ аст. Агар низом ба ҷойи эътирофи хато забоне истифода барад, ки корбарро ором кунад, аммо мушкилро пинҳон намояд, ин мутобиқати иҷтимоӣ нест, балки фарсудашавии эътимод аст. Ислоҳи воқеӣ эътирофи хато, шарҳи ҳудуди масъулият ва аз нав сохтани интизориро талаб мекунад.

Ниҳоят, ин мӯҳтаво тавсияи маҳсулоти техникӣ ё роҳнамои мутобиқати ҳуқуқӣ/ахлоқӣ нест. Ҳангоми тарҳрезии низомҳои AI-и нақшдор бояд арзёбии байнисоҳавӣ, амнияти корбар, ҳифзи маълумот, шаффофият ва назорати инсонӣ якҷо баррасӣ шаванд.

Хулоса

Ин таҳқиқот барои фаҳмидани агентҳои зеҳни сунъӣ тағйири муҳими самтро пешниҳод мекунад. Агентҳои AI дигар танҳо абзорҳое нестанд, ки фармон мегиранд ва натиҷа медиҳанд. Дар бисёр соҳаҳо онҳо нақшҳои иҷтимоии мураббӣ, мушовир, омӯзгор, роҳнамо ё ҳамроҳро ба уҳда мегиранд. Ин нақшҳо бо худ интизориҳои иҷтимоӣ меоранд.

Паёми асосии таҳқиқот равшан аст: муваффақияти агенти AI танҳо ба он вобаста нест, ки чӣ мегӯяд, балки ба он низ вобаста аст, ки вазъияти иҷтимоии худро чӣ гуна нигоҳ медорад. Иттилои дуруст, агар бо оҳанги нодуруст дода шавад, метавонад корбарро аз даст диҳад. Маслиҳати муфид, агар бо нуфузи нодуруст пешниҳод шавад, метавонад фишоровар намояд. Хато, агар дуруст ислоҳ нашавад, метавонад эътимодро ба таври доимӣ осеб диҳад.

Аз дидгоҳи Verianla, арзиши ин таҳқиқот дар он аст, ки баҳси зеҳни сунъиро аз доираи дурустии техникӣ берун мебарад. Низомҳои AI-и оянда на танҳо аз рӯйи тавлиди ҷавобҳои дақиқтар, балки аз рӯйи он низ арзёбӣ хоҳанд шуд, ки дар фазоҳои иҷтимоии синтетикие, ки бо одамон ворид мешаванд, то чӣ ҳад ҳамчун актёрҳои фаҳмо, ҳудудшинос, дорои оҳанги мувофиқ ва қодир ба ислоҳ тарҳрезӣ шудаанд.

Ёддошт оид ба манбаъ ва усул

Ин мӯҳтаво бар асоси таҳқиқоти консептуалии Sudhir Venkatesh бо унвони “Interactional AI: Agent Encounters in Synthetic Social Space” омода шудааст. Таҳқиқот дар бораи агентҳои AI, фазоҳои иҷтимоии синтетикӣ, мутобиқати иҷтимоӣ, нокомии ҳамкорӣ ва маънои сотсиологии мошинҳои нақшдор як чаҳорчӯбаи назариявӣ пешниҳод мекунад.

Ин мӯҳтаво тарҷумаи калима ба калима нест; ғояи асосии таҳқиқот мутобиқ ба хатти нашрии Verianla содда карда шуда, ба мақолаи аслии редаксионии тоҷикӣ табдил дода шудааст.