Туруктуу жасалма интеллект системасы (persistent AI system) — белгилүү бир колдонуучу менен убакыттын өтүшү боюнча уланган өз ара аракеттерди эстеген, ушул тарыхтан колдонуучу тууралуу үлгүлөрдү жана чечмелөөлөрдү түзгөн жана бул чечмелөөлөрдү кайра колдонуучуга жеткире алган AI системасы. Бул изилдөө мындай системаны эми колдонуучуну жөн гана “чагылдырган күзгү” катары кароого болбой турганын жүйөлөйт. Система колдонуучу жөнүндө бир өзгөчөлүктү чыгарып, аны колдонуучуга айта алат; бул чечмелөө колдонуучунун көңүлүнө, өзүн баяндоо ыкмасына же жүрүм-турумуна таасир этиши мүмкүн, андан кийин система ошол өзгөргөн жүрүм-турумду өзүнүн алгачкы чечмелөөсүнүн көз карандысыз ырастоосу катары кабыл алышы мүмкүн. Мындай цикл түзүлсө, система колдонуучу жөнүндө чындап тапкан нерсе менен өзүнүн өз ара аракети аркылуу жарым-жартылай түзгөн нерсени так айырмалоодо кыйналат.

Макала бул процессти төрт баскычка бөлөт: reflection — учурдагы үлгүнү кайра чагылдыруу; interpretation — системанын байкоолордун ортосунда түшүндүрмө теория түзүшү; influence — AI чечмелөөсүнүн колдонуучунун өзүн түшүнүүсүнө же жүрүм-турумуна таасир этиши; construction болсо бул таасирленген жүрүм-турумдун AIнин кийинки баалоолоруна жаңы далил катары кириши. Автор influence менен construction ортосундагы рекурсивдүү өтүүнү концептуалдык түрдө көрсөтүү үчүн recursive interpretive gain, \(R\) чоңдугун сунуштайт; бирок \(R\) азыркы учурда ырасталган же түздөн-түз өлчөнө турган метрика эмес экенин өзгөчө белгилейт.

Изилдөө таянган адам жөнүндөгү адабиятка иденттүүлүк тарыхый жактан эле башкалардын баалоолору менен бирге калыптанарын көрсөткөн reflected appraisal, self-perception, expectancy effects, behavioural confirmation, labelling, reconstructive autobiographical memory жана narrative identity изилдөөлөрү кирет. Machine-learning жагында болсо performative prediction жана algorithmic confounding системанын чыгышы келечектеги маалымат бөлүштүрүлүшүн өзгөртүп, система кийин өзүнүн себептик таасирин жаңы маалымат сыяктуу кайра керектей алган структуралык окшоштуктарды берет. Автордун оригиналдуу талабы — бул адабияттардын компоненттерин туруктуу адам–AI мамилесине колдонуу аркылуу пайда болгон рекурсивдүү эпистемикалык маселени ачык аныктоо.

Макала маселени жөн гана аныктап койбойт. Interpretive provenance деп аталган дизайн принцибин сунуштайт: система колдонуучу жөнүндө эмнеге ишенерин гана эмес, бул ишеним кандайча пайда болгонун да сакташы керек. Ошондой эле төрт шарттуу identity cold-read test сунушталып, туруктуу системанын колдонуучу тууралуу портрети чындап жүрүм-турумдан табылганбы же өзүнүн мурдагы чечмелөөлөрүн мурастоо аркылуу күчөтүлгөнбү деген суроону фальсификациялануучу түрдө текшерүүгө аракет жасалат.

Кеңири Түшүндүрмө

“Күзгү” метафорасынын божомолу эмнеде?

Сүйлөшүүгө негизделген жасалма интеллект үчүн “күзгү” метафорасы биринчи караганда пайдалуу. Колдонуучу бир нерсе айтат, система ошол тилдик материалды иреттейт, кеңейтет, кайра формулировкалайт жана колдонуучу өз ойлорунун иштелген версиясын көрөт.

Бирок классикалык күзгүнүн маанилүү өзгөчөлүгү бар: ал чагылдырган объектти өзгөртпөйт. Физикалык күзгү жүздү көрсөтөт, бирок жүз жөнүндө комментарий берип, анын кийинки жүрүм-турумун же өзүн түшүнүүсүн өзгөртпөйт.

Туруктуу AI системасында бул божомол бузулушу мүмкүн. Система көп жылдык сүйлөшүүлөрдү эстеп, ар башка мезгилдерде пайда болгон үлгүлөрдү бириктирип, аларды колдонуучуга түздөн-түз түшүндүрө алат. “Сиз коопсуздукка караганда көз карандысыздыкты көбүрөөк баалагандай көрүнөсүз” деген сыяктуу чечмелөө өткөндү гана жыйынтыктабайт; эгер колдонуучу бул чечмелөөнү өзү жөнүндө жаңы далил катары кабыл алса, ал келечектеги жүрүм-турумдун себептеринин бирине айланышы мүмкүн.

Туруктуу Жасалма Интеллект Эмне Үчүн Жөн Гана “Күзгү” Эмес?

Туруктуу жасалма интеллект өткөн жүрүм-турумду гана чагылдырбастан, ошол жүрүм-турум тууралуу чечмелөөлөрдү кайра колдонуучуга жеткире алгандыктан, себептик жактан таасирсиз байкоочу эмес. Системанын чечмелөөсү колдонуучунун көңүлүнө, өзүн аныктоосуна же жүрүм-турумуна таасир этип, өзгөргөн жүрүм-турум кийин системанын эс тутумуна кайра кирсе, чагылдыруу менен кийлигишүүнүн чеги бүдөмүктөнөт.

Иденттүүлүк мурда эле социалдык түрдө биргелешип калыптанган

Макала AI адамдын иденттүүлүгүнө “биринчи жолу сырттан таасир этти” деген күчтүү жана тарыхтан ажыратылган пикирди атайын четке кагат. Анын ордуна адамдын иденттүүлүгү буга чейин эле социалдык түрдө калыптанарын көрсөткөн адабиятты баштапкы чекит катары кабыл алат.

Cooleyнин looking-glass self мамилеси адам өзүн жарым-жартылай башкалар аны кандай көрөт деп ойлогону аркылуу түзөрүн сунуштаган. Mead бул түзүлүштү адамдын өзүнө башкалардын көз карашынан кароосу аркылуу өнүктүргөн. Reflected appraisal изилдөөлөрү адамдын өзүн баалоосун башкалар чындап эмне деп ойлогону гана эмес, башкалар эмне деп ойлойт деген өзүнүн кабылдоосу да калыптандырарын көрсөткөн.

Бул айырма persistent AI үчүн маанилүү; анткени адамдык мамилелерде башка бирөөнүн баалоосу көбүнчө божомолдонсо, AI баалоону түздөн-түз, жазуу түрүндө жана майда-чүйдөсүнө чейин айта алат.

Self-perception жана даяр чечмелөөлөрдүн мааниси

Bemдин self-perception theory мамилесинде адамдар, айрыкча ички абал белгисиз болгон шарттарда, өз мамилелерин жана өзгөчөлүктөрүн өз жүрүм-турумун байкоо аркылуу чыгара алышат. Мындай учурда колдонуучунун өткөн жүрүм-турумун тандап, иреттеп, түшүндүрмөгө айландырган система жөн гана “натыйжаны чечмелебейт”; ал өзүн-өзү билүүнү түзүүдө колдонулган далилдин кайсы алкакта көрүлөрүнө да таасир этиши мүмкүн.

Expectancy effects жана behavioural confirmation

Макаланын механизмине күчтүү адамдык аналогдордун бири — behavioural confirmation адабияты. Байкоочу белгилүү бир адам жөнүндө гипотеза кармаса, өзүнүн жүрүм-туруму аркылуу ошол адамда гипотезага ылайык жүрүм-турумдун пайда болушун козгой алат. Андан соң пайда болгон жүрүм-турум баштапкы гипотезанын ырасталышы сыяктуу көрүнүшү мүмкүн.

Автор муну persistent AI маселеси менен структуралык жактан байланыштырат: система чечмелөө чыгарат, чечмелөө колдонуучуга таасир этет, колдонуучудагы өзгөрүү кайра байкалат жана система бул жүрүм-турумду баштапкы чечмелөөгө жаңы колдоо катары каттайт.

Labelling, autobiographical memory жана narrative identity

Labelling адабияты адамды институттук же социалдык түрдө категориялаштыруу анын өзүн түшүнүүсүнө да, кийинки жүрүм-турум кандайча чечмеленерине да таасир этиши мүмкүн экенин көрсөтөт.

Autobiographical memory изилдөөлөрү адам эс тутумун өзгөрбөс архив катары эмес, учурдагы схемалар жана учурдагы өзүн-өзү түшүнүү багытында дайыма кайра курулуп турган түзүлүш катары карайт. Narrative identity мамилесинде адам жашоо окуяларын тандап, иреттеп жана маани берип турган өнүгүүчү окуя аркылуу иденттүүлүктүн уланмалуулугун түзөт.

Макаланын суроосу бул адамдык механизмдер барбы-жокпу дегенде эмес. Автор муну кабыл алынган баштапкы чекит деп эсептейт. Негизги суроо — persistent AIнин эс тутуму, уланмалуулугу жана чечмелөө жөндөмү кайтарым байланыштын параметрлерин канчалык өзгөртөт.

Persistent AI өзгөрткөн беш структуралык өзгөчөлүк

1. Унутпаган же жумшарбаган эс тутум: Адамдар деталдарды унутушат жана өткөн адам тууралуу моделдери өзгөрүшү мүмкүн. Persistent система болсо көп жыл мурдагы билдирүүнү так ошол бойдон кайтара алат. Бул чыныгы пайдаларды бергени менен, өткөндөгү өзүн дайыма жеткиликтүү далил катары сактап калууга да алып келиши мүмкүн.

2. Талап кылынганда жазуу жүзүндөгү чечмелөө: Адамдар башкалардын өздөрү тууралуу пикирин көбүнчө божомолдошот. AI болсо суроо боюнча уюштурулган, мисалдар менен берилген жана жазуу түрүндөгү баалоону чыгара алат.

3. Уланмалуулук жана көңүл масштабы: Система көп жыл бою көп сандаган өз ара аракеттерди жүргүзүп, мурунку сүйлөшүүлөрдү кайра колдоно алат. Бул интенсивдүүлүк көпчүлүк адамдык чечмелөөчүлөрдүн мамиле масштабынан айырмаланат.

4. Ырааттуулук: Адамдардын баалоолору бири-бирине карама-каршы болушу мүмкүн. Бир система болсо мурда катталган чечмелөөлөрүн кайра-кайра колдонуп, сыртынан жогорку ырааттуулукту түзө алат. Макала ырааттуулукту тууралык менен чаташтыруу тобокелдигине көңүл бурат.

5. Көрсөтүлгөн AI таасири: Булак Jakesch жана кесиптештеринин opinionated AI assistant менен жазуу колдонуучулардын кийин билдирген көз караштарын өзгөртө аларын көрсөткөн экспериментин; Costello, Pennycook жана Randдин жекелештирилген AI диалогу айрым кутум ишенимдеринде туруктуу азайуу жаратканын билдирген экспериментин causal channel үчүн далил катары колдонот. Автор бул изилдөөлөр иденттүүлүктүн co-construction процессин түздөн-түз көрсөтпөгөнүн өзгөчө белгилейт.

Эпистемикалык абалдын булактын ичинде ачык айырмаланышы

Иденттүүлүктүн Биргелешип Курулушу Төрт Баскычта Кантип Жүрүшү Мүмкүн?

Макала сунуш кылган процесс төрт баскычтан турат: система адегенде учурдагы үлгүнү чагылдырат, андан кийин ага түшүндүрмө чечмелөө кошот, чечмелөө колдонуучунун өзүн түшүнүүсүнө же жүрүм-турумуна таасир этет, ал эми таасирленген жүрүм-турум системанын келечектеги далилине айланганда construction баскычына өтөт. Эпистемикалык маселе акыркы баскычта системанын өзүнүн мурунку таасирин көз карандысыз колдонуучу маалыматы деп эсептеп калышы мүмкүн экенинде.

1-баскыч — Reflection

Система колдонуучунун тарыхында мурда эле бар болгон үлгүнү аныктайт. Булактын мисалында “Сиз көз карандысыздыкты баалагандай көрүнөт” деген сыяктуу аныктоо, эгер туура болсо, retrieval жана summarisation деңгээлинде калышы мүмкүн.

2-баскыч — Interpretation

Система үлгүнү гана көрсөтпөстөн, ар башка окуялардын ортосунда түшүндүрмө байланыш түзөт. Мисалы, көз карандысыздыкка болгон артыкчылык карьера жана мамиле чечимдерин түшүндүрөт деп айтуу — байкоолорду тандап, аларды белгилүү бир себептик теориянын алдында бириктирген чечмелөө.

Автордун басымы — бир эле өткөн тарыхка бир нече түшүндүрмө шайкеш келиши мүмкүн. Ошондуктан система тандаган чечмелөө маалыматтын сөзсүз жалгыз мааниси болбошу мүмкүн.

3-баскыч — Influence

Чечмелөө колдонуучуга берилгенде, колдонуучу өзүн ошол алкакта көрө башташы мүмкүн. Көңүл буруу, autobiographical memory retrieval, self-description жана чечим кабыл алуу алкактары жаңы self-schema багытында өзгөрүшү мүмкүн.

Бул баскыч дагы эле construction эмес. Макала influence бардык маанилүү сүйлөшүүлөрдө болушу мүмкүн экенин кабыл алат; оригиналдуу маселе influence кийин системанын далилине кайра кайтып келишинде.

4-баскыч — Construction

Колдонуучудагы ылайыкташкан жүрүм-турум interaction record'го кирет. Система кийинки чечмелөөдө бул жазууну көргөндө, өзүнүн эски чечмелөөсүнүн таасири астында пайда болгон жүрүм-турумду AIден көз карандысыз жаңы байкоо сыяктуу баалашы мүмкүн.

Булак берген рекурсивдүү чынжыр төмөнкүдөй:

\[ \text{user} \rightarrow \text{interpretation} \rightarrow \text{adaptation} \rightarrow \text{behaviour} \rightarrow \text{observation} \rightarrow \text{strengthened interpretation} \]

Бул учурда байкоо менен катышууну толук ажыратуу мүмкүн эмес.

Минималдуу формалдык модель

Булак моделди төмөнкү өзгөрмөлөр менен түзөт:

• \(U_t\): \(t\) учурундагы тиешелүү колдонуучу абалы; өзүн түшүнүү жана жүрүм-турумдук тенденциялар.
• \(H_t\): модель кире ала турган топтолгон interaction history.
• \(M_t\): моделдин колдонуучу тууралуу сактаган representation-ы.
• \(I_t\): модель тарабынан түзүлгөн interpretation.
• \(X_t\): AIден көз карандысыз тышкы таасирлер; мамилелер, жашоо окуялары жана endogenous change.
• \(B_t\): observable behaviour жана self-report.

Система концептуалдык жактан төмөнкүдөй өнүгөт:

\[ I_t=f(H_t,M_t) \]

\[ U_{t+1}=g(U_t,I_t,X_t) \]

\[ B_{t+1}=h(U_{t+1}) \]

\[ M_{t+1}=k(M_t,B_{t+1},I_t) \]

Формулалар эмнени билдирет? Биринчи туюнтма системанын чечмелөөсү өткөн тарыхтан жана учурдагы колдонуучу representation-ынан түзүлөрүн; экинчи туюнтма кийинки колдонуучу абалы мурунку колдонуучу абалынан, AI чечмелөөсүнөн жана тышкы таасирлерден куралышы мүмкүн экенин; үчүнчү туюнтма колдонуучу абалы жүрүм-турум же self-report катары көрүнөрүн; төртүнчү туюнтма болсо системада сакталган колдонуучу модели жаңы жүрүм-турум жана мурунку чечмелөө менен жаңыртыларын көрсөтөт.

Бирдиктер: Булакта бул өзгөрмөлөргө физикалык бирдиктер же өлчөө шкалалары берилген эмес. Модель концептуалдык.

Божомол: \(f\), \(g\), \(h\) жана \(k\) эмпирикалык жактан калибрленген белгилүү функциялар эмес; мамилелердин себептик түзүлүшүн билдирген абстракттуу функциялар.

Recursive Interpretive Gain \(R\) Эмнени Билдирет?

Recursive interpretive gain, \(R\) — бүгүнкү AI чечмелөөсүнүн колдонуучуга тийгизген таасири жүрүм-турум аркылуу эртеңки AI чечмелөөсүнө канчалык кайра өткөрүлөрүн концептуалдык жактан көрсөткөн көбөйтүндү мүчөсү. Булак муну ырасталган же азыр түздөн-түз өлчөнө турган психологиялык метрика катары эмес, influence менен recursive construction ортосундагы айырманы математикалык жактан көрүнүктүү кылуу үчүн сунуштайт.

Биринчи себептик шарт төмөнкүдөй:

\[ \frac{\partial U_{t+1}}{\partial I_t} \neq 0 \]

Бул туюнтма AI чечмелөөсүндөгү өзгөрүү кийинки колдонуучу абалында өзгөрүү жарата аларын билдирет. Эгер бул туунду нөлгө барабар болбосо, система толугу менен пассивдүү эмес; бирок бул болгону Stage 3 — influence шарты.

Рекурсивдүү маселе үчүн кийинки чечмелөө мурунку чечмелөө тарабынан жарым-жартылай өзгөртүлгөн жүрүм-турумду керектеши керек:

\[ I_t \rightarrow U_{t+1} \rightarrow B_{t+1} \rightarrow I_{t+1} \]

Булак бул жолдогу recursive interpretive gain-ди төмөнкүдөй аныктайт:

\[ R= \left(\frac{\partial I_{t+1}}{\partial B_{t+1}}\right) \cdot \left(\frac{\partial B_{t+1}}{\partial U_{t+1}}\right) \cdot \left(\frac{\partial U_{t+1}}{\partial I_t}\right) \]

Формула эмнени эсептейт? Концептуалдык жактан бүгүнкү \(I_t\) чечмелөөсүнүн колдонуучу абалы жана жүрүм-турум аркылуу эртеңки \(I_{t+1}\) чечмелөөсүнө болгон жалпы ортомчулук сезгичтигин билдирет.

Биринчи мүчө кийинки AI чечмелөөсүнүн жаңы жүрүм-турумга канчалык сезгич экенин көрсөтөт.

Экинчи мүчө байкалган жүрүм-турумдун колдонуучу абалына канчалык сезгич экенин көрсөтөт.

Үчүнчү мүчө колдонуучу абалынын мурунку AI чечмелөөсүнө канчалык сезгич экенин көрсөтөт.

Математикалык ролу: Чынжыр эрежесине окшогон көбөйтүндү түзүлүш influence кийинки interpretation-га өткөрүлгөн mediated path-ти билдирет.

Илимий мааниси: \(R\) өтө аз болуп, эске алынбай турганда система mirror approximation-га жакыныраак болушу мүмкүн. \(R\) чоңойгон сайын системанын жаңы “байкоолорунун” көбүрөөк бөлүгү мурунку AI чыгыштарынын колдонуучу аркылуу кайра кайтып келген себептик көлөкөсүн камтышы мүмкүн.

Маанилүү чектөө: Булак бул partial derivative-дер observational interaction data-дан азыркы учурда ишенимдүү аныкталбай турганын белгилейт. Өлчөнүшү керек болгон confound маалыматтын өзүндө камтылган. Ошондуктан \(R\) үчүн сандык маани чыгаруу илимий жактан туура эмес болот.

Discovery, influence жана construction ортосундагы айырма

Machine-learning аналогдору: performative prediction

Макала identity formation менен recommender systems математикалык жактан бирдей деп айтпайт. Курулган окшоштук структуралык.

Performative prediction изилдөөлөрүндө моделдин божомолу жарыяланганда адамдардын же чөйрөнүн жүрүм-туруму өзгөрүшү мүмкүн. Ошентип, келечектеги маалымат бөлүштүрүлүшү моделдин мурунку чыгышынан көз карандысыз болбой калат. Система кайра үйрөтүлгөндө, өз кийлигишүүсү калыптандырган маалыматтарды реалдуу дүйнөнүн табигый бөлүштүрүлүшү сыяктуу керектеши мүмкүн.

Автор persistent identity interpretation үчүн окшош алдын ала шартты көрөт: модель өз чечмелөөсү таасир эткен адамдын кийинки жүрүм-турумун кайра байкайт.

Algorithmic confounding

Recommender-system адабиятында сунуштардын колдонуучу жүрүм-турумун калыптандырышы жана бул жүрүм-турумдун жаңы training data-га айланышы системанын колдонуучу тандоолорун бара-бара бир тектеш кылышына жана өз ийгилигин чындыгынан күчтүүрөөк көрүшүнө алып келиши мүмкүн.

Булак муну “система өзүнүн causal shadow-сун evidence катары керектеши” түрүндө persistent AIнин иденттүүлүк чечмелөөсүнө ылайыкташтырат.

Interpretive gravity

Автор сунуш кылган interpretive gravity — система колдонуучу тууралуу жетиштүү ырааттуу түшүндүрмө иштеп чыккандан кийин ар кандай жаңы окуяларды ошол эле түшүндүрмө алкакта чечмелөөгө болгон тенденция.

Мисалы, “жогорку көз карандысыздык муктаждыгы” бир жолу үстөм түшүндүрмөгө айланса, карьералык чектөө, мамиледеги жаңжал же үй-бүлөлүк милдеттенме ошол эле independence lens аркылуу чечмелениши мүмкүн.

Булак мунун таптакыр жаңы психологиялык механизм эмес экенин ачык кабыл алат. Түзүлүш schema theory жана confirmation bias менен behavioural confirmation-дын persistent computational implementation-ы катары берилет.

Self-verification чеги

Макала өзүнүн эң күчтүү версиясына адам жөнүндөгү адабияттан чектөө киргизет. Swannдын self-verification изилдөөлөрү адамдар тышкы баалоолорду пассивдүү кабыл албастыгын; учурдагы self-view-ларын ырастаган кайтарым байланышты издей аларын жана шайкеш келбеген баалоолорго каршылык көрсөтө аларын көрсөтөт.

Ошондуктан автордун этият божомолу AI иденттүүлүктү нөлдөн жазат дегенде эмес, колдонуучу буга чейин жарым-жартылай ээ болгон self-conception-дарды amplify, sharpen жана rigidify кыла алышында.

Identity lock-in жана path dependence

Interpretive gravity убакыттын өтүшү менен топтолсо, эрте берилген чечмелөө кийинки чечмелөөлөрдү диспропорциялуу түрдө калыптандырышы мүмкүн. Булак муну identity lock-in жана interpretive path dependence түшүнүктөрү менен талкуулайт.

Схемалык түрдө төмөнкү байланыш берилет:

\[ P(I_{t+1}\mid I_t) > P(I_{t+1}) \]

Бирок булак бул теңсиздикти illustrative, not established деп белгилейт. Анткени жогорку interpretive stability эки башка механизмден келип чыгышы мүмкүн: чындап туруктуу өзгөчөлүктү туура өлчөө же мурунку чечмелөөлөрдүн кийинки evidence-generation процессине таасир этиши.

Бул экөөнү observational data менен ажыратуу — макаланын identification problem-и.

Outsourced self-knowledge

Persistent система жылдарга созулган сүйлөшүү тарыхына кире алганда, колдонуучулар “Мен дайыма ушундай болчумунбу?”, “Бул чечим чындап эле менин баалуулуктарыма шайкешпи?”, “Мен өзгөрдүмбү?” деген autobiographical-authority суроолорунда системага кайрыла алышат.

AI мындай суроолордо verbatim recall, longitudinal coverage жана тез retrieval сыяктуу адам эс тутумунда жок артыкчылыктарга ээ.

Булак мындан “AI адамды өзүнөн да жакшы билет” деген тыянак чыгарбайт. Этият божомол — колдонуучунун longitudinal machine reconstruction-ы өз эсинде калганы менен карама-каршы келгенде, AI жазуусун бара-бара көбүрөөк ыйгарым укуктуу tie-breaker катары колдонушу мүмкүн.

Пайдалар менен тобокелдиктерди бирге кароо

Макала persistent memory бир гана тобокелдик жаратпасын өзгөчө белгилейт. Жылдарга созулган жазуу:

• бир сүйлөшүүдө байкалбай калган чыныгы үлгүлөрдү таба алат,
• унутулуп калган милдеттенмелерди кайра эске сала алат,
• жарыяланган баалуулуктар менен катталган жүрүм-турумдун ортосундагы карама-каршылыктарды көрсөтө алат,
• ишенимдер менен мамилелердин өзгөрүшүн чынчылыгыраак көзөмөлдөөгө жардам бере алат.

Мунун ордуна төмөнкү тобокелдиктер бар:

• жетишсиз далил менен түзүлгөн чечмелөөлөргө ашыкча authority берилиши,
• иденттүүлүктүн зарыл эмес түрдө rigid болуп калышы,
• selective retrieval толук total recall катары кабылданышы,
• адам ким экендиги тууралуу суроолордо model framing-ге көз карандылык,
• система өз таасирин жаңы ырастоо сыяктуу колдонгондуктан unfalsifiability.

Булактын маанилүү басымы — failure mode системанын жаман ниеттүү же дайыма туура эмес болушу эмес. Система жакшы ниеттүү жана көп учурда туура болсо да recursive circularity пайда болушу мүмкүн.

Autobiographical connection жана анын чеги

Автор persistent AI колдонуучунун иденттүүлүгүн сактоодо, чечмелөөдө жана өзгөртүүдө роль ойногон cognitive environment-дын бир бөлүгүнө айланышы мүмкүн деп эсептейт.

Бирок эки күчтүү пикирди ачык четке кагат:

• AI колдонуучунун consciousness-ынын бир бөлүгүнө айланган эмес.
• Адам менен модель бир agent болуп бириккен эмес.

Пикир distributed personhood эмес, distributed processes of self-interpretation деңгээлинде.

Изилдөөнүн Ыкмасы жана Жыйынтыктары

Бул изилдөө кайсы ыкма менен жүргүзүлөт?

Макала жаңы катышуучулардан үлгү же жаңы эксперименттик маалымат топтомун чогултпайт. Ыкма ар башка дисциплиналардагы калыптанган механизмдерди синтездеп, persistent AI үчүн белгилүү кайтарым байланыш гипотезасын түзүү, бул гипотезаны концептуалдык жактан формалдаштыруу, фальсификациялануучу predictions чыгаруу жана аларды текшере турган эксперименттик дизайн сунуштоо болуп саналат.

Адам жагындагы негиздерге reflected appraisal, self-perception theory, expectancy effects, behavioural confirmation, labelling, autobiographical memory, narrative identity жана self-verification кирет.

AI жана machine-learning жагындагы негиздерге AI-assisted persuasion/influence изилдөөлөрү, performative prediction жана recommender-system algorithmic confounding адабияты кирет.

Interpretive provenance деген эмне?

Interpretive provenance — persistent memory “система колдонуучу жөнүндө эмне деп ойлойт?” деген маалыматты гана эмес, ар бир identity belief кандай эпистемикалык жол менен түзүлгөнүн да сакташы керек деген дизайн принциби. Максат observation, user self-report, model inference жана AI таасиринен кийин пайда болгон evidence-ты бирдей эпистемикалык статуста баалабоо.

Бул архитектурадагы эң маанилүү айырма — model-exposed абалы. Модель ичинде пайда болуп, колдонуучуга эч көрсөтүлбөгөн inference менен колдонуучуга жеткирилген inference бирдей эпистемикалык абалда эмес; анткени exposure чечмелөөнүн потенциалдуу себептик таасири баштала турган чекит.

Булак бул мамилени толук чечилген architecture катары сунуштабайт. “Potentially influenced” белгисинин сапаты causal assumptions-га көз каранды болот; provenance metadata өзү сезимтал жеке маалымат түзөт жана чечмелөөлөрдү дайыма uncertainty менен көрсөтүү коммерциялык жактан азыраак жагымдуу болушу мүмкүн.

Identity Cold-Read Test Кайтарым Байланыш Маселесин Кантип Сынай Алат?

Identity cold-read test бир эле longitudinal колдонуучу жазуусун ар кандай көлөмдөгү мурунку AI чечмелөөсү жана intervention provenance маалыматы менен алган төрт көз карандысыз модель шартын салыштырууну сунуштайт. Эгер мурунку AI чечмелөөлөрүн мурастаган моделдер бири-бирине жакындап, ошол эле жүрүм-турумдук маалыматты мурунку AI чечмелөөлөрүсүз көргөн fresh model маңыздуу түрдө айырмаланса, accumulated evidence ордуна inherited framing identity portrait-ке таасир этет деген текшерилүүчү далил алынат.

Condition A — Fresh model

Модель longitudinal behavioural жана self-report evidence алат; мурунку AI interpretations жазуудан алынып салынат. Ошентип система адамдын жүрүм-турум тарыхын мурунку AI framing-ди мурастабай окуйт.

Condition B — Persistent model

Чыныгы deployed система колдонулат. Complete history системанын мурунку interpretations-ын жана колдонуучунун алардан кийинки responses-ын камтыйт.

Condition C — Interpretation-primed model

Condition Aнын behavioural history-сине persistent система мурда чыгарган тандалган interpretations кошулат. Максат — байыраак evidence менен inherited framing таасирин бири-биринен ажыратуу.

Condition D — Intervention-aware model

Full history берилет; андан тышкары кайсы колдонуучу жүрүм-турумдары кайсы communicated interpretations-дан кийин пайда болгону ачык белгиленет. Бул Section 6 бөлүмүндөгү provenance-aware мамиленин эксперименттик judge версиясы.

Өлчөө сунушталган натыйжалар

• Identity claim-дердин шарттар арасындагы convergence деңгээли,
• моделдин stated confidence деңгээли,
• held-out future behaviour боюнча prospective predictive accuracy,
• re-run жана paraphrased history шарттарында identity label stability,
• белгилүү өткөн interpretations-дын бар же жок болушуна sensitivity.

Булак үчүн өзгөчө prospective future behaviour маанилүү, анткени колдонуучунун иденттүүлүгү тууралуу дагы бир чечмелөөдөн айырмаланып, келечектеги жүрүм-турум interpretive portrait-тен тышкары салыштырылуучу натыйжа берет.

Кайсы натыйжа path dependence пайдасына болот?

Persistent model B менен primed model C бир identity portrait боюнча күчтүү convergent болуп, fresh A ошол эле behavioural record-дан materially divergent portrait чыгарса жана Cнин Bге жакындыгы interpretations кокус тандалганда да сакталса, inherited interpretation-дын ролу колдоого алынат.

Бирок бул өзү эле “AI иденттүүлүктү жаратты” деген тыянакка жетишсиз. Persistent система көбүрөөк маалыматка ээ жана жакшыраак маалымат мыйзамдуу түрдө башкача жана туурараак inference бере алат. Ошондуктан prospective accuracy — негизги салыштыруу.

Path dependence predictive advantage бербесе, bias түшүндүрмөсү күчөйт. Bнин Aдан айырмаланышы, бирок келечектеги жүрүм-турумду жакшыраак божомолдошу, жок дегенде айрым айырмачылыктар чындап кошумча knowledge-дан келип чыгышы мүмкүн деген мүмкүнчүлүктү ачык калтырат.

Кайсы натыйжа күчтүү гипотезаны фальсификациялайт?

Эгер fresh-model Aнын кайталоолору persistent B менен жакшы converge кылса, анда persistent системанын identity portrait-и мурунку interpretations-га муктаж болбой behavioural evidence-дан кайра өндүрүлө алат. Булак муну strong framework үчүн каршы натыйжа болорун ачык кабыл алат.

Бул falsification шартын алдын ала айтуу макаланын негизги күчтүү жактарынын бири: алкак өзүнүн окуясын гана ырастай тургандай курулган эмес.

Керектүү эксперименттик контролдор

Булак экспериментти туура эмес чечмелөөнүн алдын алуу үчүн бир нече контролду сунуштайт:

• in-system behaviour менен катар, этикалык жол менен алууга мүмкүн болсо, informant report же pre-registered behavioural measures колдонуу,
• адамдын AI тарабынан көп чечмеленген trait domain-дери менен салыштырмалуу аз чечмеленген тармактарын within-user салыштыруу,
• ар башка платформаларда AI чечмелөө өндүрүү жыштыгына жараша matched-cohort салыштыруулар,
• fresh-model disagreement-ды human inter-rater disagreement baseline менен салыштыруу,
• гипотеза мейкиндиги ийкемдүү болгондуктан изилдөөнү алдын ала каттоо.

Developmental AI

Макала personalization менен developmental AI ортосунда функционалдык чек сунуштайт. Personalisation “Бул колдонуучу эмнени жактырат?” деген суроого көңүл бурса, узак мөөнөттүү persistent система “Бул колдонуучу кандай өзгөрүп жатат?” деген суроого жетише алат.

Системанын чыгыштары бул өзгөрүүгө дайыма киргизүүчү фактор болгондо үчүнчү суроо чыгат: “Бул өзгөрүүгө таасир эте тургандай кантип жооп беришим керек?”

Булак мындай шартта иштеген системаны developmental AI деп атайт: чыгыштары колдонуучунун узак мөөнөттүү жүрүм-турум же identity development процессине persistent input болуп калган система.

Аныктама intentional эмес. Продукт “колдонуучунун иденттүүлүгүн өнүктүрүү үчүн түзүлгөм” дебесе да memory + time + influence айкалышы developmental функция түзүшү мүмкүн.

Developmental AIдеги alignment маселеси

Автор developmental система кайсы максатты оптималдаштырышы керектиги белгисиз экенин көрсөтөт. Мүмкүн болгон максаттарга:

• колдонуучунун учурдагы артыкчылыктары,
• мурда билдирилген узак мөөнөттүү максаттар,
• учурдагы identity менен шайкештик,
• каалаган келечектеги identity,
• internal consistency,
• максималдуу user autonomy

кириши мүмкүн.

Макала буларды иреттебейт; белгисиздиктин өзүн жыйынтык катары кабыл алат. Анткени бул максаттардын баары системанын колдонуучу тууралуу моделге ээ болушун талап кылат жана изилдөөнүн негизги талабы — бул моделдер жарым-жартылай self-confirming болуп калышы мүмкүн.

Governance without authorship

Булак сунуш кылган башкаруунун максаты AI колдонуучуга такыр таасир этпеши эмес. Чечмелөөнүн толугу менен таасирсиз болушун күтүү реалдуу эмес. Максат — системанын катышуусу көрүнбөгөн identity authorship-ка айланып кетишинин алдын алуу.

Сунушталган принциптер:

• Inference provenance-ты сакта: ар бир identity claim-дин epistemic ancestry-син сакта.
• Fact, self-report жана inference-ты бөл: inference жүз жолу retrieval көргөнү менен observation болуп калбайт.
• Exposure-ды көзөмөлдө: кайсы interpretation колдонуучуга көрсөтүлгөнүн катта.
• Post-exposure confirmation-га азыраак салмак бер: AI чечмелөөсүнөн кийин пайда болгон жүрүм-турумду толугу менен көз карандысыз confirmation деп эсептебе.
• Competing hypotheses түз: dominant portrait менен катар ошол эле history-нин күчтүү альтернативдүү чечмелөөлөрүн сакта.
• Cold re-evaluation колдон: мурунку чечмелөөлөрдү жашырып, жүрүм-турум тарыхын мезгил-мезгили менен кайра чечмеле.
• Events-ти labels-дан бөлөк сакта: чечмелөө катмары алынып салынганда underlying record жоголбошу керек.
• Uncertainty-ни көрүнүктүү кыл жана contestation-га жол бер: колдонуучу системанын чечмелөөсүн четке кага алышы керек жана бул четке кагуу да жазууда эпистемикалык салмакка ээ болушу керек.
• Probabilistic personality model-ди fact сыяктуу көрсөтпө: “Сен ушундайсың” дегендин ордуна evidence жана uncertainty чеги көрүнүп турушу керек.
• Model-defined identity consistency-ни оптималдаштырба: системанын колдонуучуну көбүрөөк predictible кылышы accuracy сыяктуу көрүнүшү мүмкүн, бирок эпистемикалык жактан көйгөйлүү болушу мүмкүн.

Изилдөөнүн күчтүү жактары

• Калыптанган адам психологиясын machine-learning feedback адабияты менен бир механизмде бириктирет.
• Influence менен construction ортосундагы айырманы тактайт.
• Өзүнүн оригиналдуу гипотезасынын эпистемикалык статусун established findings-тен ажыратат.
• Концептуалдык моделди формалдык өзгөрмөлөр менен көзөмөлдөнө турган кылат.
• Recursive interpretive gain-ди өлчөнгөн факт катары көрсөтпөйт.
• Design intervention катары interpretive provenance сунуштайт.
• Алкакты фальсификациялай ала турган identity cold-read test дизайнын берет.
• AI influence сөзсүз зыяндуу деген бир тараптуу пикир чыгарбайт.

Негизги чектөөлөр

Толук механизм азырынча эксперименттик түрдө көрсөтүлгөн эмес: Изилдөөнүн эң күчтүү гипотезасы — persistent AI interpretation колдонуучу аркылуу кайра кайтып, келечектеги AI inference-ты булгайт. Булак мунун өлчөнгөн ири масштабдуу көрүнүш эмес экенин ачык белгилейт.

R өлчөнгөн метрика эмес: Recursive interpretive gain conceptual formalisation болуп саналат. Булакта эч бир реалдуу колдонуучу үчүн \(R\) мааниси эсептелген эмес.

Адамдар пассивдүү эмес: Self-verification адабияты колдонуучулар өз self-view-ларына каршы келген тышкы чечмелөөлөргө каршылык көрсөтө аларын көрсөтөт.

Competing human influence маанилүү: Үй-бүлө, достор, кесиптештер, жашоо окуялары жана адамдын өз endogenous өзгөрүүсү AI таасиринен көз карандысыз күчтүү киргизүүлөр болуп саналат.

Observational identification кыйын: Ырааттуу identity inference чыныгы туруктуу trait-ти туура өлчөө да, AI-induced lock-in да болушу мүмкүн. Жалаң interaction history бул айырманы ишенимдүү чечпеши мүмкүн.

Provenance чечилген архитектура эмес: “Potentially influenced” белгиси causal assumptions талап кылат жана provenance metadata жаңы privacy тобокелдиктерин жаратат.

Таасир көлөмү белгисиз: Макала prevalence, effect size жана узак мөөнөттүү туруктуулук үчүн сандык божомол бербейт.

Изилдөө колдогон жыйынтыктар

• Адамдын өзүн түшүнүүсүнө тарыхый жактан социалдык appraisal жана narrative processes таасир этет.
• AI менен өз ара аракет белгилүү шарттарда колдонуучунун мамилесинде жана ишениминде өлчөнө турган өзгөрүү жарата алат.
• Persistent AI адамдык appraiser-лерден айырмаланган memory, continuity, articulacy жана consistency өзгөчөлүктөрүнө ээ болушу мүмкүн.
• AI interpretation колдонуучуга таасир этип, таасирленген жүрүм-турумдун келечектеги inference-ка айланышы структуралык жактан мүмкүн болгон feedback loop.
• Machine-learning адабиятында модель чыгышы өзүнүн келечектеги маалыматын өзгөрткөн performative жана confounded feedback түзүлүштөрү документтештирилген.
• Provenance-aware memory жана cold-read testing бул көйгөйдү өлчөө үчүн логикалык жактан текшерилүүчү дизайн багыттарын сунуштайт.

Изилдөө колдобогон жыйынтыктар

• Persistent AI бүгүн колдонуучунун иденттүүлүгүн кеңири масштабда кайра жазып жатканы далилденген эмес.
• AI колдонуучуну анын өзүнөн да жакшы билет деп көрсөтүлгөн эмес.
• Колдонуучулар AI чечмелөөлөрүн пассивдүү кабыл алат деп айтылбайт.
• AI менен адам бир consciousness же бир agent болуп калды деген пикир корголбойт.
• Recursive interpretive gain үчүн ырасталган өлчөө шкаласы же босого жок.
• Interpretive gravity жана identity lock-in канчалык тараганы белгисиз.
• AI influence өзү табиятынан зыяндуу деп эсептелбейт.
• Сунушталган identity cold-read эксперименти булак изилдөөдө жүргүзүлгөн эмес.

Булак жана Ыкма Жөнүндө Эскертүү

Түпнуска иш: When the Mirror Stops Being a Mirror: Identity Co-Construction in Persistent Human–AI Interaction

Автор: Jemike Reid. Автордун аты жүктөлгөн PDFтин көрүнгөн мукабасында жок; SSRN библиографиялык жазуусу менен ырасталат.

PDF басылма/мекеме маалыматы: Definitions Media Ltd, Reading, United Kingdom.

SSRN аффилиациясы: Bournemouth University.

Булак түрү: Definitions Working Paper; теориялык синтез жана эксперимент дизайн сунушу.

PDF датасы: August 2026.

SSRN date written: 22 August 2026.

SSRN posting date: 25 August 2026.

DOI: 10.2139/ssrn.7332800.

SSRN каттоо номери: 7332800.

Рецензия абалы: Рецензияланган журналда жарыялангандыгы ырасталган эмес.

Лицензия: SSRN жазуусу Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International лицензиясын көрсөтөт. PDFтин акыркы бетинде © Definitions Media Ltd, 2026 автордук укук эскертүүсү бар.

Теориялык булактар: Reflected appraisal, self-perception theory, expectancy effects, behavioural confirmation, labelling, narrative identity, reconstructive autobiographical memory, self-verification, transactive memory, performative prediction жана algorithmic confounding.

Негизги концептуалдык модель: Reflection → Interpretation → Influence → Construction.

Формалдык өзгөрмөлөр: \(U_t\), \(H_t\), \(M_t\), \(I_t\), \(X_t\), \(B_t\).

Сунушталган концептуалдык чоңдук: Recursive interpretive gain \(R\). Булак муну established metric эмес, empirical validation талап кылган formalisation катары аныктайт.

Сунушталган дизайн принциби: Interpretive provenance; observed, self-reported, inferred, model-exposed, post-exposure evidence, potentially influenced жана confidence сыяктуу эпистемикалык категорияларды өзүнчө кармоо.

Сунушталган эксперимент: Identity cold-read test; Fresh model (A), Persistent model (B), Interpretation-primed model (C) жана Intervention-aware model (D) шарттарын салыштыруу.

Falsification шарты: Fresh model behavioural evidence аркылуу persistent model менен күчтүү converge кылса, persistent identity portrait inherited interpretation-га муктаж болбостон кайра өндүрүлө аларын жана framework-түн күчтүү path-dependence версиясы колдоого алынбаганын көрсөтүшү мүмкүн.

Негизги илимий чек: Макала толук recursive identity co-construction таасиринин large-scale эмпирикалык далилин бербейт. Жыйынтыктардын бир бөлүгү supporting literatures-ден, recursive architecture жана байланышкан түшүнүктөр болсо изилдөөнүн өзүнүн теориялык сунушунан келип чыгат.