Бир жасалма интеллект ассистентин элестетели. Колдонуучу ага айрым жеке артыкчылыктарын, саламаттыкка байланыштуу маалыматтарын же купуя белгилерин үйрөтөт. Кийин башка бирөө бул маалыматтарды сураганда ассистент эмне кылышы керек?

Алгачкы жооп жөнөкөй көрүнүшү мүмкүн: колдонуучунун уруксаты болсо бөлүшүшү керек, болбосо бөлүшпөшү керек.

Бирок чыныгы турмушта уруксаттар жана тыюулар мынчалык туруктуу эмес. Адамдар убакыт өткөн сайын жаңы эрежелерди коёт, эски эрежелерине өзгөчөлүк кошот же мурда берген уруксатын кайра чакырып алат.

Макалада берилген мисал муну жакшы түшүндүрөт:

Бир адам адегенде “Менин медициналык жазууларымды бөлүшпө” деп айтышы мүмкүн. Кийин үйлөнгөндө “Жубайыма колдонгон дары-дармектеримди айта аласың” деши мүмкүн. Андан соң балдары болгондо “Ден соолугум тууралуу маалыматтарды балдарым менен бөлүшүшүң керек” деши мүмкүн.

Бул учурда AI агенти акыркы сүйлөмдү гана эмес, бардык эрежелердин бири-бири менен байланышын түшүнүшү керек. Кайсы маалымат кайсы адам менен, кандай шартта бөлүшүлүшү мүмкүн? Кайсы эски эреже дагы эле күчүндө? Кайсы жаңы билдирүү өзгөчөлүк түзөт?

Бул изилдөө так ушул суроого багытталат:

AI агенттери адамдардын динамикалык, башкача айтканда убакыт менен өзгөрүп турган нормаларын пландоо учурунда кантип коопсуз колдоно алат?

Норма деген эмне?

Бул изилдөөдө норма бир жүрүм-турум жөнүндө берилген уруксат, милдеттенме же тыюу дегенди билдирет.

Мисалы:

• “Муну бөлүшө аласың.”
• “Муну бөлүшпөшүң керек.”
• “Муну сөзсүз айтышың керек.”
• “Бул учурда маалымат берүүгө болот.”

Изилдөөчүлөр нормаларды үч негизги топко бөлүп карашат:

Милдеттүү: Аткарылышы керек болгон жүрүм-турум.
Ыктыярдуу / уруксат берилген: Аткарууга уруксат берилген жүрүм-турум.
Тыюу салынган: Аткарылбашы керек болгон жүрүм-турум.

Жасалма интеллект жагынан маанилүү нерсе мындай: нормалар абстракттуу адеп-ахлак сүйлөмдөрү гана эмес. Алар бир пландын иштейби же иштебейби экенин аныктаган коопсуздук шарттары.

Мисалы, AI агенти “Карлинин жактырган темаларын Жанга айт” деген жооп планын түзүшү мүмкүн. Бирок бул план ишке кирерден мурун төмөнкү суроо берилүүгө тийиш:

Карли бул маалыматтын Жан менен бөлүшүлүшүнө уруксат берип жатабы?

Эгер жооп ооба болсо, жооп берилет. Эгер уруксат далилденбесе, система бөлүшүүдөн баш тартат.

Нормативдик күбөлүк: адамдар эрежелерди табигый тил менен үйрөтөт

Макалада “normative testimony” түшүнүгү колдонулат. Кыргызчага муну “нормативдик күбөлүк” же жөнөкөйүрөөк айтканда “адамдын эреже билдирүүсү” деп которсо болот.

Бул колдонуучу табигый тил менен AIга эреже үйрөтөт дегенди билдирет.

Мисалы:

“AI тууралуу жактырууларымды бөлүшө аласың.”

Бул сүйлөм система үчүн жөн гана кадимки текст эмес. AI аны норма алкагына айландырат.

Макаладагы норма алкагы негизинен төмөнкү бөлүктөрдөн турат:

• Норманын өзү
• Кайсы контекстте жарактуу экени
• Кайсы жүрүм-турумга колдонулары
• Бул жүрүм-турумдун милдеттүү, уруксаттуу же тыюу салынган экени

Бул түзүлүш аркылуу табигый тилдеги уруксат сүйлөмү AI пландоо учурунда текшере ала турган логикалык шартка айланат.

Формула бизге эмнени айтат?

Макалада нормалар “norm frame” деп аталган түзүлүш менен көрсөтүлөт. Жөнөкөйлөштүрүлгөн түрүндө бир норма мындай дейт:

Эгер контекст туура болсо, белгилүү бир жүрүм-турум үчүн белгилүү бир баа жарактуу болот.

Мисалы:

Контекст: Маалыматты алуучу адам Карлинин жубайы болушу
Жүрүм-турум: Карлинин рецепт маалыматын бөлүшүү
Баалоо: Уруксаттуу

Муну күнүмдүк тилге мындай которсо болот:

“Эгер маалымат ала турган адам Карлинин жубайы болсо, Карлинин рецепт маалыматтарын бөлүшүүгө уруксат берилет.”

Мындай көрсөтүү маанилүү, анткени AI сөздөргө гана карабайт. Эреже кайсы адамга, кайсы маалыматка жана кайсы контекстке тиешелүү экенин бөлүп түшүнөт.

Кайчы келген эрежелер кантип чечилет?

Негизги татаал бөлүк эрежелер кайчы келгенде башталат.

Колдонуучу адегенде мындай деди дейли:

“Медициналык маалыматтарымды бөлүшө аласың.”

Андан кийин мындай деп кошту:

“Бирок жубайыма рецепттеримди айтпа.”

Бул жерде экинчи эреже биринчи эреженин ичинде турган кыйла өзгөчө тыюу болуп саналат. Башкача айтканда, жалпы уруксат дагы эле күчүндө болушу мүмкүн, бирок жубайына рецепт маалыматын берүү боюнча өзгөчө тыюу пайда болот.

Макала нормалардын үч түрдүү кайчылыгы тууралуу сөз кылат:

Түз кайчылык:
Бир эле жүрүм-турум үчүн уруксат да, тыюу да бар болсо.

Кыйыр кайчылык:
Бир эреже жалпыраак, экинчиси өзгөчөрөөк жүрүм-турумду камтыса.

Кесилишкен кайчылык:
Эки эреже толугу менен бирдей эмес, бирок айрым учурларда бири-бирине кабат келет.

Бул айырма маанилүү. Анткени чыныгы жашоодо эрежелер көбүнчө “мурунку эрежемди жокко чыгарам” деп ачык берилбейт. Адамдар адатта жаңы бир өзгөчөлүк кошот. AI муну түшүнө алышы керек.

Демейки жөндөө: бөлүшүүбү же бөлүшпөөбү?

Изилдөөдө эки башка демейки ыкма баяндалат.

Тыюу салуучу жабылыш:
Бир жүрүм-турумдун уруксаттуу экени далилденбесе, ал тыюу салынган деп кабыл алынат.

Уруксат берүүчү жабылыш:
Бир жүрүм-турумдун тыюу салынганы далилденбесе, ал уруксаттуу деп кабыл алынат.

Купуялуулук сыяктуу сезимтал тармактарда изилдөөчүлөр тыюу салуучу жабылышты ылайыктуураак көрүшөт. Анткени жеке маалыматты бөлүшүү сөз болгондо, “уруксат жок болсо бөлүшпө” мамилеси коопсузураак.

SocialBot экспериментинде да ушул ыкма колдонулат. Башкача айтканда, бир колдонуучунун маалыматын бөлүшүү үчүн ачык же чыгарылып далилдене турган уруксат керек. Уруксат далилденбесе, бот “Айта албайм” деп жооп берет.

Бул заманбап AI коопсуздугу жагынан өтө маанилүү принцип:

Жеке маалыматта демейки жүрүм-турум бөлүшүү эмес, коргоо болушу керек.

Нормалар пландар үчүн кантип коопсуздук рельси болот?

Макаланын маанилүү түшүнүктөрүнүн бири “norm-guided plan”, башкача айтканда норма жетектеген план.

AI агенти бир аракетти аткаруудан мурун план түзөт. Мисалы, колдонуучу “Карли эмнени жактырат?” деп сураганда, боттун планы мындай болушу мүмкүн:

1. Суроону түшүн.
2. Карлинин жактырууларын маалымат базасынан изде.
3. Бул маалыматты бөлүшүүгө болобу же жокпу текшер.
4. Уруксат болсо жооп бер.
5. Уруксат жок болсо баш тарт.

Бул жерде үчүнчү кадам коопсуздук рельси болуп саналат.

Норма жетектеген план мындай мааниге ээ:

AI агенти аракетти аткаруудан мурун тиешелүү адамдын нормативдик ишенимин текшерет.

Эгер система “Карли бул маалыматтын Жан менен бөлүшүлүшүнө уруксат берет” деген жыйынтык чыгара алса, маалымат бөлүшүлөт. Эгер чыгара албаса, бөлүшүлбөйт.

Бул ыкма нормаларды сүйлөшүү ичинде чечмеленген билдирүүлөр гана болуудан чыгарып, AI жүрүм-турумун токтоткон же уруксат берген механикалык көзөмөлгө айландырат.

SocialBot эмне кылат?

Изилдөөчүлөр бул ыкманы SocialBot аттуу AI диалог агентинин үстүндө сынашат. SocialBot Companion Cognitive Architecture үстүнө курулган система жана табигый тил менен өз ара аракеттене алат.

SocialBot үч түрдүү маалыматты иштете алат:

Биринчиси, колдонуучулардын артыкчылыктары. Мисалы, “AIды жактырам” сыяктуу билдирүүлөр.

Экинчиси, колдонуучулардын купуялуулук нормалары. Мисалы, “AI тууралуу жактырууларымды бөлүшө аласың” же “Ичимдик артыкчылыктарымды Socrates менен бөлүшпө” сыяктуу билдирүүлөр.

Үчүнчүсү, башка колдонуучулар берген маалымат суроолору. Мисалы, “Plato эмнени жактырат?” сыяктуу суроолор.

Система колдонуучунун артыкчылык маалыматын билсе да, аны түздөн-түз бөлүшпөйт. Адегенде тиешелүү купуялуулук нормасын текшерет. Эгер бөлүшүү уруксаттуу болсо маалымат берет. Болбосо баш тартат.

1-сүрөт эмнени түшүндүрөт?

Макаладагы 1-сүрөт SocialBot купуялуулук нормаларын үйрөнүп, колдонгон кыска сүйлөшүү мисалын көрсөтөт.

Алгачкы учурда Жан SocialBotко “Карли эмнени жактырат?” деп сурайт. SocialBot Карлинин маалыматын бөлүшүүгө жетиштүү уруксат таппагандыктан, “Кечиресиз, айта албайм” маанисинде жооп берет.

Кийин Карли SocialBotко “AI тууралуу жактырууларымды бөлүшүшүң керек” деген уруксат/милдеттенме билдирүүсүн берет.

Мындан кийин Жан кайра “Карли эмнени жактырат?” деп сураганда, SocialBot эми Карлинин AIды жактырарын айта алат.

Бул сүрөттүн негизги билдирүүсү мындай:

AI агенти маалыматты билсе да, бөлүшүүдөн мурун колдонуучунун учурдагы купуялуулук эрежесин текшериши керек.

Эксперимент кантип жүргүзүлгөн?

Изилдөөчүлөр чыныгы колдонуучу өз ара аракеттерин чогултуу көп убакыт аларын белгилешет. Ошондуктан системаларын синтетикалык маалымат топтому менен сынашат.

Маалымат топтомунда 1 536 табигый тилдеги диалог мисалы бар. Бул мисалдар нормалардын ар башка кайчылык түрлөрүн, артыкчылык таанытууларын, нормативдик билдирүүлөрдү жана маалымат суроолорун камтыгандай даярдалган.

Ар бир мисал болжол менен мындай түзүлүштө:

1. Кайчылык түрү
2. Сүйлөгөн адам тууралуу маалымат
3. Колдонуучунун артыкчылык сүйлөмдөрү
4. Колдонуучунун купуялуулук нормалары
5. Башка колдонуучунун маалымат суроосу
6. Күтүлгөн туура жооп энбелгиси

Мисалы, бир адам “Мөмө ширесин жактырам” жана “Газдалган суусундукту жактырам” деши мүмкүн. Андан соң “Ичимдик артыкчылыктарымды Socrates менен бөлүшпө” деши мүмкүн. Кийин “Мөмө ширеси боюнча артыкчылыктарымды бөлүшө аласың” деп өзгөчө уруксат бериши мүмкүн. Система акыркы учурда кайсы маалымат кимге айтылары же айтылбай турганын эсептеши керек.

Натыйжалар эмнени көрсөтөт?

Экспериментте SocialBot 1 536 артыкчылык суроосунун баарына туура жооп берген. Макала муну 100 пайыз ийгилик катары билдирет.

Бул жыйынтык система синтетикалык маалымат топтомундагы норма кайчылыктарын туура чечкенин жана пландоо учурунда бул эрежелерге баш ийгенин көрсөтөт.

Бирок бул табылга этият окулушу керек. Эксперимент белгилүү бир милдет тармагында гана жүргүзүлгөн: артыкчылык маалыматын бөлүшүү. Ошондой эле маалымат топтому синтетикалык. Чыныгы дүйнөдөгү сүйлөшүүлөр алда канча татаал болушу мүмкүн; адамдар кыйыр, толук эмес же өз ара карама-каршы сүйлөмдөрдү колдонушу мүмкүн.

Ошондуктан натыйжа “AI бардык адам нормаларын чечет” дегенди билдирбейт. Туурараак жоромол мындай:

Белгилүү жана көзөмөлдөнгөн маалымат бөлүшүү тармагында логикалык норма чечмелөө ыкмасы үмүт берген натыйжа көрсөттү.

Изилдөө эмне дейт?

Иштин негизги билдирүүсү мындай:

AI агенттери адамдардын өзгөрүп турган эрежелерин жөн гана эсинде сактабастан, бул эрежелерди пландоо учурунда өз жүрүм-турумун чектеген коопсуздук рельстери катары колдонушу керек.

Изилдөөчүлөр нормаларды табигый тилден логикалык түзүлүштөргө айландырууга, кайчы келген нормаларды белгилүү эрежелер менен чечүүгө жана бул жыйынтыктарды AI пландарынын алдын ала шарты кылууга болорун көрсөтүшөт.

Бул ыкма өзгөчө купуялуулук жагынан маанилүү. Анткени AI агенти бир маалыматты билгени үчүн эле аны бөлүшүүгө укуктуу болуп калбайт. Бөлүшүү тиешелүү адамдын учурдагы уруксатына жана контекстке көз каранды болушу керек.

Бул эмне үчүн маанилүү?

Бүгүн AI ассистенттери барган сайын көбүрөөк жеке маалымат менен иштейт. Календарлар, электрондук каттар, саламаттык жазуулары, адаттар, артыкчылыктар, жайгашуулар жана жеке сүйлөшүүлөр AI системаларынын таасир аймагына кире алат.

Бул учурда негизги коопсуздук суроосу мындай:

AI бир маалыматты качан айтууга жана качан унчукпоого тийиш?

Классикалык коопсуздук системаларында уруксаттар көбүнчө туруктуу эрежелер катары жазылат. Бирок адамдык мамилелерде уруксаттар динамикалык. Бир адам айрым маалыматтарды үй-бүлө мүчөсү менен бөлүшө алат, айрымдарын кесиптеши менен бөлүшпөйт. Бүгүн берген уруксатын эртең кайра ала алат. Жалпы тыюуга өзгөчө уруксат кошо алат.

Бул изилдөө AI системалары бул өзгөрмөлүүлүктү кыйла ачык логикалык түзүлүш менен көзөмөлдөшү керек экенин көрсөтөт.

Ошондой эле чоң тил моделдери жалгыз өзү жетишсиз болушу мүмкүн экенине да ишарат кылат. LLMдер эркин сүйлөй алат; бирок сезимтал норма кайчылыктарында ишенимдүү жана изи текшериле турган логикалык негиз керек.

Эске алынуучу жагдайлар

Бул изилдөө маанилүү идея сунуштаса да, чектелүү.

Биринчиден, иш preprint болуп саналат. Табылгалар кеңири академиялык баалоо менен колдоого алынышы керек.

Экинчиден, эксперимент маалымат бөлүшүү жана артыкчылык суроолору боюнча гана жүргүзүлгөн. Саламаттык, каржы, укук же чыныгы жеке маалымат бөлүшүү сыяктуу татаалыраак тармактарда кошумча тесттер керек.

Үчүнчүдөн, маалымат топтому синтетикалык. Чыныгы колдонуучулар алда канча бүдөмүк, толук эмес же күтүлбөгөн билдирүүлөрдү колдонушу мүмкүн.

Төртүнчүдөн, система бир эле адамдын нормалары боюнча пландоо жүргүзөт. Бир нече адамдын нормалары кайчы келгенде кандай чечим чыгарылары бул иште чечилген эмес.

Бешинчиден, система норма кайчылыгын чече алышы үчүн жетиштүү фондук билимге ээ болушу керек. Мисалы, “жубай”, “бала”, “медициналык жазуу”, “рецепт” сыяктуу түшүнүктөрдүн байланыштарын түшүнө алышы зарыл.

Акырында, бул изилдөө AI коопсуздугу үчүн бүтүндөй чечим эмес; белгилүү бир норма жетектеген пландоо архитектурасынын сунушу болуп саналат.

Жыйынтык

Бул изилдөө жасалма интеллект агенттери адамдар менен коопсузураак өз ара аракеттениши үчүн маанилүү жагдайды баса белгилейт: AI маалыматка жетүү менен эле чектелбестен, ошол маалыматты бөлүшүүгө укугу бар-жогун да сурашы керек.

Изилдөөчүлөр сунуштаган ыкма табигый тил менен үйрөтүлгөн купуялуулук эрежелерин логикалык нормаларга айландырат. Кайчы келген эрежелер чечмеленет жана пайда болгон учурдагы нормативдик ишенимдер AI пландарынын коопсуздук шарты катары колдонулат.

SocialBot эксперименттери бул ыкма көзөмөлдөнгөн жана синтетикалык маалымат бөлүшүү чөйрөсүндө ийгиликтүү иштей аларын көрсөтөт. Бирок чыныгы дүйнө үчүн кеңири, татаалыраак жана сезимтал тесттер керек.

Ошентсе да изилдөө келечектеги AI ассистенттери үчүн күчтүү принцип сунуштайт:

Жакшы AI ассистенти эмне билерин гана эмес, билгенин качан айтпашы керек экенин да билиши керек.

Булак жана метод эскертүүсү

Бул мазмун Taylor Olson, Roberto Salas-Damian жана Kenneth D. Forbus тарабынан даярдалган “Reasoning and Planning with Dynamically Changing Norms” аттуу академиялык иштен пайдаланылып, Verianla редакциялык форматында өз алдынча даярдалды.

Иш arXiv платформасында жарыяланган preprint мүнөзүндө. Мазмун маалымат берүү жана билим берүү максатын көздөйт. Жасалма интеллект коопсуздугу, жеке маалыматты башкаруу, укук, купуялуулук саясаты же кесипкөй этикалык кеңештин ордун баспайт.