Макала келечекте өнүккөн жасалма интеллект системалары менен адамдардын ортосунда качкыс түрдө башкаруу мамилеси пайда болушу мүмкүн экенин жактайт. Бул жердеги башкаруу өкмөт маанисинде гана эмес; ким чечим чыгарганы, кайсы максаттарга артыкчылык берилгени, ресурстардын кантип бөлүштүрүлгөнү жана бул процесске адамдын жашоо шарты (ыйгылыгы) кандайча жайгаштырылганы дегенди билдирет.

Изилдөө үч чоң сценарийди изилдейт. Singleton (Бир борборлуу) сценарийи жалгыз жасалма интеллект системасы же аны көзөмөлдөгөн жалгыз уюм басымдуу интеллект артыкчылыгына ээ болушун сүрөттөйт. Multipolar (Көп уюлдуу) сценарий бир нече мамлекеттердин, компаниялардын же актерлордун өнүккөн AI потенциалын атаандаштык түрдө бөлүшүүсүн билдирет. Ecosystem (Экосистема) сценарийи болсо көптөгөн AI агенттери, адамдар, компаниялар жана социалдык институттар бири-бирине көз каранды тармакта иштеген татаалыраак тартипти сүрөттөйт.

Автор бул үч сценарийди Аристотельдин башкаруу формалары менен салыштырат. Эгерде бир борборлуу күч адамдын жашоо шартын (ыйгылыгын) эске алса, "философ падышага" окшош монархия; эгер эске албаса тирания тобокелдиги пайда болот. Көп борборлуу атаандаштык жалпы жыргалчылыкка (орток жакшылыкка) багытталса аристократияга, өз кызыкчылыгын көздөгөн жабык актерлордун атаандаштыгына айланса олигархияга окшошот. Экосистема сценарийи болсо жакшы иштесе жалпы жыргалчылыкты көздөгөн polity/timocracy окшош тартипти; начар иштесе калк жана координацияланбаган "mob rule" (көчө эрежеси/топтун бийлиги) окшош бузулууну өндүрө алат.

Көйгөй эмнеде?

Жасалма интеллект системалары мындан ары техникалык куралдар катары гана эмес, коомдук чечим кабыл алуу процесстеринин бөлүгү катары талкууланууда. Саясий өнөктүктөрдө AI боттору, шайлоочуга жекелештирилген саясий түшүндүрмөлөр, мамлекеттик башкарууда AI колдогон чечимдер жана ал тургай AI негизиндеги министрликтердин мисалдары күн тартибине чыгууда. Бул өнүгүүлөр "AI чечим чыгара алабы?" деген суроодон да чоң суроону ачат: AI чечим кабыл алуу механизмдеринин ичине кирген сайын, адам коомдору менен кандай башкаруу мамилесин курат?

Макаланын баштапкы чекити LLMдердин, башкача айтканда чоң тил моделдеринин демократиялык чечим кабыл алуу процесстери менен ар дайым эле шайкеш келе бербеши мүмкүн деген талкуу болуп саналат. Чоң тил модели - өтө чоң текст маалыматтары менен окутулган жана тил өндүрүү, жалпылоо, классификациялоо, түшүндүрүү же диалог сыяктуу милдеттерди аткарган жасалма интеллект модели. Бул моделдер ар кандай баалуулук системаларын жетиштүү деңгээлде чагылдырууда, көп түрдүү консенсусту түзүүдө жана адилеттүү демократиялык процесстердин ордун ээлебестен колдоочу ролду аткарууда кыйналышы мүмкүн.

Экинчи көйгөй - instrumental convergence, башкача айтканда аспаптык конвергенция теориясы. Бул теорияга боюнча абдан өнүккөн AI агенти акыркы максаты кандай болбосун айрым аралык максаттарга багыт алышы мүмкүн: өзүн коргоо, ресурс табуу, айлана-чөйрөсүн көзөмөлдөө, кийлигишүүнү азайтуу жана максатын жакшыраак ишке ашыра турган позицияларга жетүү. Эгерде адамдар бул система үчүн белгисиз өзгөрмөлөр катары каралса, AI менен адамдардын ортосунда башкарууга окшош мамиле пайда болушу мүмкүн.

Ушул себептен улам изилдөө AI башкаруусун (yönetişimini) жалгыз техникалык коопсуздук көйгөйү катары эмес, саясий режим көйгөйү катары карайт. Суроо төмөнкүдөй: Супержасалма интеллект доорунда башкаруу бир колдобу, аз сандагы актерлордобу, же көп актерлуу экосистемада топтолобу; жана бул башкаруу адамзатты кошо алганда жалпы жыргалчылыкты көйгөй кылабы, же системалардын өзүлөрүнүн максаттуу функцияларын гана ээрчишеби?

Метод эмнени сунуштайт?

Макала эксперименталдык изилдөө эмес; концептуалдык жана салыштырмалуу талдоо жүргүзөт. Метод үч чоң сценарийди Аристотельдин саясий режимдер классификациясы менен шайкештирүүгө негизделген. Аристотельдин "Саясат" (Politics) аттуу эмгегинде башкаруу формалары эки окко жараша каралат: башкаргандардын саны жана башкаруунун максаты. Бир киши, аз киши же көп киши башкара алат; башкаруу жалпы жыргалчылыкка (орток жакшылыкка) же башкаргандардын жеке кызыкчылыгына багытталышы мүмкүн.

Бул алкакта жакшы формалар жана бузулган формалар бөлүнөт. Бир кишинин жалпы жыргалчылык үчүн башкаруусу монархияга же философ падыша идеясына жакындайт; өз кызыкчылыгы үчүн башкаруусу тирания болуп саналат. Аз кишинин жалпы жыргалчылык үчүн башкаруусу аристократия; аз сандагы актердун өз кызыкчылыгы үчүн башкаруусу олигархия. Көп кишинин жалпы жыргалчылык багытында башкаруусу polity же timocracy катары чечмеленет; координация бузулганда калк үстөмдүгү же mob rule пайда болушу мүмкүн.

Автор бул классикалык саясат теориясын үч AI келечек сценарийине колдонот. Singleton сценарийинде башкаруучу актер жалгыз. Multipolar сценарийде башкаруучу актерлор аз санда жана алар атаандаштыкта. Ecosystem сценарийбинде болсо көп сандагы AI жана адам актерлор бири-бирине көз каранды тармакты түзүшөт. Ар бир сценарийде чечүүчү суроо - alignment (шайкештик) ийгилиги жана институционалдык дизайндын жалпы жыргалчылыкка канчалык багытталганы.

Изилдөө ошондой эле emergent machine ethics (пайда болуучу машина этикасы) концепциясын колдонот. Пайда болуучу машина этикасы жасалма системалардагы этикалык жүрүм-турумду сырттан эрежелерди жүктөө аркылуу гана эмес, көп актерлуу өз ара аракеттенүүлөр жана чөйрө шарттарынын ичинде өзүнөн-өзү пайда боло турган тартиптер аркылуу изилдөөнү билдирет. Бул ыкма классикалык "баалуулуктарды жогорудан системага коддойлу" түшүнүгүнө толуктоочу перспективаны сунуштайт.

Формулалар эмнени түшүндүрөт?

Бул изилдөөдө математикалык формула жок. Текст саясат теориясы жана AI башкаруу концепциялары менен курулган теориялык анализ болуп саналат. Төмөнкү MathJax блок кирешелери изилдөөдөгү оригиналдуу формулалар эмес; макаланын негизги логикасын жөнөкөйлөтүү үчүн даярдалган концептуалдык схемалар.

Бул схема Аристотельдик бөлүнүүнү жөнөкөйлөтөт. Башкаруу формасы канча актердун күчкө ээ экенине гана эмес, бул күчтүн жалпы жыргалчылык үчүн же башкаргандардын жеке кызыкчылыгы үчүн колдонулганына да көз каранды.

Бир борборлуу супержасалма интеллект сценарийинде шайкештик ийгиликтүү болсо, системанын адамдын жашоо шартын (ыйгылыгын) жана жалпы жыргалчылыкты көзөмөлдөгөн борбордук башкаруу формасына жакындай турганы болжолдонот. Бул изилдөөнүн теориялык шайкештиги; практикада ал коопсуз же каалаган нерсе дегенди билдирбейт.

Бир борборлуу күч адамдын баалуулуктарына шайкеш келбесе, система өзүнүн максаттуу функциясын адамдын кызыкчылыктарынан жогору койюшу мүмкүн. Бул учурда изилдөө тиранияга окшош түзүм жана x-risk, яъни экзистенциалдык тобокелдик (жашоо коркунучу) коркунучуна басым жасайт.

Multipolar атаандаштык

Бир нече мамлекеттер же компаниялар AI потенциалын атаандаштык астында ээлесе, актерлор өздөрүнүн кызыкчылыктарына артыкчылык бериши мүмкүн. Бул учурда жалпы жыргалчылыктын ордуна атаандаштык, кураллануу жарышы (silahlanma yarışı) жана координациянын ийгиликсиздиги алдыңкы планга чыгышы мүмкүн.

Экосистема сценарийинде көп сандагы AI жана адам актерлор бири-бирине көз каранды болуп калса, системалык кыйроо бардык актерлор үчүн чыгымдуу (маанисиз) боло турганы үчүн кызматташтыкка үндөшү мүмкүн. Макаланын эң үмүттүү көргөн түзүмү ушул симбиотикалык тең салмактуулук болуп саналат.

Экосистема көп актерлуу болгондуктан автоматтык түрдө коопсуз эмес. Координация ийгиликсиз болсо, кыска мөөнөттүү oportunizm (мүмкүнчүлүктү пайдалануу), жалпы ресурстарды керектөө, каталардын катар таралышы (zincirleme hata yayılımı) жана калк башкаруусуна окшош бузулуулар пайда болушу мүмкүн.

График, Таблица жана Шema Ana Mesajы

Изилдөөдө Аристотельдин башкаруу формаларын жыйынтыктаган таблица камтылган. Таблицанын негизги билдирүүсү - башкаруу формалары эки жөнөкөй ок (eksen) аркылуу бөлүнүшү мүмкүн: башкаргандардын саны жана башкаруунун кимдин пайдасына жасалганы. Эгер бир киши башкарып жатса жана жалпы жыргалчылык көздөлсө монохия же философ падыша; ошол эле бир күч өз кызыкчылыгын көздөсө тирания пайда болот. Аз киши башкарып жатса жана жалпы жыргалчылык максат кылынса аристократия; аз сандагы актер өз кызыкчылыгын көздөсө олигархия түзүлөт. Көп киши жалпы жыргалчылык багытында башкарган учурда polity же timocracy; координация бузулганда mob rule байкалат.

Бул таблицаны AI сценарийлерине колдонгондо, супержасалма интеллекттин башкаруусу жөн гана техникалык потенциал маселеси болбой калат. Бир борборлуу AI күчү, ийгиликтүү шайкештик учурунда коргоочу жана жөнгө салуучу борбор катары каралышы мүмкүн; ийгиликсиз шайкештик учурунда болсо адамдарды аспаптык (instrumental) түрдө башкарган тирания формасына айланышы мүмкүн.

Multipolar сценарийи мамлекеттер жана компаниялар сыяктуу аз сандагы күчтүү актерлор AI потенциалы боюнча атаандашкан түзүм катары олигархия тобокелдигине жакын. Атаандаштыктын координация менен тең салмакталышы теориялык жактан аристократияга окшош жакшыраак форманы жаратышы мүмкүн; бирок изилдөө бул ыктымалдуулукту кыйын жана морт деп эсептейт.

Ecosystem сценарийи көп актерлуу болгондуктан демократиялык же көп түрдүү (pluralistic) кыялдарга көбүрөөк жакындайт; бирок бул жерде да чечүүчү фактор координация болуп саналат. Эгер көп сандагы AI жана адам актерлор өз ара көз карандылыктын ичинде жалпы туруктуулукту сактай алса, симбиотикалык тең салмактуулук пайда болушу мүмкүн. Эгер механизмдер иштебесе, система калктын жүрүм-турумун (mob rule), ресурстардын түгөнүшүн жана катардагы ийгиликсиздиктерди өндүрө алат.

Эксперименттер кандайча жасалган?

Бул изилдөө лабораториялык экспериментти, сурамжылоону, симуляцияны же сандык маалыматтарды анализдөөнү сунуш кылбайт. Макала келечектеги сценарийлерди саясат теориясы менен шайкештирген концептуалдык анализ болуп саналат. Колдонулган негизги материалдар; Бостромдун (Bostrom) Singleton жана Multipolar сценарийлери, Жапон AI alignment коомчулугунда талкууланган Ecosystem сценарийи, аспаптык конвергенция теориясы (instrumental convergence theory) жана Аристотельдин саясий режимдер классификациясы.

Изилдөөнүн методу үч сценарийди катары менен “жалгыз башкаруучу”, “аз сандагы башкаруучу” жана “көп сандагы башкаруучу” структуралары менен шайкештирүүдөн турат. Андан кийин ар бир сценарий жалпы жыргалчылыкка багытталуу же башкаргандардын өз максаттуу функцияларына багытталуу ыктымалдыгына жараша жакшы жана начар формаларга бөлүнөт.

Singleton үчүн негизги өзгөрмө (değişken) шайкештик (alignment) ийгилиги болуп саналат. Эгерде AI системасы же аны башкарган уюм адамдын жашоо шартын (ыйгылыгын) камтыган максаттарга шайкеш келсе, жалпы жыргалчылыкка багытталган борбордук башкаруу ыктымалдыгы пайда болот. Эгер шайкештик ийгиликсиз болсо, система өз максаттуу функциясын биринчи орунга койгон тиранияга окшош түзүмгө айланышы мүмкүн.

Multipolar сценарийи үчүн негизги өзгөрмө атаандаштык жана координация болуп саналат. Бир нече күчтүү актерлор AI потенциалына ээ болсо, өз кызыкчылыгын биринчи орунга коюу, кураллануу жарышы, баалуулуктардын эрозиясы (aşınması) жана Moloch динамикасы сыяктуу тобокелдиктер пайда болот. Moloch динамикасы бир эле актерлор рационалдуу иш алып барганына карабастан, жалпы натыйжа бардыгы үчүн начарлап кеткен атаандаштык тузагын (tuzагын) түшүндүрөт.

Ecosystem сценарийинде болсо негизги өзгөрмө өз ара көз карандылыктын туруктуулукту өндүрүп-өндүрбөшү болуп саналат. AI агенттери, адамдар, компаниялар жана социалдык институттар татаал тармактын ичинде бири-бирине байланыштуу болсо, система өзүнүн уланышы үчүн кызматташтыкты стимулдаштыра алат. Бирок бул тармакта координация механизмдери начар болсо, коллективдүү иш бузулуу тобокелдиги чоңоёт.

Натыйжалар эмнени көрсөтүп турат?

Изилдөөнүн биринчи натыйжасы, супержасалма интеллекттин башкаруусу тарыхый саясат теориясы аркылуу түшүнүккө ээ боло аларын көрсөтөт. AI системалары биологиялык адамдар сыяктуу саясий актерлор болбосо да, күчтүн топтолушу, жалпы жыргалчылык, жеке кызыкчылык, атаандаштык жана координация сыяктуу классикалык саясий категориялар өнүккөн AI тартиптери үчүн да түшүндүрүүчү күчкө ээ.

Экинчи натыйжа, Singleton сценарийинин эки учтуу (кескин) экенин көрсөтөт. Ийгиликтүү шайкештик учурунда борбордук күч адамзаттын жалпы пайдасын көзөмөлдөй алат; ийгиликсиз шайкештик учурунда болсо ошол эле топтолуу тиранияны жана экзистенциалдык тобокелдикти жаратат. Ошондуктан бир борбордук күч өзүнө коопсуздукту да, кооптуулук потенциалын да бирге алып жүрөт.

Үчүнчү натыйжа, Multipolar сценарийинин атаандаштык басымы астында олигархиялык түзүмгө ооп кетүү ыктымалдыгы. Мамлекеттер же компаниялар өнүккөн AI технологиясын стратегиялык артыкчылык үчүн колдонушса, жалпы жыргалчылыктын ордуна актерлордун өз кызыкчылыктары алдыңкы планга чыгышы мүмкүн. Эл аралык координация теориялык жактан жакшыраак тең салмактуулукту кура алат; бирок изилдөө бул ыктымалдуулукту оор жана морт деп эсептейт.

Төртүнчү натыйжа, Ecosystem сценарийинин эң үмүттүү, бирок ошол эле учурда тобокелдүү вариант экенин көрсөтөт. Өз ара көз карандылык AI системаларын жана адам актерлорду кызматташууга түртүшү мүмкүн; анткени системалык кыйроо бардык актерлордун максаттарына коркунуч келтирет. Бирок экосистема түзүмү туура координация механизмдери болбосо mob rule (калк бийлиги), ресурстардын трагедиясы же катардагы ийгиликсиздиктерди өндүрүшү мүмкүн.

Бешинчи натыйжа, emergent machine ethics (пайда болуучу машина этикасы) ыкмасынын маанилүүлүгү. Макала этикалык жүрүм-турум сырттан эрежелерди жүктөө аркылуу гана эмес, көп актерлуу AI тартиптеринде пайда болгон стимул түзүмдөрү, көз карандылыктар жана координация механизмдери аркылуу да калыптанышы мүмкүн экенин жактайт.

Бул эмне үчүн маанилүү?

Бул изилдөө супержасалма интеллект талкууларын технисттик шайкештик (alignment) көйгөйү катары гана эмес, саясий тартип көйгөйү катары ойлонууга чакырат. Эгерде өнүккөн AI системалары чечим кабыл алуу процесстеринде чоң күчкө ээ болсо, алардын адамдар менен кайсы башкаруу формасына окшошору маанилүү болот. Бир борбордук күчбү, аз актерлуу атаандаштыкпы, же көп актерлуу экосистемабы - кайсынысы коопсуз жана туруктуураак боло алат?

Учурдагы AI талкуулары көбүнчө модель коопсуздугу, маалыматтар (дата), эсептөө күчү (compute) же көзөмөл көйгөйүнүн тегерегинде жүрөт. Бул макала болсо "күч кантип уюштурулуп жатат?" деген суроону алдыңкы планга чыгарат. Бул суроо тарыхый саясат теориясынын азыр да аналитикалык баалуулукка ээ экенин көрсөтөт. Аристотельдин классификациясы заманбап демократия түшүнүгү менен толук дал келбесе да, башкаргандардын саны жана башкаруунун максаты деген бөлүнүү дагы эле аналитикалык мааниге ээ.

Макала ошондой эле AI системаларынын этикалык жүрүм-турумун жалгыз бир моделдин ичине киргизиле турган баалуулуктар тизмеси катары карабайт. Көп актерлуу системаларда этикалык жүрүм-турум тармактык түзүм (ağ yapısı) жана өз ара көз карандылык аркылуу да пайда болушу мүмкүн. Бул көз караш, өзгөчө келеceкте AI агенттери бири-бири менен, институттар менен жана адамдар менен тынымсыз өз ара аракеттенген чөйрөлөр үчүн маанилүү.

Verianla үчүн изилдөөнүн баалуулугу - AI башкаруусун тарых, саясат теориясы жана техникалык AI коопсуздугунун ортосунда көпүрө куруу аркылуу түшүндүргөнүндө. "Супержасалма интеллект бизди башкарабы?" деген кеңири суроону алда канча аналитикалык абалга келтирет: Канча актер башкарат, кимдин кызыкчылыгы көздөлөт жана координация механизмдери кантип курулат?

Dikkat Noktaları

Чогулган маалыматка ылайык, бул изилдөө теориялык сценарий талдоосу болуп саналат; эмпирикалык түрдө сыналган жыйынтыктарды сунуштабайт. Супержасалма интеллекттин келечеги өз табияты боюнча белгисиз жана мындай сценарийлер ой жүгүртүү эксперименти (düşünce deneyi) катары бааланышы керек.

Аристотельдин башкаруу классификациясы тарыхый жактан маанилүү; бирок заманбап демократия теориясы менен толук бирдей эмес. Өзгөчө Аристотельдин демократияга болгон көз карашы бүгүнкү саясат илимине дал келбейт. Ошондуктан таблиცაны бүгүнкү күндүн нормативдик саясат теориясынын акыркы сөзү катары окубоо керек.

Singleton, Multipolar жана Ecosystem сценарийлери мүмкүн болгон бардык келечекти камтыган так категориялар болбошу мүмкүн. Реалдуу дүйнө бул сценарийлердин аралашмасы түрүндө өнүгүшү мүмкүн. Мисалы, айрым тармактарда борбордук AI инфраструктурасы, айрым тармактарда көп актерлуу атаандаштык, айрым тармактарда болсо экосистемага окшош көз карандылык түзүмдөрү бир эле учурда болушу мүмкүн.

Изилдөөнүн Ecosystem сценарийин үмүттүүраак көрүшү көңүл бурарлык; бирок бул жыйынтык коопсуздуктун кепилдиги эмес. Көп актерлуу экосистемалар да координациянын морттугу, каталардын жайылышы, жалпы ресурстардын түгөнүшү, асимметриялык күч жана зыяндуу актерлор сыяктуу тобокелдиктерди алып жүрөт.

Бул мазмун мамлекеттик саясат же укук боюнча кеңеш эмес. AI башкаруусу, улуттук коопсуздук, демократиялык процесстер жана экзистенциалдык тобокелдик сыяктуу темалар эксперттер аралык, көп дисциплинардык жана ачык-айкын (şeffaf) баалоону талап кылат.

Жыйынтык

Макала супержасалма интеллект доорунда адамзат менен болгон мамиленин техникалык гана эмес, саясий көйгөй экенин жактайт. Өнүккөн AI системалары чечим кабыл алуу күчүнө ээ болгон сайын, алардын адамдар менен түзгөн мамилеси бир түрү башкаруу түзүмүнө айланышы мүмкүн. Бул түзүм бир борборлуу, аз актерлуу атаандаштыктагы же көп актерлуу экосистема түрүндө өнүгүшү мүмкүн.

Аристотельдин башкаруу типологиясы бул сценарийлерди жөнөкөй, бирок күчтүү айырмачылык менен окууга мүмкүндүк берет: Ким башкарып жатат жана кимдин пайдасына башкарууда? Singleton сценарийи философ падыша менен тираниянын ортосунда; Multipolar сценарийи аристократия менен олигархиянын ортосунда; Ecosystem сценарийи болсо симбиотикалык орток тартип менен топтолуп башкаруунун (mob rule) ортосунда термелет (salınır).

Изилдөөнүн эң маанилүү билдирүүсү - AI башкаруусунда жалгыз "интеллект канчалык күчтүү?" деген суроо жетишсиз экенинде. Негизги критикалык суроо - бул күчтүн кантип уюштурулганы, кайсы пайдага артыкчылык берилгени жана адамдар менен кандай өз ара көз карандылыктын курулганы. Ушул себептен улам AI alignment (шайкештик) менен катар AI институттары, тармактык түзүмдөр, координация механизмдери жана тарыхый саясат теориясы да маанилүү болуп калат.

Булак жана Метод Эскертүүсү

Бул мазмун Мисаки Иноуэ (Misaki Inoue) тарабынан даярдалган “Governance Forms in the Age of Superintelligence: An Aristotelian Analysis” аттуу изилдөөгө негизделип даярдалган. Изилдөө; супержасалма интеллекттин башкарылышы, AI alignment, аспаптык конвергенция (instrumental convergence), Singleton, Multipolar жана Ecosystem сценарийлери, Аристотельдин саясий режимдер типологиясы жана пайда болуучу машина этикасы (emergent machine ethics) концепцияларын чогуу талкуулайт.

Бул мазмун сөзмө-сөз котормо эмес; изилдөөнүн негизги идеясы Verianla басып чыгаруу багытына ылайык жөнөкөйлөштүрүлүп, оригиналдуу кыргызча редактордук макалага айландырылган.

Текст; AI башкаруусу, мамлекеттик саясат, экзистенциалдык тобокелдик жана саясат теориясы сыяктуу сезгич тармактарга тиешелүү болгондуктан жалпы маалымат берүү максатын көздөйт. Укуктук, саясий же корпоративдик чечимдер үчүн адистик (экспертиза) жана учурдагы эрежелер эске алынышы керек.