Изилдөө коллективдик интеллект бир темада көп адамдын пикир билдириши менен гана пайда болбой турганын ырастайт. Топ чындап такыраак чечим кабыл алышы үчүн анын мүчөлөрү ар башка көз карашка ээ болуп, бири-биринен көз карандысыз ойлонуп жана каталары бир эле багытта топтолбошу керек.

Автордун борбордук түшүнүгүн “түзүмдүк оппозиция” же “институтташтырылган каршы көз караш” деп которууга болот. Бул түшүнүк чечим кабыл алуу процесстеринде жок дегенде бир гетеродокс, башкача айтканда үстөм пикирден айырмаланып ойлонгон перспектива институттук түрдө орун алышы керектигин билдирет. Бул жердеги максат жөн эле каршы чыгуу эмес; системанын өз катасын көрө алышын камсыз кылуу.

Изилдөө үч башка тармактан мисал келтирет: статистикадагы калктын акылмандыгы, Талмуддагы Sanhedrin сотунун бир добуштан күнөөлүү деп табылган учурда актоо эрежеси жана философияда Mill менен Feyerabendдин башка пикирге берген мааниси. Акыркы бөлүмдө чоң тил моделдеринин, башкача айтканда ChatGPT сыяктуу жасалма интеллект системаларынын, ой жана билдирүү ар түрдүүлүгүн стандартташтыруу коркунучу талкууланат.

Көйгөй эмнеде?

Бир топ адам бир эле жыйынтыкка келгенде бул көп учурда ишенимдүү көрүнөт. Илимий кеңештер, соттор, клиникалык командалар, саясий комиссиялар же жасалма интеллект колдогон изилдөө топтору жалпы чечимге бириккенде, мындай биримдик көп учурда “бекем далил” сыяктуу кабыл алынат. Бирок изилдөө мындай ишеним ар дайым негиздүү эмес экенин ырастайт.

Негизги көйгөй мындай: Эгер топтогу адамдардын каталары бири-биринен көз карандысыз болбосо, башкача айтканда баары бир эле булактардан, бир эле божомолдордон жана бир эле көз караштан таасир алса, топтун чоң болушу аны ишенимдүүрөөк кылбайт. Тескерисинче, топ бир эле катаны андан да жогорку ишеним менен кайталашы мүмкүн.

Бул абал “топтук ой жүгүртүү” деп аталган көйгөй менен байланыштуу. Топтук ой жүгүртүү — команданын ичинде шайкештик жана пикир биримдиги басымы сынчыл ой жүгүртүүнү алсыраткан көрүнүш. Адамдар ачык түрдө башкача ойлонуудан качат, альтернативдүү сценарийлер жетиштүү изилденбейт жана система жаңылыш чечимге тезирээк кулпуланат.

Изилдөөнүн негизги суроосу ушул жерде пайда болот: Илим, укук, медицина, саясат жана жасалма интеллект колдогон билим өндүрүшү сыяктуу тармактарда системалар өз каталарын көрө алышы үчүн каршы пикирди кантип институттук милдетке айландырууга болот?

Ыкма эмнени сунуштайт?

Изилдөө эксперименттик изилдөө жүргүзбөйт. Жаңы сурамжылоо, клиникалык өлчөө, лабораториялык эксперимент же маалымат топтомун сунуштабайт. Анын ордуна теориялык жана дисциплиналар аралык аргумент курат.

Автор үч негизги булак тармагын бириктирет. Биринчи булак — статистика. Francis Galton 1907-жылы баяндаган өгүздүн салмагын болжолдоо мисалы көз карандысыз божомолдордун орточо мааниси чындыкка абдан жакындай аларын көрсөтөт. Бирок мындай натыйжа топ чындап көз карандысыз жана ар түрдүү пикирлерден түзүлгөндө гана мүмкүн.

Экинчи булак — укук жана салт. Талмуддагы Sanhedrin сотунда өлүм жазасы каралган иште бардык соттор бир добуштан күнөөлүү деген чечим чыгарса, айыпталуучуну актоого алып келиши мүмкүн болгон эреже катары каралат. Изилдөө бул эрежени тарыхый максаты жагынан эмес, функционалдык окшоштук катары колдонот: Эч ким каршы аргумент таба албаган система сынчыл көзөмөлүн жоготкон болушу мүмкүн.

Үчүнчү булак — философия. John Stuart Millден Paul Feyerabendге чейин созулган салтта башка пикир сөз эркиндигинин маселеси гана эмес, билимдин өзүн оңдоо механизми катары бааланат. Изилдөө бул үч линияны жасалма интеллект доорундагы когнитивдик гомогендешүү талкуусуна байланыштырат.

Формулалар эмнени түшүндүрөт?

Бул изилдөөдө статистикалык ой жүгүртүүнү түшүндүргөн негизги формулалар бар. Формулалар топтор эмне үчүн кээде абдан так, кээде болсо өтө жаңылыш чечим чыгарарын көрсөтүү үчүн колдонулат.

Топтун жалпы божомолун жеке божомолдордун орточо мааниси катары жазууга болот:

Бул жерде \(\bar{x}\) коллективдик божомолду, \(n\) божомол берген адамдардын санын, \(x_i\) болсо ар бир адамдын божомолун көрсөтөт. Эгер жеке адамдардын каталары бири-биринен көз карандысыз болсо, ар башка багыттагы каталар бири-бирин жарым-жартылай теңдейт. Айрымдар ашыкча, айрымдар кем баалап, орточо маани чындыкка жакындашы мүмкүн.

Изилдөөдө коллективдик божомолдун дисперсиясы төмөнкү түзүлүш менен берилет:

Бул формулада \(Var(\bar{x})\) жалпы божомол канчалык өзгөрмөлүү же катага жакын экенин көрсөтөт. \(Cov(\varepsilon_i,\varepsilon_j)\) болсо эки адамдын ката багыттары чогуу кыймылдайбы же жокпу билдирет. Эгер баары бир эле бир жактуулуктан таасир алса, каталар бир багытка кетет жана бири-бирин теңдебейт.

Каталар көз карандысыз болгондо ковариация мүчөлөрү жок болуп, коллективдик божомолдун белгисиздиги төмөнкүдөй азаят:

Бул туюнтма көз карандысыз байкоочулардын саны көбөйгөн сайын жалпы божомол такыраак боло аларын түшүндүрөт. Бирок бул каталар көз карандысыз болгондо гана жарактуу. Эгер каталар байланыштуу болсо, башкача айтканда баары бир эле моделден, бир эле авторитеттен, бир эле маалымат чыпкасынан же бир эле социалдык басымдан таасир алса, адамдардын санын көбөйтүү күтүлгөн оңдоочу таасирди бербейт.

Изилдөөнүн статистикалык билдирүүсү мындай: Топту акылман кылган нерсе анын көптүгү эмес, ката бөлүштүрүүсүнүн бири-биринен көз карандысыз жана ар түрдүү болушу. Ошондуктан түзүмдүк оппозиция демократиялык сылыктык гана эмес, катаны оңдоо механизми.

График, таблица жана схеманын негизги билдирүүсү

Изилдөөдө классикалык мааниде визуалдык графиктер же таблицалар үстөмдүк кылбайт. Бирок текст күчтүү концептуалдык схема аркылуу жүрөт. Бул схеманын борборунда “Gaussian”, башкача айтканда коңгуроо ийри сызыгы идеясы турат.

Нормалдуу бөлүштүрүү деп да аталган Gaussian бөлүштүрүүсү ар башка жеке божомолдордун бир борбордун айланасына таралышын түшүндүрүү үчүн колдонулат. Эгер жеке каталар көз карандысыз болсо, бөлүштүрүүнүн ар башка учтары бири-бирин теңдейт. Четтеген, адаттан тыш же азчылыкта калган пикирлер бул бөлүштүрүүнүн учтарын түзүп, системанын сокур чекиттерин көрүнүктүү кыла алат.

Бирок топтук ой жүгүртүү же бир типтүү жасалма интеллект колдонуу сыяктуу учурларда бөлүштүрүү тарышат. Баары окшош жоопторду чыгара баштайт. Мындайда коңгуроо ийри сызыгы кең жана оңдоочу түзүлүш болуудан чыгып, бир гана курч чекитке кысылат. Автор муну “дисперсиянын кыйрашы” деп чечмелейт. Дисперсиянын кыйрашы — айырмачылыктардын азайышы жана ката булактарынын бир багытка тизилиши.

Изилдөөнүн схемалык негизги билдирүүсү мындай: Ар башка пикирлер системанын тышкы ызы-чуусу эмес, коллективдик интеллекттин катаны оңдоочу органы. Мекеме каршы пикирди кокустукка калтырса, өзүнүн ишенимдүүлүгүн да кокустукка калтырат.

Эксперименттер кантип жүргүзүлгөн?

Бул изилдөө түздөн-түз эксперимент жүргүзбөйт. Анын ордуна статистикалык аргументтер, укук тарыхындагы мисалдар, философиялык тексттер, клиникалык чечим кабыл алуу практикасы жана жасалма интеллект адабиятындагы табылгалар аркылуу теориялык синтез курат.

Статистикалык мисал катары Galtonдун топтук божомолдору каралат. Бул жердеги негизги идея — көз карандысыз божомолдордун орточо мааниси чындыкка жакындай алышы. Бирок бул мисалдын изилдөөдөгү негизги функциясы — калктын акылмандыгы кайсы шарттарда пайда болорун көрсөтүү.

Укуктук мисал катары Sanhedrinдин бир добуштуулук эрежеси талкууланат. Автор бул эрежени чечим кабыл алуу системаларында милдеттүү каршы аргументтин маанисин көрсөтүү үчүн колдонот. Заманбап мисал катары Израилдин аскердик чалгындоосунда Yom Kippur согушунан кийин өнүккөн кызыл команда логикасы айтылат. Кызыл команда — үстөм интерпретацияны суроо астына коюу жана альтернативдүү сценарийлерди милдеттүү түрдө текшерүү милдети жүктөлгөн топ.

Клиникалык практика мисалында шишик кеңештериндеги клиникалык фармацевттин ролу алдыга чыгарылат. Клиникалык фармацевт дарылоо чечимин дарыгер менен бир эле перспективадан эмес; дары-дармек өз ара таасирлери, доза, фармакокинетика жана популяция деңгээлиндеги далилдер жагынан карайт. Бул айырма кеңештин ката бөлүштүрүүсүн ар түрдүү кылышы мүмкүн.

Жасалма интеллект бөлүмүндө чоң тил моделдеринин интеллектуалдык ар түрдүүлүккө таасири талкууланат. Автор бул системалар идеялар мейкиндигин кеңейте аларын кабыл алат; бирок ошол эле учурда миллиондогон колдонуучулар бир эле моделдер аркылуу ой өндүргөндө билдирүү формалары жана ой жүгүртүү жолдору окшошуп кетиши мүмкүн экенин ырастайт.

Жыйынтыктар эмнени көрсөтөт?

Изилдөөнүн биринчи жыйынтыгы — бир добуштуулук ар дайым ишенимдүүлүктүн белгиси эмес. Белгисиздик камтыган татаал системаларда толук макулдашуу кээде система чындап туураны тапканын эмес, альтернативдүү көз караштар басылганын көрсөтүшү мүмкүн.

Экинчи жыйынтык — коллективдик интеллекттин негизги булагы адамдардын саны эмес, каталардын көз карандысыздыгы. Көп адам бир эле бир жактуулуктан таасир алса, көпчүлүк болуу катаны оңдобойт. Тескерисинче, кичирээк, бирок чындап башкача ойлогон топ күчтүүрөөк эпистемикалык түзүлүш түзө алат. Эпистемикалык — билимге жана анын ишенимдүүлүгүнө тиешелүү дегенди билдирет.

Үчүнчү жыйынтык — түзүмдүк оппозиция инсандык өзгөчөлүк эмес, институттук дизайн маселеси. Автор “айкыр адамды” өзгөчө мүнөздүү, жалгыз, эр жүрөк же акылдуу адам катары эмес, система аң-сезимдүү түрдө дайындаган роль катары көрөт. Маанилүүсү ал адам ар дайым туура болушу эмес. Маанилүүсү — система каршы аргументти чындап текшербей туруп чечимге келе албашы.

Төртүнчү жыйынтык — чоң тил моделдери эки багыттуу таасир берет. Бул моделдер ар башка дисциплиналардагы маалыматка жетүүнү жеңилдетип, тил тоскоолдуктарын азайтып жана жаңы байланыштарды түзүүгө жардам бере алат. Бирок баары бир эле модель сунуштаган сүйлөм калыптары, аргумент түзүлүштөрү жана түшүндүрмө формалары менен ойлоно баштаса, коллективдик когнитивдик ар түрдүүлүк азайышы мүмкүн.

Бешинчи жыйынтык — model collapse коркунучу. Model collapse жасалма интеллект моделдери барган сайын көбүрөөк AI өндүргөн мазмун менен үйрөтүлгөндө бөлүштүрүүнүн учтарындагы сейрек, оригиналдуу жана азчылыкта калган туюнтмалар жоголушу мүмкүн дегенди билдирет. Мындай учурда система жылмакай жана орточо жоопторду көбүрөөк чыгарып, интеллектуалдык ар түрдүүлүктүн чектик көрүнүштөрүн алсыратышы мүмкүн.

Бул эмне үчүн маанилүү?

Бул изилдөө маанилүү, анткени бүгүнкү мекемелерде жана санарип билим чөйрөсүндө эң чоң коркунучтардын бири ачык жаңжал эмес, үнсүз окшошуу. Баары бир эле маалыматка, бир эле жасалма интеллект куралдарына, бир эле академиялык нормаларга же бир эле институттук күтүүлөргө дуушар болгондо, башка идеялар пайда боло электе эле тегизделип калышы мүмкүн.

Илимде бул абал peer review бир дисциплинанын ичинен чыккан окшош көз караштарга камалып калышы менен көрүнүшү мүмкүн. Медицинада бирдей билим жана клиникалык адаттарды бөлүшкөн командалар альтернативдүү дарылоо же тобокел сценарийлерин жетиштүү талкуулабай калганда пайда болушу мүмкүн. Укукта бир добуштуулук сынчыл көзөмөлсүз эле тактык сезимин жаратып көйгөй туудурушу мүмкүн. Жасалма интеллектте болсо бир модель миллиондогон адамга окшош сунуштарды берип, ой бөлүштүрүүсүн тарылта алат.

Изилдөөнүн негизги салымы — оппозицияны сөз эркиндиги же демократиялык өкүлчүлүк маселеси катары гана эмес, билим өндүрүшүнүн техникалык шарты катары кароосу. Каршы пикир жок болсо системанын катасын өлчөө да татаалдашат. Dissent, башкача айтканда башка пикир, системанын өзүнө берген “Эгер жаңылып жатсакчы?” деген суроосу.

Бул көз караш жасалма интеллект доорунда андан да маанилүү. Анткени чоң тил моделдери барган сайын изилдөө, жазуу, саясат иштеп чыгуу, билим берүү, коддоо, жаңылык жана институттук чечим процесстеринде жардамчы куралга айланууда. Бул куралдарды колдонуу бир эле моделге же тар модель үй-бүлөсүнө топтолсо, билим өндүрүшү байкалбай стандартташышы мүмкүн.

Эске алынуучу жагдайлар

Изилдөөнүн биринчи эскертүүсү — preprint болушу. Текст peer reviewдан өткөн эмес. Ошондуктан сунушталган аргументтер күчтүү жана талкууга татыктуу болгону менен, такталган академиялык жыйынтыктар катары берилбеши керек.

Экинчи эскертүү — оппозицияны чексиз даңазалоо туура эмес. Автор да ар бир темада көбүрөөк каршылык ар дайым жакшы жыйынтык берет деп ырастабайт. Ашыкча оппозиция чечим кабыл алуунун токтоп калышына, ызы-чууга жана координациянын жоголушуна алып келиши мүмкүн. Изилдөө жактаган нерсе — жок дегенде бир түзүмдүк каршы көз караштын ажырагыс болушу.

Үчүнчү эскертүү — “айкыр көз караш” менен негизсиз каршы чыгууну аралаштырбоо. Түзүмдүк оппозиция далилге таянган, системалуу жана чечим процессин күчөткөн каршы аргументти билдирет. Ар бир доомат башкача болгону үчүн эле баалуу эмес; анын баасы системалуу катаны текшерүү жөндөмүнөн чыгат.

Төртүнчү эскертүү — жасалма интеллектти гомогендештирүүчү коркунуч катары гана көрбөө. Изилдөө чоң тил моделдери маалыматка жетүүнү кеңейтип жана дисциплиналар аралык ой жүгүртүүнү колдой аларын кабыл алат. Коркунуч — бул куралдардын бир типтүү жана үстөм чыпкага айланышы.

Бешинчи эскертүү — клиникалык мисалдарды медициналык чечим сунушу катары окубоо. Шишик кеңеши жана клиникалык фармацевт мисалы ар башка адистиктер каталардын көз карандысыздыгына кандай салым кошо аларын көрсөтүү үчүн колдонулган; белгилүү дарылоо сунушун билдирбейт.

Жыйынтык

Изилдөөнүн негизги билдирүүсү так: Коллективдик интеллект көпчүлүк өзүнөн-өзү жараткан керемет эмес. Туура шарттар камсыздалбаса, көпчүлүк бир эле катага андан да чоң ишеним менен байланып калышы мүмкүн. Ошондуктан маанилүүсү көп адамдын бир пикирде болушу эмес; ар башка ката булактары бири-бирин теңдей тургандай система ичинде орун алышы.

Түзүмдүк оппозиция ошондуктан люкс эмес, билим өндүрүшүнүн коопсуздук механизми. Сотто, илимий кеңеште, клиникалык командада, саясат комиссиясында же жасалма интеллект колдогон изилдөө процессинде жок дегенде бир каршы перспектива институттук түрдө кепилденбесе, система өзүнүн сокур чекитин көрө албай калышы мүмкүн.

Автордун жасалма интеллект тууралуу эскертүүсү да ушул жерге байланышат. Чоң тил моделдери адамдардын маалыматка жетүүсүн кеңейтүү менен бирге ой жана билдирүү формаларын окшоштурушу мүмкүн. Эгер миллиондогон адам ар башка идеяларын бир эле жасалма интеллект чыпкасынан өткөрсө, баштапкы ар түрдүүлүк сакталгандай көрүнөт; бирок идеяларды иштетүү ыкмасы барган сайын стандартташышы мүмкүн.

Ошондуктан келечектеги билим системаларында тез жооп, жылмакай текст жана чоң маалымат гана жетишсиз. Мекемелер жана жасалма интеллект колдогон процесстер каршы пикирди кокустукка калтырбаган түзүлүштөрдү курушу керек. Анткени кээде системаны кармап турган нерсе көпчүлүктүн үнү эмес, ошол көпчүлүккө берилүүгө тийиш болгон оор суроо.