Бул теориялык эмгек алгоритмдик башкаруу адамды көбүрөөк окулуучу, божомолдончу жана көзөмөлдөнчү кылуу үчүн анын тажрыйбасын тар категорияларга айлантат деп талашат. Автор муну онтологиялык кысуу деп атайт. Башкача айтканда, адамдын көп катмарлуу, үзгүлтүксүз жана контекстке бай жашоо тажрыйбасы машиналар иштете ала турган чектелген белгилерге, упайларга жана класстарга бөлүнүп калат.

Негизги маселе

Санарип системалар адам жүрүм-турумун түшүнүү үчүн көбүнчө өлчөнө турган белгилерге таянышат: жүз кыймылы, жүрөк кагышы, чыкылдатуу тарыхы, өндүрүмдүүлүк көрсөткүчү же жүрүм-турум үлгүсү. Бирок автордун негизги суроосу мындай: окулуучу нерсе адам тажрыйбасынын толугу менен өзүбү? Эгер система эмнени маанилүү сигнал деп, эмнени “шум” деп четке какса, анда ал адамды нейтралдуу чагылдырбайт, тескерисинче аны өзүнө ылайык формага салып жатат.

Ыкма

Бул иш эксперимент эмес. Ал философия, сынчыл маалымат изилдөөлөрү, өлчөө логикасы жана аффект теориясынан пайдаланып, алгоритмдик классификациянын чектерин теориялык жактан талдайт. Автор өзгөчө эмоцияны таануу системаларын мисал кылат: жүздөн эмоция чыгаруу, физиологиялык сигналдардан ички абалды божомолдоо же жүрүм-турумдан ниет окуу сыяктуу ыкмалар адам тажрыйбасын ашыкча жөнөкөйлөштүрүшү мүмкүн.

Натыйжалар

Эмгектин негизги тыянагы – көбүрөөк маалымат же татаалыраак модель дайыма эле адамды жакшыраак түшүндүрөт дегенди билдирбейт. Эгер баштапкы өкүлчүлүк өзү эле тар болсо, анда деталдуулук көбөйгөнү менен тажрыйбанын тирүү, белгисиз жана өзгөрмө мүнөзү жоголушу мүмкүн. Автордун айтуусунда, адамдын сезими менен абалы дайыма эле туруктуу категорияларга батпайт.

Ошондуктан сунушталган “чыгуу укугу” системалардан толук качуу эмес. Бул адам тажрыйбасынын ар бир тарабы сөзсүз өлчөнүп, бааланып жана оптималдаштырылууга тийиш эмес деген чектөөнү талап кылган этикалык позиция. Белгисиздик, кыйыр туюнтуу, контекст жана өлчөнбөгөн калдык да корголууга тийиш.

Эмне үчүн бул маанилүү?

Бул маселе жумушка алуу, билим берүү, саламаттык, коопсуздук, жарнама жана платформалык башкаруу сыяктуу тармактарга тиешелүү. Эгер адамдын баасы система окуй алган белгилер менен гана аныкталса, анда өлчөнбөгөн жактары маанисиз болуп калат. Бул болсо адамды ыңгайлуу эсептелүүчү объектке айлантуу коркунучун күчөтөт.

Verianla үчүн негизги билдирүү ушунда: жасалма интеллект доорунда этика жөн гана “модель туурабы?” деген суроо менен бүтпөйт. Андан да терең суроо бар — система бизди түшүнүүгө аракет кылып жатып, ошол эле учурда бизди тар формада жашоого мажбурлап жатпайбы?