Манифолди нейронӣ, равиши намояндагист, ки мувофиқи он рафторе, ки шумораи зиёди нейронҳо ё воҳидҳои шабакаи сунъӣ дар фазои фаъолияти баландандоза ба вуҷуд меоранд, дар рӯи сатҳи геометрии камандоза тартиб меёбад. Таҳқиқоти Frederick Roth фарзияеро пешниҳод мекунад, ки омӯзиши мафҳумҳо дар инсон ва намояндагиҳои мафҳумӣ дар моделҳои забонии омӯзонидашуда ду механизми гуногун нестанд, балки ду зуҳури сохтори ҷазбкунандаи камандозаанд, ки тавассути тақвият шакл гирифтаанд. Дар ин чорчӯба мафҳумҳо ба ҷойи он ки ҳамчун таърифҳои алоҳидаи рамзӣ нигоҳ дошта шаванд, ҳамчун минтақаҳои зичи геометрӣ баррасӣ мешаванд, ки таҷрибаҳои монанд онҳоро такроран фаъол мекунанд ва ҳолати система майли бозгашт ба онҳо дорад. Мақола натиҷаи мустақими ин равишро барои амнияти зеҳни сунъӣ пешниҳод мекунад: ба ҷойи танҳо саркӯб кардани рафтори номатлуб, худи рафтори дилхоҳро ҳамчун ҷазбкунандаи мусбат ва номгузоришудаи мафҳумӣ омӯзонидан. Муаллиф ин усулро Concept Programming (CP) меномад. Дар пилоти гузоришшуда дар модели Llama 3.2 бо 3 миллиард параметр, CP дар 36 ҳолати governance-safety дақиқии %94,4 нишон додааст, дар ҳоле ки шарти punishment-analog бо чорчӯбаи манфӣ %77,8 ва назорати беомӯзиш %47,2 дақиқӣ нишон додааст. Бо вуҷуди ин, шарти punishment-analog RLHF-и воқеии миқёси истеҳсолӣ нест; таҳқиқот нишон намедиҳад, ки CP мустақиман ва таҷрибавӣ аз RLHF беҳтар аст. Ҳамчунин натиҷаҳои рафтории гузоришшуда ченаки мустақими геометрияи манифолд нестанд. Аз ин рӯ, фарзияи асосии ҳамсонии механизми инсон–AI ҷолиб ва санҷишпазир аст, аммо ҳанӯз натиҷаи собитшудаи илмӣ нест.

Мақола доираи худро махсусан маҳдуд муайян мекунад. Муаллиф ошкоро мегӯяд, ки ин матн хулосаи кӯтоҳи китоб ва ду кори техникии companion аст ва манбаи ибтидоии иддаоҳои дар ин ҷо овардашуда худи ин мақолаи 7-саҳифагӣ нест. Протоколҳои пурраи таҷрибаҳо, натиҷаҳои иловагӣ ва код ба корҳои дигар вогузор шудаанд.

Ин фарқ муҳим аст; зеро таҳқиқот аз як тараф илми маърифатӣ, маҷмуаҳои ҳуҷайравии навъи Hebb, омӯзиши категорияҳо ва шабакаҳои attractor-ро дар як тавсифи геометрӣ муттаҳид мекунад ва аз тарафи дигар аз таҷрибаҳои пилотии хурд барои меъмории ҳамоҳангсозии зеҳни сунъӣ натиҷаҳои назариявии васеътар мебарорад. Аз назари Verianla, равиши дуруст ин аст, ки ин натиҷаҳо на ҳамчун «қонуни умумии исботшудаи амнияти зеҳни сунъӣ», балки ҳамчун далелҳои ибтидоии барномаи таҳқиқотӣ бо маҳдудиятҳои возеҳи таҷрибавӣ пешниҳод шаванд.

Манифолди Нейронӣ Чист?

Манифолди нейронӣ ин ғоя аст, ки ҳолатҳои система дар фазои хеле баландандозаи фаъолияти нейронӣ дар асл дар рӯи сатҳи муназзами хеле камандоза ҷамъ мешаванд; дар ин равиш иттилооти намояндагишуда на дар маъноҳои собити нейронҳои алоҳида, балки дар ҷойгоҳ ва ҳаракати фаъолияти система дар рӯи ҳамин сатҳи геометрӣ рамзгузорӣ мешавад.

Шабакаи нейронӣ метавонад миллионҳо ё миллиардҳо параметри алоҳида дошта бошад. Бо вуҷуди ин, намунаҳои фаъолияте, ки ҳангоми иҷрои вазифаи муайян пайдо мешаванд, маҷбур нестанд тамоми фазои эҳтимолии баландандозаро истифода баранд. Агар фаъолшавиҳо дар самтҳои муайян ҷамъ шаванд, рафтори системаро метавон дар рӯи сохтори геометрии камандоза шарҳ дод.

Дар равиши мафҳумии манбаъ, узвият дар категория низ тавассути ҳамин сохтори геометрӣ фаҳмида мешавад. Як мисол шарт нест ҳатман «дар дохил» ё «берун»-и категорияи муайян бошад; ҷойгоҳи он дар манифолд метавонад ба минтақаи категория бо дараҷаҳои гуногун наздик бошад. Ҳамин тавр, гуфта мешавад, ки рафторҳои дараҷавӣ, аз ҷумла шинохти аъзои типӣ ва ғайритипии категория бо суръат ё эътимоди гуногун, қобили шарҳ мешаванд.

Чаро узвият дар категория дараҷавӣ аст?

Манбаъ бо такя ба таҳқиқоти категорияҳои Eleanor Rosch таъкид мекунад, ки дар бисёр мафҳумҳои рӯзмарра узвият комилан дуӣ нест. Баъзе мисолҳо барои категория типитар менамоянд, дар ҳоле ки дигарон метавонанд дар марз қарор гиранд. Дар равиши манифолд сабаб ин аст, ки мафҳум на ҳамчун рӯйхати сахти шартҳои рамзӣ, балки ҳамчун минтақаи геометрӣ баррасӣ мешавад.

Равиши «монандии оилавӣ»-и Wittgenstein низ дар ҳамин замина ҷой дода мешавад. Шояд ягон хусусияти ягонаи умумӣ набошад, ки ҳамаи мисолҳои категория бояд онро дошта бошанд; ягонагии категория метавонад аз сохтори минтақавие ба вуҷуд ояд, ки бо ҳампӯшии хусусиятҳои мисолҳо шакл мегирад.

Сохтори Ҷазбкунанда Чист ва Бо Омӯзиши Мафҳум Чӣ Гуна Пайванд Дорад?

Сохтори ҷазбкунанда (attractor), майли фаъолияти система ба сӯи минтақаи муайян ва бозгашт ба ҳамон минтақа пас аз инҳирофҳои хурдро ифода мекунад. Манбаъ пешниҳод мекунад, ки мафҳумҳои омӯхташударо на ҳамчун як занҷири собити нейронӣ, балки ҳамчун минтақаҳои устувор ва зичи манифолд бо марзҳои дараҷавӣ тасаввур кардан мумкин аст.

Мафҳуми маҷмуаи ҳуҷайравии Donald Hebb ҳамчун пояи таърихӣ ба ин тавсиф ворид карда мешавад. Hebb пешниҳод карда буд, ки гурӯҳҳои ҳуҷайраҳое, ки такроран ҳамзамон фаъол мешаванд, бо гузашти вақт метавонанд воҳиди функсионалии якҷоякорро ташкил кунанд.

Roth ин ғояро бо забони геометрӣ аз нав тафсир мекунад: маҷмуаи ҳуҷайравӣ ба ҷойи рӯйхати тағйирнопазири аъзои муайян метавонад ҳамчун минтақаи манифолд баррасӣ шавад, ки фаъолият дар он такроран ҷамъ мешавад.

Дар ин модел тақвият танҳо ҳодисае нест, ки натиҷаи муайянро мукофот медиҳад. Он ҳамчун механизми шаклгирии геометрӣ тафсир мешавад, ки фаъолияти такрорӣ роҳҳо ва минтақаҳои муайяни фазои ҳолати системаро дастрасшаванда‌تر мегардонад.

Монандии «groove», яъне ҷӯяк, чӣ маъно дорад?

Калимаи «groove» дар унвони таҳқиқот ва китоб ғояи истифодаи такрориро ифода мекунад. Ҳар қадар ки як рафтор ё намунаи мафҳумӣ такроран фаъол шавад, ба система боз расидан ба ҳамон минтақаи фаъолият осонтар мегардад.

Ин маънои мавҷуд будани ҷӯяки физикиро надорад. Метафораи геометрии манбаъ фарзияеро тавсиф мекунад, ки рафторҳои омӯхташуда метавонанд ҳамчун роҳҳои афзалиятнок ё минтақаҳои устувор дар фазои фаъолияти баландандоза намояндагӣ шаванд.

Чаро як мафҳум танҳо бо як манифолд маҳдуд дониста намешавад?

Манбаъ пешниҳод мекунад, ки як малакаи идрокӣ ё ҳаракатиро метавон дар як соҳаи намояндагӣ баррасӣ кард, аммо мафҳумҳои васеътар бояд модалиятҳои гуногунро муттаҳид созанд. Масалан, мафҳуми «саг» шакли визуалӣ, садо, ҳаракат ва дигар навъҳои таҷрибаро дар як сохтори мафҳумӣ пайваст мекунад.

Дар ин ҳолат саволе ба миён меояд, ки сохтори умумии соҳаҳои ҷудогонаи таҷриба чӣ гуна муттаҳид карда мешавад. Roth дар ин ҷо аз равиши interference matching-и Hayes-Roth ва McDermott аз соли 1978 истифода мекунад.

Interference Matching Чист?

Interference matching, равишест, ки сохторҳои хусусиятии фаъолшуда аз чанд мисоли як мафҳумро болои ҳам мегузорад ва сохтори умумии такроршавандаро байни онҳо ҷудо мекунад; манбаъ онро ҳамчун механизми ташаккули абстраксияи мафҳумии умумитар аз таҷрибаҳои гуногун баррасӣ мекунад.

Ба таъбири манбаъ, ин равандро метавон ба таври расмӣ ба ҳисоб кардани буриши маҷмуаҳои унсурҳое монанд кард, ки ҳар як мисол фаъол мекунад. Хусусиятҳои тасодуфӣ ё вобаста ба контекст дар як мисол байни такрорҳо гум мешаванд, дар ҳоле ки комбинатсияҳои хусусиятҳои умумӣ қавитар мегарданд.

Roth ин равишро на ҳамчун нигоҳдории як схема ё прототипи рамзӣ, балки ҳамчун ташаккули хотираи дараҷавӣ барои комбинатсияҳои хусусиятҳое, ки якҷоя пайдо мешаванд, тафсир мекунад.

Сохтори нави иттилоот ҳангоми истифода чӣ гуна тағйир меёбад?

Манбаъ каҷи интиқоли семарҳилавиро, ки дар таҳқиқоти Barbara Hayes-Roth аз соли 1977 гузориш шудааст, ҷудогона нишон медиҳад:

1. Осоншавии ибтидоӣ: сохтори нави иттилоот дар баъзе вазифаҳо бартарии аввалия медиҳад.
2. Марҳилаи Recovery: даврае ба вуҷуд меояд, ки зеркомпонентҳои умумӣ ҳангоми консолидация бо ҳам рақобат мекунанд.
3. Марҳилаи асимптотикӣ: сохтори иттилоот устувортар мегардад.

Муаллиф махсус ҷудо мекунад, ки ин натиҷаи семарҳилавӣ ба Barbara Hayes-Roth тааллуқ дорад; модели property-set бошад таърихи дигар дорад, ки аз кори Frederick Hayes-Roth дар соли 1974 оғоз шуда, баъдан якҷоя инкишоф ёфтааст.

Мушкилоти Пайвасти Рамзӣ Чист?

Мушкилоти пайвасти рамзӣ як мушкили мувофиқсозии комбинаторӣ аст, ки вақте пайдо мешавад, ки системаи рамзӣ бояд муайян кунад нақшҳои тағйирёбандаҳои абстрактӣ ба объектҳои воқеии саҳна чӣ гуна таъин шаванд. Манбаъ намегӯяд, ки намояндагиҳои манифолд ин мушкилро тезтар «ҳал» мекунанд; баръакс, пешниҳод мекунад, ки бо аз аввал истифода накардани шакли намояндагие, ки пайвасти тағйирёбанда–қиматро талаб мекунад, худи мушкил аз байн меравад.

Системаи рамзӣ метавонад, масалан, як робитаро чунин намояндагӣ кунад:

above(block-A, block-B)

Агар қоидаи умумӣ ба объектҳои гуногун татбиқ шавад, система бояд муайян кунад, ки кадом объект кадом нақши тағйирёбандаро пур мекунад. Бо зиёд шудани шумораи объектҳо ва робитаҳо шумораи мувофиқсозиҳои эҳтимолӣ низ метавонад афзоиш ёбад.

Манбаъ ин мушкилро яке аз монеаҳои асосии амалӣ медонад, ки Hayes-Roth ва McDermott дар соли 1978 дар робита ба омӯзиши намунаҳои сохторӣ муайян карда буданд.

Равиши Манифолд Мушкилоти Пайвастро Чӣ Гуна «Аз БайН Мебарад»?

Дар пешниҳоди Roth робитаҳо метавонанд на тавассути таъини объектҳо ба тағйирёбандаҳои номдор, балки бо мавқеи нисбӣ, масофа ё намунаи умумии фаъолият байни манифолдҳо намояндагӣ шаванд; дар ин сурат зарурати ҷустуҷӯи пайвасти тағйирёбанда–қимат аз байн меравад ва шинохт ҳамчун мушкили пуркунии намуна нисбат ба сохтори ҷазбкунандаи омӯхташуда аз нав таъриф мешавад.

Ин фарқи муҳими назариявист. Мақола «алгоритми наве, ки мушкили NP-душвори пайвастро тезтар ҳал мекунад» пешниҳод намекунад. Ба ҷойи ин, пешниҳод мекунад, ки фарзияи намояндагии рамзие, ки он синфи мушкилро ба вуҷуд меорад, шояд нолозим бошад.

Аммо ин натиҷа дар таҳқиқот бо таҷрибаи фарогири пайваст, ки аз фаъолшавиҳои дохилии моделҳои бузурги забонӣ гирифта шудааст, нишон дода нашудааст. Манбаъ дар ин ҷо як далели назариявии намояндагиро месозад.

Оё Омӯзиши Мафҳум дар Инсон ва Геометрияи Дохилии Моделҳои Забонӣ Як Механизманд?

Тезиси асосии ин мақола ба самти «ҳа» аст, аммо манбаъ онро на ҳамчун воқеияти собитшудаи илмӣ, балки ҳамчун иддаои муттаҳидкунандаи санҷишпазир таҳия мекунад. Пешниҳод мешавад, ки адабиёти рафтории омӯзиши мафҳум дар инсон ва геометрияи намояндагии камандоза дар шабакаҳои нейронии сунъӣ як механизми асосии ҷазбкунандаро инъикос мекунанд; аммо таҷрибаи ягонае, ки мустақиман нишон диҳад ин механизмҳо дар системаҳои биологӣ ва сунъӣ воқеан яксонанд, дар ин мақола вуҷуд надорад.

Аз ин рӯ, ду сатҳи гуногуни далел бояд аз ҳам ҷудо карда шаванд.

Concept Programming Чист?

Concept Programming (CP), равиши омӯзиши рафтор аст, ки дар системаи зеҳни сунъӣ ба ҷойи танҳо ҷазо додан ё филтр кардани баромади номатлуб, мафҳуми рафтори дилхоҳро ҳамчун ҷазбкунандаи мусбат ва номгузоришуда омӯзонида, онро бо намунаи ҷавобе мувофиқ мекунад, ки ҳангоми зарурат пайдо шудани алтернативаи номатлубро пешгирӣ менамояд.

Манбаъ CP-ро ба фарқи байни «punishment» ва «inhibitory learning» дар operant conditioning монанд мекунад.

Дар модели муаллиф, равиши suppression рафтори номатлубро пас аз рух додан ё ҳангоми оғоз шудани он ҷазо медиҳад. Омӯзиши мафҳуми мусбат бошад худи рафтори алтернативии дилхоҳро ба намояндагии дастрас‌تر табдил додан мехоҳад.

Дар CP мафҳуми манъ танҳо ба шакли «ин корро накун» таъриф намешавад. Чӣ будани мафҳум ва кадом рафтори муқобил бояд фаъол гардад, ба таври мусбат омӯзонида мешавад.

Оё Таҳқиқот Исбот Мекунад, ки Concept Programming Аз RLHF Беҳтар Аст?

Не. Дар таҷрибаи манбаъ Concept Programming бо RLHF fine-tuning-и воқеии миқёси истеҳсолӣ муқоиса нашудааст. Шарти дуюми муқоисашуда аналоги хурдмиқёси suppression мебошад, ки бо prompting-и чорчӯбаи манфӣ сохта шуда, муаллиф онро «punishment-analog» меномад; бинобар ин натиҷа бояд ҳамчун «CP дар ин шарти пилотии punishment-analog муваффақтар буд» хонда шавад.

Ин маҳдудият дар манбаъ ошкоро пазируфта шудааст. Муаллиф муқоисаи full RLHF ва санҷишҳои adversarial jailbreak-ро аз ҷумлаи таҷрибаҳое медонад, ки бояд дар оянда анҷом дода шаванд.

Аз ин рӯ, ду ҷумлаи зерин ҳаммаъно нестанд:

Он чизе, ки манбаъ дастгирӣ мекунад: «Омӯзиши мафҳуми мусбат дар ин пилот нисбат ба шарти punishment-analog дақиқии баландтар дод.»

Он чизе, ки манбаъ дастгирӣ намекунад: «Concept Programming дар маҷмӯъ аз RLHF бехатартар аст ва инро таҷрибавӣ исбот кардааст.»

Усул ва Натиҷаҳои Таҳқиқот

Сохтори таҳқиқот

Ин кори 7-саҳифагӣ гузориши пурраи техникии таҷрибаҳо нест. Манбаъ натиҷаҳои се гурӯҳи таҷрибаро ҷамъбаст карда, барои протоколи муфассал, код ва натиҷаҳои иловагӣ ба ду мақолаи companion роҳнамоӣ мекунад.

Пилоти асосии safety:

• модели Llama 3.2 бо 3 миллиард параметр ва вазнҳои кушода,
• иҷрои маҳаллӣ тавассути Ollama,
• positive concept training,
• punishment-analog prompting,
• назорати беомӯзиш

се шартро дар бар мегирад.

Натиҷаи пилоти governance-safety

Манбаъ барои Fisher's exact test p<0,0001 гузориш мекунад.

Ин натиҷа мустақимтарин далели рафтории пилот мебошад. Аммо ҳамаи мисолҳои маҷмуаи санҷишӣ ва тафсилоти пурраи расмият дар ин мақолаи ҷамъбастӣ оварда нашудаанд.

Интиқол ба соҳаҳои нав

Модели мафҳуми мусбат дар се соҳаи нави амалиётӣ арзёбӣ шудааст.

Муаллиф коҳиши натиҷа дар амнияти сохтмонро бо истилоҳоти бештар махсус ва тағйирёбанда мувофиқ мешуморад.

Аммо азбаски барои ин се соҳа танҳо натиҷаҳои ҳамин пилот мавҷуданд, наметавон хулоса кард, ки CP ба ҳамаи соҳаҳои нав бе талафот интиқол меёбад.

Ҳифзи маҳдудият зери фишори иҷтимоӣ

Манбаъ ҳолатҳои санҷиширо, ки prompt ба модел фишори иҷтимоии ошкор ё пинҳонӣ мерасонад, махсусан муҳим мешуморад.

Муаллиф ин фарқро ҳамчун дастгирӣ барои ташаккули намояндагии дохилӣ дар модели мафҳуми мусбат, ки ба фишор муқовимат карда метавонад, тафсир мекунад.

Бо вуҷуди ин, дар ин таҷриба «намояндагии дохилӣ» бо ченаки мустақими геометрияи манифолд нишон дода нашудааст. Натиҷаи ченшуда риояи маҳдудияти рафторӣ аст; шарҳи намояндагии дохилӣ қабати тафсири назариявист.

Чаро Омӯзиши Мафҳуми Мусбат Метавонад Ба Ҳолатҳои Нав Интиқол Ёбад?

Мувофиқи назарияи манбаъ, азбаски омӯзиши мафҳуми мусбат ба ҷойи азёдкунии ҷумлаҳои алоҳидаи мамнӯъ сохтани ҳавзаи ҷазбкунандаро ҳадаф мегирад, ки доираи васеътари ифодаи мафҳумро фаро мегирад, интизор меравад, ки ҳангоми пайдо шудани ҳамон мафҳум бо калимаҳои дигар ё дар контекстҳои амалиётии дигар система боз ба ҳамон минтақаи рафторӣ равона шавад. Ин механизми интиқол шарҳи назариявист; дар пилот дар ду соҳаи нав интиқоли қавӣ мушоҳида шуд, дар соҳаи сеюм бошад коҳиши назарраси иҷроиш ба вуҷуд омад.

Таҷрибаи дуюм: омӯзиши мафҳуми арзиш

Таҷрибаи дуюм ба ҷойи safety constraint мафҳуми арзиши фарҳангиро арзёбӣ мекунад.

Мафҳуми номгузоришудаи арзиш, ки ба як чорчӯбаи ахлоқии буддоӣ мувофиқ аст, бе истифодаи мисолҳои махсуси сенария омӯзонида шудааст.

Сипас модел дар панҷ ҳолати стандартии moral-psychology арзёбӣ шудааст:

1. сенарияи trolley,
2. варианти footbridge,
3. дилеммаи навъи Heinz,
4. сенарияи кӯдаки гирён,
5. ҳолати whistleblower.

Манбаъ гузориш мекунад, ки модели омӯзонидашуда аз ҳамаи панҷ ҳолат гузаштааст ва ҳеҷ яке аз анъанаҳои дигаре, ки дар ҳамин пилот санҷида шуданд, бе омӯзиши махсуси сенария ба ҳамон натиҷа нарасидаанд.

Натиҷаҳои муфассали анъанаҳои дигар ва протоколи пурраи омӯзиш дар ин кори ҷамъбастӣ оварда нашудаанд.

Таҷрибаи сеюм: хароҷоти омӯзиш

Таҷрибаи сеюм дар чорчӯбаи governance-adapted signal detection арзёбӣ мекунад, ки Concept Programming пас аз чанд мисоли омӯзишӣ ба коҳиш додани хатогиҳои амниятӣ шурӯъ мекунад.

Ду равиши омӯзишӣ муқоиса шудаанд:

Ҳар ду усул miss rate-и %100-и назорати беомӯзишро дар давоми 200 ҳолати омӯзишӣ то камтар аз %25 коҳиш додаанд.

Бо вуҷуди ин, манбаъ ошкоро мегӯяд, ки stopping criterion-и пешакӣ муайяншудаи %95 дар ҳудуди буҷети 200 ҳолат ба даст наомадааст.

Равиши намунагирии васеъ correct-rejection rate-и баландтар дод, дар ҳоле ки намунагирии танг hit rate-и баландтар ба вуҷуд овард.

Муаллиф ин тафовутро бо интизори он мутобиқ мешуморад, ки намунагириҳои гуногуни омӯзишӣ геометрияҳои гуногуни attractor ба вуҷуд меоранд. Ин шарҳи геометрӣ ченаки мустақими манифолд нест, балки тафсири натиҷаҳо дар чорчӯбаи назария аст.

Чаро Нишонаҳои Эътимоди Китоб Муҳиманд?

Китобе, ки дар манбаъ ҷамъбаст шудааст, низоми гузоришдиҳиро қабул мекунад, ки шаш нишонаи эътимодро истифода мебарад, то сатҳҳои гуногуни эпистемикӣ, аз ҷумла натиҷаи собитшудаи эмпирикӣ, дастгирии қисман, натиҷаи пилотӣ ва интизории муаллиф бо як дараҷаи қатъият навишта нашаванд. Ин равиш махсусан мехоҳад омезиши синтези васеи назариявӣ бо натиҷаҳои хурдмиқёси пилотиро пешгирӣ кунад.

Манбаъ ҳамчун мисол категорияҳои зеринро шарҳ медиҳад:

Гарчанде ин мақолаи 7-саҳифагӣ низоми нишонаҳоро расман дар ҳар ҷумла истифода намекунад, муаллиф дар тамоми матн кӯшиш мекунад фарқи байни натиҷаи пилотӣ ва назарияи васеътарро махсус нишон диҳад.

Кадом Натиҷаҳо Метавонанд Ин Назарияро Рад Кунанд?

Манбаъ иддаоҳои асосии назарияро ҳамчун радшаванда пешниҳод мекунад. Аз ҷумла, агар таҳқиқоти ояндаи interpretability нишон диҳанд, ки мафҳумҳо дар моделҳои забонӣ ба ҷойи манифолдҳои attractor-и камандоза воқеан тавассути сохторҳои ҷудогонаи рамзмонанд ва variable binding-и комбинаторӣ коркард мешаванд, иддаои марказӣ дар бораи яксон будани механизми омӯзиши мафҳум дар инсон ва геометрияи модели забонӣ мустақиман рад карда мешавад.

Нуқтаҳои асосии санҷиш, ки дар манбаъ зикр шудаанд

Маҳдудияти аввал unification claim-и васеътарини таҳқиқот аст. Агар омӯзиши мафҳум дар моделҳои забонӣ дар оянда бо механизми комилан дигар шарҳ дода шавад, назария на танҳо нопурра, балки дар сатҳи асосӣ нодуруст хоҳад буд.

Маҳдудияти дуюм иддаои бо дастгирии заифтар дар дохили framework аст: фарзияе, ки сатҳҳои муайяни маърифатӣ ба ҳар воҳиди коркард бо суръати тақрибан собит кор мекунанд. Манбаъ эътироф мекунад, ки ин дар баъзе роҳҳои асабӣ чен шудааст, аммо дар дигарҳо танҳо фарз карда мешавад.

Агар нишон дода шавад, ки суръати коркард дар дохили ҳамон сатҳи маърифатӣ ба таври низомманд тағйир меёбад, ин иддао мустақиман осеб мебинад.

Санҷиши амалии сеюм муқоисаи мустақими Concept Programming бо RLHF-и воқеӣ ва усулҳои production-scale suppression аст.

Санҷиши чорум аз нав ифода кардани adversarial jailbreak мебошад. Манбаъ пешбинӣ мекунад, ки CP бояд нисбат ба усулҳои suppression ба ин ҳамлаҳо устувортар бошад, аммо санҷиши дахлдор ҳанӯз анҷом дода нашудааст.

Натиҷаҳое, ки таҳқиқот дастгирӣ мекунад

• Дар пилоти модели 3B Llama 3.2, positive concept training нисбат ба punishment-analog ва назорати беомӯзиш дақиқии баландтари governance-safety додааст.
• Манбаъ барои муқоисаи 36 ҳолат сатҳҳои дақиқии %94,4, %77,8 ва %47,2-ро гузориш мекунад.
• Positive concept model ба ду соҳаи нави амалиётӣ бе талафоти дақиқӣ интиқол ёфта, дар соҳаи сеюм то %66,7 коҳиш ёфтааст.
• Дар ҳолатҳои дорои фишори иҷтимоӣ, шарти мафҳуми мусбат нисбат ба назорати беомӯзиш риояи баландтари маҳдудиятро нишон додааст.
• Як мафҳуми арзиши ахлоқии буддоӣ дар пилот аз ҳамаи панҷ ҳолати moral-psychology гузаштааст.
• Ду стратегияи омӯзиши CP дар давоми 200 ҳолати омӯзишӣ miss rate-ро аз %100 то камтар аз %25 коҳиш додаанд.
• Манбаъ геометрияи manifold ва attractor-ро ҳамчун чорчӯбаи назариявии шарҳи Concept Programming истифода мекунад.

Натиҷаҳое, ки таҳқиқот дастгирӣ намекунад

• Бартарии Concept Programming нисбат ба RLHF-и миқёси истеҳсолӣ мустақиман нишон дода нашудааст.
• Punishment-analog prompting ва RLHF-и воқеӣ як шарти таҷрибавӣ нестанд.
• Нишон дода нашудааст, ки дар моделҳои миқёси frontier ҳам ҳамин натиҷа ба даст меояд.
• Устувории бартаридошта ба ҳамлаҳои adversarial jailbreak ҳанӯз санҷида нашудааст.
• Афзоиши дақиқии рафторӣ худ ба худ мавҷудияти attractor manifold-и дар дохили модел ченшударо исбот намекунад.
• Дар ин мақола мустақиман нишон дода нашудааст, ки омӯзиши мафҳум дар инсон ва намояндагиҳои модели забонӣ аз ҷиҳати биологӣ ва ҳисоббарорӣ яксонанд.
• Натиҷаи %66,7 дар соҳаи сохтмон нишон медиҳад, ки интиқоли беайб ба ҳамаи соҳаҳои нав вуҷуд надорад.
• Муваффақият дар панҷ сенарияи ахлоқӣ тасдиқи универсалии мутобиқати арзишҳои фарҳангии васеъ нест.

Маҳдудиятҳои асосии методологӣ

Ҳамаи натиҷаҳои амалӣ аз як модели 3 миллиард параметрӣ гирифта шудаанд.

Манбаъ дар ягон deployed frontier model таҷриба гузориш намекунад.

Шарти punishment-analog RLHF fine-tuning-и воқеӣ нест.

Санҷишҳои adversarial-и навъи jailbreak анҷом дода нашудаанд.

Ин кори ҷамъбастӣ протоколи пурраи таҷрибаҳоро дар бар намегирад; тафсилот ба мақолаҳои companion вогузор шудаанд.

Геометрияи attractor ҳамчун механизми назариявие, ки аз баромадҳои рафтории таҷрибаҳо хулоса мешавад, тафсир мегардад ва дар ин ҷо бо таҳлили мустақими фазои фаъолшавӣ тасдиқ нашудааст.

Тафсири бархӯрди манфиатҳо

Муаллиф эълом мекунад, ки ба меъмории concept-instillation, ки дар Concept Programming истифода мешавад, дархостҳои патентӣ дорад.

Ин ҳолат маънои худкор беэътибор будани натиҷаҳоро надорад; аммо контексти манфиатест, ки нишон медиҳад дар арзёбии усул такрори мустақил махсусан муҳим аст.

Ёддошт оид ба Манбаъ ва Усул

Унвони аслӣ: Grooves in Neural Manifolds: A Summary of the Argument and the Experimental Evidence

Муаллиф: Frederick Roth

Вазифаи дар манбаъ зикршуда: Professor, Information Sciences, Naval Postgraduate School (Retired)

Узвияти дар манбаъ зикршуда: Fellow, Association for the Advancement of Artificial Intelligence

Навъи манбаъ: Мақолаи ҷамъбастии синтези назариявӣ/мафҳумӣ ва натиҷаҳои таҷрибаҳои companion.

Мақоми манбаи ибтидоӣ: Муаллиф ошкоро мегӯяд, ки ин мақола манбаи ибтидоии иддаоҳои худи ӯ нест.

Маҷалла / ҷилд / шумора: Дар PDF-и боршуда зикр нашудааст.

DOI-и мақола: Дар PDF-и боршуда зикр нашудааст.

Ҳолати баррасии ҳамтоён: Дар PDF-и боршуда маълумоте нест, ки нашри баррасишудаи ҳамтоён будани онро тасдиқ кунад; набояд ҳамчун мақолаи ниҳоии баррасишуда пешниҳод шавад.

Иддаои марказии назариявӣ: Фарзияе, ки омӯзиши мафҳум дар инсон ва геометрияи мафҳумӣ дар моделҳои забонии омӯзонидашуда ду зуҳури миқёсҳои гуногуни сохтори камандозаи attractor мебошанд, ки тавассути тақвият шакл гирифтааст.

Усули марказии амалӣ: Concept Programming (CP).

Модели пилотӣ: Llama 3.2, 3 миллиард параметр, иҷрои маҳаллии Ollama.

Санҷиши governance-safety: 36 ҳолат.

Натиҷаи асосии пилот: Positive concept training %94,4; punishment-analog %77,8; назорати беомӯзиш %47,2; Fisher's exact test p<0,0001.

Интиқол: Манбаъ дар амалиёти беморхона ва анбор талафоти дақиқӣ гузориш намекунад; дар амнияти майдони сохтмон %66,7.

Санҷиши фишори иҷтимоӣ: Positive concept model %92,6; назорати беомӯзиш %44,4 ҳифзи маҳдудият.

Таҷрибаи мафҳуми арзиш: Бо як мафҳуми арзиши ахлоқии буддоӣ ҳамаи панҷ сенарияи moral-psychology гузашта шудаанд.

Таҷрибаи хароҷоти омӯзиш: Ҳар ду усули омӯзишӣ дар давоми 200 ҳолат miss rate-ро аз %100 то камтар аз %25 коҳиш додаанд, аммо ба stopping criterion-и пешакӣ муайяншудаи %95 нарасидаанд.

Китоб: Grooves in Neural Manifolds: AI Reveals Why You Think What You Think, and How to Reshape It.

DOI-и китоб: 10.5281/zenodo.21966428.

Кори техникии companion 1: Concept Programming for Dependable AI.

Кори техникии companion 2: Neural manifolds, assemblies, and cross-domain interference.

Код: Манбаъ мегӯяд, ки коди таҷрибаҳои companion дар github.com/ricodoco/safety-concept-experiment барои умум дастрас аст.

Бархӯрди манфиатҳо: Муаллиф гузориш мекунад, ки барои меъмории concept-instillation дархостҳои патентӣ дорад.

Маблағгузорӣ: Дар ин PDF-и ҷамъбастӣ изҳороти ҷудогонаи маблағгузорӣ вуҷуд надорад.

Дастрасии додаҳо: Дар ин PDF-и ҷамъбастӣ бахши ҷудогонаи дастрасии додаҳо вуҷуд надорад; барои протоколҳои таҷриба ва код ба корҳои companion роҳнамоӣ мешавад.

Маҳдудияти асосии тафсири илмӣ: Натиҷаҳои иҷроиши рафтории пилот мустақиман гузориш шудаанд; иддао дар бораи он ки маърифати инсон ва геометрияи модели забонӣ як механизманд ва шарҳи он ки иҷроиш аз геометрияи attractor бармеояд, қисми framework-и назариявӣ мебошад. Ҳамчунин, азбаски шарти punishment-analog RLHF-и воқеӣ нест, натиҷаи пилот набояд ҳамчун бартарии мустақим нисбат ба RLHF пешниҳод шавад.