Deepfake технологиясы терең нейрондук тармактарды колдонуп сүрөттү, видеону, үндү же алардын айкалышын чыныгыдай кылып жаратуу же өзгөртүү процесси болуп саналат. Бир караганда бул тема жалган жүз видеолору же социалдык медиада тараган манипуляцияланган мазмун менен гана байланышкандай көрүнүшү мүмкүн. Бирок изилдөө deepfake технологиясы жеке купуялуулукту бузуудан алда канча кеңири тобокелдик мейкиндигине өткөнүн баса белгилейт. Жасалма саясий баяндамалар, үн клондоо аркылуу финансылык алдамчылык, коомдук ишенимдин бузулушу, улуттук коопсуздук коркунучу, медианы текшерүү маселеси жана санариптик далилдердин ишенимдүүлүгү бул тармактын түз таасирлерине кирет.

Макаланын баштапкы маселеси deepfake жаратуунун сапаты менен deepfake аныктоо системаларынын жалпылоо жөндөмүнүн ортосундагы түзүмдүк теңсиздик. Генерациялоочу моделдер улам реалисттүүрөөк, башкарууга ыңгайлуураак жана көп модалдуу болуп бара жатканда, аныктоо системалары көп учурда мурдагы маалымат топтомдорунан үйрөнгөн издерге көз каранды бойдон калууда. Изилдөөдө келтирилген Deepfake-Eval-2024 жыйынтыгы бул ажырымды ачык көрсөтөт: Мурунку маалымат топтомдорунда үйрөтүлгөн заманбап аныктоо системалары 2024-жылы социалдык медиадан чогултулган реалдуу чөйрөдөгү deepfake мазмундарына колдонулганда AUC көрсөткүчтөрү болжол менен %50 төмөндөгөн. Эң чоң төмөндөө diffusion негизиндеги үлгүлөрдө байкалганы эски аныктоо белгилери жаңы генерациялоочу моделдерге каршы эмне үчүн алсырап жатканын даана көрсөтөт.

Бул жерде маанилүү түшүнүк AUC, башкача айтканда Area Under the ROC Curve көрсөткүчү. AUC аныктоо моделинин чыныгы жана жасалма үлгүлөрдү ар башка чечим босоголорунда ажыратуу жөндөмүн өлчөйт. Жөнөкөй айтканда, модель “чыныгыбы же жасалмабы?” деген айырмада канчалык ишенимдүү иреттей аларын көрсөтөт. AUC төмөндөшү модель мурдагы чөйрөдө үйрөнгөн белгилер жаңы шартта мурдагыдай пайдалуу болбой калганын билдирет. Изилдөө баса белгилеген көйгөй дал ушул: лабораториялык маалымат топтомунда жогорку көрүнгөн ийгилик социалдык медиада кысылган, кесилген, кайра жүктөлгөн жана ар түрдүү генерациялоочу моделдер менен түзүлгөн мазмунда ошол бойдон сакталбайт.

Макала азыркы көпчүлүк обзорлор генерациялоо менен аныктоону параллелдүү, бирок өз-өзүнчө багыттардай түшүндүрөрүн белгилейт. Авторлордун пикиринде, чыныгы динамика циклдүү мүнөздө. Аныктоо системасы бир из табат; генерациялоочу модель ошол изди азайтат; аныктоо системасы андан да жогорку деңгээлдеги белгиге өтөт. Ошондуктан изилдөө сунуштаган негизги алкак adversarial evolution, башкача айтканда чабуулчу жана коргонуучу тараптар бири-бирин үзгүлтүксүз кайра калыптандырган эволюция.

Изилдөөнүн эң маанилүү түшүнүктөрүнүн бири cue drift, башкача айтканда аныктоо белгисинин жылышы. Deepfake аныктоодо “cue” жасалма мазмунду табууга жардам берген белги же из болуп саналат. Ал кээде жыштык мейкиндигиндеги жасалма үлгү, кээде бет четиндеги бириктирүү чеги, кээде кан агымы сигналындагы бузулуу, кээде үн менен эрин кыймылынын шайкеш эместиги, кээде видеодогу физикалык кыймылдын реалдуу дүйнөгө дал келбеши болушу мүмкүн. “Cue drift” болсо генерациялоочу моделдер өнүккөн сайын ушул белгилердин ордун өзгөртүшүн билдирет. Эгер аныктоо системасы белгилүү бир доордогу изге өтө катуу таянса, жаңы муундагы генерациялоочу модель ошол изди жок кылганда коргонуу алсырайт.

Изилдөө 2014–2025 мезгилин үч негизги аныктоо белгиси циклине бөлөт. Биринчи цикл frequency-cue era, башкача айтканда жыштык белгиси доору. Бул мезгил болжол менен 2014–2019 жылдарды камтыйт жана айрыкча GAN негизиндеги генерация менен байланыштуу. GAN моделдери сүрөт жаратууда белгилүү upsampling операцияларын колдонушат. Мындай операциялар табигый камера менен тартылган сүрөттөрдө болбогон жыштык издерин пайда кылышы мүмкүн. Ошол мезгилдеги аныктоо системалары сүрөттүн жыштык мейкиндигин талдап, жасалма мазмунду табууга аракет кылган.

Бул доордо маанилүү техникалык белгилердин бири transposed convolution операциялары пайда кылган периоддук үлгүлөр. Изилдөөдө GAN сүрөттөрүндө болжол менен (±0.25, ±0.25) жыштык аймактарында энергиянын топтолушу сыяктуу белгилер айтылат. Бул издер кадимки сүрөттөрдөгү камера жана сенсор пайда кылган табигый үлгүлөрдөн айырмаланат. Күнүмдүк салыштырма менен айтканда, табигый кездемеде токулуунун майда табигый тең эмес жерлери болот, ал эми машина жараткан жасалма үлгү микроскоптук кайталануучу сызыктарды калтыргандай. Жыштыкка негизделген аныктоо системалары сүрөттүн үстүңкү көрүнүшүнө эмес, дал ушул көзгө көрүнбөгөн үлгүлөргө карайт.

Изилдөөдө жыштык талдоосунун негизги операциясы төмөнкү байланыш менен түшүндүрүлөт:

\[ P(r)=\frac{1}{2\pi}\int_{0}^{2\pi}|F(r\cos\theta,r\sin\theta)|\,d\theta \]

Бул формулада F(u,v) сүрөттүн жыштык мейкиндигиндеги өкүлчүлүгү. r жыштык мейкиндигиндеги радиусту, θ бурчтук багытты көрсөтөт. P(r) ар кандай багыттардагы жыштык энергиясын орточолоп, бир өлчөмдүү радиалдык энергия профилин түзөт. Формуланын мааниси мындай: сүрөттүн кайсы жыштык аймактарында табигый эмес энергия топтолгону өлчөнөт. Эгер GAN негизиндеги жасалма сүрөттөрдө белгилүү жыштык аймактарында жасалма чокулар пайда болсо, аларды аныктоодо колдонууга болот.

Бирок бул биринчи циклдин да чеги бар. GAN архитектуралары өнүккөн сайын, айрыкча StyleGAN3 сыяктуу alias-free ыкмалар бул жыштык издерин азайта баштайт. Мындан тышкары бет алмаштыруу системалары бетти нөлдөн жаратуунун ордуна бир бетти башка видеонун үстүнө жайгаштырууга өтөт. Натыйжада жасалмалоонун белгиси жыштык мейкиндигинен бет кошулган чек араларга жана убакыттагы биологиялык ырааттуулукка жылат.

Экинчи цикл blending-boundary and deep-representation era, башкача айтканда аралаштыруу чеги жана терең өкүлчүлүк доору. Бул мезгил болжол менен 2018–2023 жылдары өзгөчө көрүнүктүү болду. DeepFaceLab, FaceSwap жана First Order Motion Model сыяктуу autoencoder же бет reenactment системалары бул контекстте маанилүү. Мындай системалар көбүнчө бир адамдын идентификациясын башка бет кыймылына же максаттуу видеого жайгаштырат. Бет аймагы максаттуу кадрга композициялангандыктан, беттин четинде же текстурасында чек, маска, түс шайкешсиздиги, өтө жылмакайлык жана биофизиологиялык бузулуу сыяктуу белгилер калышы мүмкүн.

Autoencoder негизиндеги бет алмаштыруу системалары адатта shared encoder–independent decoder логикасы менен иштейт. Жалпы encoder беттин поза, мимика жана жарыктандыруу сыяктуу идентификациядан тышкаркы түзүмдүк өзгөчөлүктөрүн чыгарат; өзүнчө decoder-лер булак жана максаттуу инсанга тиешелүү бет текстурасын кайра түзөт. Изилдөөдөгү 7-сүрөт бул механизмди схемалык түрдө көрсөтөт. Бул ыкма GAN окутуусундагы айрым туруксуздуктарды азайтып, бет алмаштырууну практикалык кылат. Бирок пиксел деңгээлиндеги кайра түзүү жоготуусу бет текстурасынын жогорку жыштыктагы майда деталдарын жумшартып жибериши мүмкүн. Бул изилдөөдө “waxy”, башкача айтканда момдой өтө жылмакай көрүнүш катары сүрөттөлөт.

Бул доордогу аныктоо ыкмалары жасалма бет максаттуу кадрга кошулган чек араларды табууга аракет кылат. Face X-ray жана Self-Blended Images сыяктуу ыкмалар бет алмаштыруу процессинен калган аралаштыруу чек арасын түздөн-түз моделдөөгө аракет кылат. Мындан тышкары FakeCatcher сыяктуу ыкмалар бет терисиндеги өтө майда түс өзгөрүүлөрүнөн жүрөк кагышына байланышкан remote photoplethysmography, башкача айтканда алыстан фотоплетизмография/rPPG сигналдарын алууга аракет кылат. Чыныгы адамдын бетинде кан агымы менен тери түсү убакыттын өтүшү менен биологиялык ритмге ээ; жасалма видеодо бул ритм көп учурда туура сакталбайт.

Үчүнчү цикл semantic and physical-consistency era, башкача айтканда семантикалык жана физикалык ырааттуулук доору. Бул мезгил 2022–2025 жылдары diffusion моделдери, ири видео генерациялоо системалары жана көп модалдуу генерация ыкмалары менен байланыштуу. Stable Diffusion, DiT, DreamBooth жана Sora сыяктуу системалар сүрөт жана видео жаратууда кыйла жогорку реалисттүүлүк, шарттуу башкаруу жана физикалык көрүнүштүн ырааттуулугун берет. Бул этапта жыштык издери, жөнөкөй бириктирүү чектери же жалгыз пикселдик аномалиялар аныктоо үчүн жетишсиз болушу мүмкүн.

Diffusion моделдери негизинен ызы-чуудан маалыматка карай жүргөн denoising процессин колдонот. Модель адегенде маалыматка кадам-кадам менен ызы-чуу кошуу процессин үйрөнүп, андан кийин аны тескери буруп ызы-чуудан маанилүү сүрөт же видео түзөт. Изилдөөдө diffusion моделдеринин ыктымалдык негизи төмөнкү ELBO байланышы менен берилет:

\[ \mathbb{E}[-\log p_{\theta}(x_0)] \leq \mathbb{E}_{q}\left[-\log p(x_T)-\sum_{t\geq 1}\log\frac{p_{\theta}(x_{t-1}|x_t)}{q(x_t|x_{t-1})}\right] \]

Бул формулада x₀ чыныгы/таза маалымат үлгүсүн, x_T акыркы ызы-чуулуу абалды, q(x_t|x_t-1) алдыга карай ызы-чуу кошуу процессин, p_θ(x_t-1|x_t) болсо моделдин тескери багытта ызы-чууну алып, маалыматка жакындаган процессин билдирет. θ моделдин параметрлерин көрсөтөт. Техникалык жактан бул өрнөк модель чыныгы маалымат бөлүштүрүүнү түз эсептөөнүн ордуна аны төмөнкү чек аркылуу үйрөнүүгө аракет кыларын түшүндүрөт.

Практикалык окутууда бул татаал максат Ho жана кесиптештери көрсөткөндөй ызы-чууну божомолдоо жоготуусуна жөнөкөйлөтүлүшү мүмкүн. Изилдөөдө берилген жөнөкөйлөштүрүлгөн loss формуласы төмөнкүдөй:

\[ L_{simple}(\theta)=\mathbb{E}_{t,x_0,\epsilon}\left[\left\|\epsilon-\epsilon_{\theta}\left(\sqrt{\bar{\alpha}_t}x_0+\sqrt{1-\bar{\alpha}_t}\epsilon,t\right)\right\|^2\right] \]

Бул формулада ε маалыматка кошулган чыныгы ызы-чууну, ε_θ моделдин божомолдогон ызы-чуусун, t убакыт/ызы-чуу кадамын, \bar{α}_t ызы-чуу графигин аныктоочу коэффициентти, x₀ болсо баштапкы таза маалымат үлгүсүн көрсөтөт. Формуланын күнүмдүк мааниси: модель “бул сүрөткө кайсы ызы-чуу кошулган?” деген суроону үйрөнөт. Бул суроого жетиштүү так жооп бере алганда, тескери жүрүп ызы-чуудан реалисттик сүрөт түзө алат.

Diffusion моделдеринин аныктоо үчүн эң татаал жагы генерация процесси табигый сүрөт статистикасына абдан жакындай алышында. GAN доорунда жыштык мейкиндигинде көрүнгөн жасалма чокулар diffusion чыгарылыштарында алсызыраак болушу мүмкүн. Видео жаратууда да Sora сыяктуу моделдер мейкиндик-убакыт бөлүктөрү жана DiT архитектуралары аркылуу кыймылды, жарыкты, физикалык өз ара аракетти жана узак аралыктагы байланышты жакшыраак моделдей алат. Натыйжада аныктоо пиксел деңгээлинен жогорку деңгээлге көтөрүлөт: видео физика мыйзамдарына туура келеби? Үн менен эрин кыймылы чындап дал келеби? Сүйлөөдөгү эмоциялык тон жүз мимикасына шайкешпи? Көлөкө, жарык булагы жана кыймыл багыты бир эле физикалык дүйнөгө таандыкпы?

Макала көп модалдуу deepfake тармагын өзүнчө критикалык чек катары карайт. Алгачкы мезгилде жасалмалоо көбүнчө бет сүрөтү менен чектелген. Кийин эрин кыймылы менен үндү шайкештештирүү системалары өнүктү. Wav2Lip сыяктуу системалар сүйлөө үнүнө ылайык эрин кыймылын жаратууда абдан күчтүү болду. Андан кийин NeRF негизиндеги жана diffusion негизиндеги сүйлөгөн баш моделдери бет мимикасын, ооз кыймылын, үн тембрин жана идентификация ырааттуулугун чогуу жарата баштады. Бүгүн жана жакынкы келечекте тобокелдик жалган видео менен гана чектелбейт; жалган үн, жалган бет, жасалма дене тили, жасалма эмоция жана контекстке туура келген жалган сүйлөө сценарийи бирге жаралышы мүмкүн.

Ошондуктан изилдөө көп модалдуу жасалмалоону үч деңгээлде талкуулайт: temporal synchronisation, башкача айтканда убакыттык синхрондошуу; emotional consistency, башкача айтканда эмоциялык ырааттуулук; biomechanical consistency, башкача айтканда биомеханикалык ырааттуулук. Чыныгы сүйлөөдө эрин кыймылы, үндүн башталышы, дем алуу ритми, бет булчуңдары, көз кыймылы, интонация жана эмоциялык күч бири-биринен көз каранды. Жасалма мазмун абдан реалисттик көрүнсө да, бул катмарлардын биринде майда шайкешсиздиктер калышы мүмкүн.

Мисалы, үн менен эрин кыймылынын ортосунда 40–60 миллисекунддан ашкан жылыш адам кабылдоосунда табигый эмес сезим жаратышы мүмкүн. Ошондой эле адамдын жүзү күлүп тургандай көрүнүп, үнү ый же коркуу маанайын берсе, эмоциялык шайкешсиздик пайда болот. Ар башка тилдердеги эриндин жабылышы жана айтылыш өзгөчөлүктөрү да маанилүү. Изилдөөдө кытай жана англис тилдери сыяктуу тилдердеги фонема–viseme байланыштары deepfake аныктоодо белги боло алары айтылат. Бул аныктоо системалары сүрөт иштетүү менен гана чектелбестен, тил, фонетика, дене кыймылы жана адам биологиясы тууралуу билимди да колдонушу керек дегенди билдирет.

Изилдөөнүн метод бөлүгү бул обзор кокус тандалган булактардан түзүлбөгөнүн көрсөтөт. Изилдөөчүлөр PRISMA-га ылайыкташтырылган протокол колдонушкан. IEEE Xplore, ACM Digital Library, Web of Science жана arXiv каралган. Издөө терминдери үч топко бөлүнгөн: генерация терминдери, аныктоо терминдери жана модалдуулук терминдери. Генерация жагында deepfake, face forgery, face swap, talking head, diffusion model, GAN жана autoencoder; аныктоо жагында detection, forensics, authentication жана anti-spoofing; модалдуулук жагында image, video, audio жана multimodal сыяктуу терминдер колдонулган.

PRISMA агымы изилдөөнүн 2-сүрөтүндө көрсөтүлгөн. Баштапкы издөөдө 1.486 жазуу табылган. 312 кайталанган жазуу алынып салынгандан кийин 1.174 жазуу аталыш жана аннотация деңгээлинде текшерилген. 627 жазуу темага тиешеси жок болгондуктан чыгарылган. Калган 547 толук текст жарамдуулук жагынан бааланып, 211 изилдөө сапаттык синтезге киргизилген. Бул 211 изилдөөнүн 83ү генерация ыкмаларына, 75и аныктоо ыкмаларына, 31и маалымат топтомдору жана баалоого, 22си башкаруу, этика жана саясатка байланыштуу болгон. Бул сандар изилдөө техникалык моделдер менен гана эмес, маалымат топтомдору жана башкаруу өлчөмү менен да иштегенин көрсөтөт.

Изилдөө мета-анализ жүргүзбөгөнүн өзгөчө белгилейт. Себеби киргизилген иштер маалымат топтомдору, баалоо протоколдору, кысуу деңгээли, бетти кесүү ыкмалары, үлгүлөө ылдамдыгы жана отчет берүү форматы жагынан өтө гетерогендүү. Ошондуктан изилдөөчүлөр бир жалпы эффект өлчөмүн эсептөөгө аракет кылышкан эмес. Анын ордуна тематикалык синтез жүргүзүп, ар бир циклде үч суроого көңүл бурушкан: кайсы генерация техникалары үстөмдүк кылат, алар кайсы издерди калтырат же мурдагы белгилердин кайсынысын басаңдатат, аныктоо ыкмалары бул белгилерди кантип практикалык өлчөмгө айландырат.

Изилдөөнүн генерация технологияларын салыштыруусу да маанилүү. GAN, autoencoder жана diffusion моделдери биринин артынан бири толук алмашкан муундар эмес; көпчүлүк мезгилде параллелдүү колдонулуп келген. GAN-дар тез inference жана курч визуалдык деталдарда артыкчылык бериши мүмкүн, бирок жыштык издери жана окутуунун туруксуздугу сыяктуу көйгөйлөрү бар. Autoencoder системалары туруктуураак жана практикалык бет алмаштырууну берет, бирок бет текстурасын ашыкча жылмакай кылып, жогорку жыштыктагы деталдарды жоготушу мүмкүн. Diffusion моделдери жогорку реализм жана шарттуу башкаруу берет, бирок итерациялык үлгүлөөдөн улам жайыраак жана эсептөө чыгымы жогору болушу мүмкүн. Көп модалдуу системалар үн, сүрөт, текст жана убакыт ырааттуулугун бирге көздөйт; бирок узак видеодо идентификациянын жылышы, эмоциялык шайкешсиздик жана реалдуу убакытта жаратуу кыйынчылыктары маанилүү бойдон калууда.

Макаланын баалоо метрикалары бөлүмү deepfake изилдөөлөрүндө бир гана ийгилик саны жетишсиз экенин көрсөтөт. Аныктоо жагында AUC, EER, IoU жана ACC сыяктуу көрсөткүчтөр колдонулат. Генерация сапаты жагында FID, Id-Acc, FVD, TCM, IS, LPIPS, CLIP Score жана NIQE бар. Көп модалдуу ырааттуулук жагында LSE-D/C жана MOS өзгөчө маанилүү. Изилдөө сунуштаган үч октуу матрица бул метрикаларды бир алкакка бириктирет.

EER, башкача айтканда Equal Error Rate, жалган кабыл алуу менен жалган четке кагуу көрсөткүчтөрү тең болгон босогону билдирет. Соттук жана биометрикалык контекстте бул маанилүү, анткени жасалма мазмунду чыныгы деп кабыл алуу менен чыныгы мазмунду жасалма деп жаңылыш эсептөө ар башка, бирок олуттуу тобокелдиктерди жаратат. IoU, башкача айтканда Intersection over Union, жасалма деп эсептелген аймак менен чыныгы белгиленген жасалма аймактын канчалык дал келгенин өлчөйт. Бул “видео жасалма” деп гана айтуудан тышкары “жасалмалоо сүрөттүн кайсы бөлүгүндө?” деген суроого жооп берүү үчүн керек.

Генерация сапаты метрикаларында FID жаралган сүрөттөрдүн чыныгы сүрөттөрдүн бөлүштүрүлүшүнө канчалык окшош экенин өлчөйт. Id-Acc бет алмаштыруу сыяктуу колдонмолордо максаттуу идентификация сакталып-сакталбаганын текшерет. FVD FIDдин видео эквиваленти сыяктуу каралып, убакыттагы ырааттуулукту да эске алат. TCM кадрлар ортосундагы оптикалык агым шайкешсиздиктерин таап, flicker же титирөө сыяктуу көйгөйлөрдү өлчөйт. Көп модалдуу жагында LSE-D/C эрин кыймылы менен сүйлөө үнүнүн шайкештигин, MOS болсо адам баалоочулар кабыл алган реалисттүүлүк деңгээлин билдирет.

Изилдөөнүн маалымат топтомдору бөлүмү да deepfake тармагы кантип кеңейгенин көрсөтөт. Алгач UADFV жана DF-TIMIT сыяктуу чакан видео маалымат топтомдору колдонулган. Кийин FaceForensics++, Celeb-DF, DFDC жана WildDeepfake сыяктуу чоңураак жана татаал топтомдор пайда болгон. Сүрөт жагында CelebA-HQ, FFHQ, PGGAN/StyleGAN топтомдору жана Fake2M сыяктуу diffusion доорунун маалымат топтомдору өзгөчөлөнөт. Көп модалдуу жагында FakeAVCeleb, KoDF, LAV-DF, MADD, Codecfake жана DDL сыяктуу топтомдор үн–видео, көп тилдүү сүйлөө, жергиликтүү манипуляция жана майда деңгээлдеги белгилөө муктаждыктарына жооп берүүгө аракет кылат.

Бул маалымат топтомдорунун ар бири башка көйгөйдү ачыкка чыгарат. FaceForensics++ стандарттуу салыштыруу үчүн күчтүү, бирок жаңы муундагы өтө реалисттик жасалмалоолор үчүн чектелүү калышы мүмкүн. Celeb-DF кыйла так иштелген жасалмалоолорду текшерет. DFDC өнөр жай масштабындагы татаал жана реалисттик бөлүштүрүү берет. WildDeepfake интернетте жүргөн гетерогендүү мазмундун оордугун чагылдырат. LAV-DF видеонун кыска гана бөлүгү манипуляцияланган сценарийлерди баалоого мүмкүндүк берет. MADD жана KoDF англис тилине басым жасаган топтомдордон чыгып, көп тилдүү жана маданияттар аралык маселелерди көтөрөт.

Башкаруу бөлүмү изилдөөнүн таза техникалык обзордон ашкан эң маанилүү бөлүктөрүнүн бири. Авторлордун пикиринде, deepfake менен күрөштү жакшыраак детектор жасоо менен гана чечүүгө болбойт. Себеби жасалма мазмун тарап кеткенден кийин аны аныктоо көп учурда кеч калган коргонуу болуп калат. Ошондуктан изилдөө generation-time watermarking, башкача айтканда жаратуу учурунда суу белгисин киргизүү; content provenance, башкача айтканда мазмундун булагын жана иштетүү тарыхын текшерүү; blockchain-based evidence preservation, башкача айтканда блокчейн негизинде далилди сактоо; жана risk-tiered regulation, башкача айтканда тобокелдик деңгээлине жараша жөнгө салуу сыяктуу ыкмаларды бирге кароону сунуштайт.

Бул жерде Stable Signature, Tree-ring Watermarks жана SynthID сыяктуу ыкмалар мисал катары келтирилет. Stable Signature latent diffusion decoder ичине үйрөнүлүүчү watermark катмарын жайгаштырат. Tree-ring Watermarks баштапкы ызы-чуунун Fourier мейкиндигине көзгө көрүнбөгөн, бирок кийин табыла турган белги коддойт. SynthID болсо жаратуу процессине статистикалык манжа изин жайгаштырып, адам көзү көрбөгөн, бирок текшерүүчү система окуй турган сигналдарды түзүүгө аракет кылат. Мындай ыкмалар жасалма мазмун тарап кеткенден кийин аны кармоодон көрө, жаралган булагында из калтырууну көздөйт.

C2PA сыяктуу мазмундун келип чыгышы боюнча стандарттар да ушул алкакта маанилүү. Сүрөт же видео кайсы түзмөк менен тартылганы, кайсы программа менен иштетилгени, ага кандай өзгөртүүлөр киргизилгени жана чынжыр кайсы жерде үзүлгөнү криптографиялык түрдө текшерилсе, аныктоо “алгоритм муну жасалма деп тапты” деген деңгээлде эле калбайт. Мазмундун бүт жашоо цикли боюнча далил чынжыры түзүлүшү мүмкүн. Бул журналистика, укук, камсыздандыруу, коопсуздук, сот процесстери жана коомдук коммуникация үчүн өзгөчө маанилүү.

Изилдөө технология–укук–этика алкагын EU AI Act, NIST AI Risk Management Framework, Кытайдын генеративдик жасалма интеллект чаралары жана UNESCOнун жасалма интеллект этикасы боюнча сунуштары менен байланыштырат. Техникалык куралдар жөнгө салуучу милдеттенмелерди практикага айлантат; жөнгө салуучу алкактар техникалык стандарттарга багыт берет; коомдун медиасабаттуулугу болсо бул сигналдарды адамдар туура түшүнүшүнө жардам берет. Демек, суу белгисин коюу гана жетишсиз; адамдар жана уюмдар анын эмнени билдирерин, кайсы учурда ишенимдүү экенин жана кайсы учурда жетишсиз каларын да билиши керек.

Изилдөөнүн тарыхый мааниси deepfake тарыхын жөнөкөй “GAN келди, autoencoder келди, diffusion келди” тизмесинен чыгарып, аныктоо белгилеринин жылышы аркылуу кайра түшүндүрүшүндө. Бул адабиятты кыйла динамикалуу түшүнүүгө мүмкүндүк берет. Анткени тармакты чындап өзгөрткөн нерсе жаңы модель архитектуралары гана эмес, эски коргонуу белгилеринин жараксыз болуп калышы жана коргонуунун жаңы деңгээлдерге өтүшү.

Бүгүнкү мааниси социалдык медиада, финансылык сектордо, саясий коммуникацияда жана санариптик идентификацияда deepfake тобокелдиги тез өсүп жатканында. Компания жетекчисинин үнү клондолушу мүмкүн, саясатчынын жасалма видеосу кризис маалында тарашы мүмкүн, адамдын купуя сүрөтү жасалмаланышы мүмкүн, жаңылык булагына болгон ишеним бузулушу мүмкүн. Аныктоо системалары лабораториялык ийгилик менен гана эмес, реалдуу дүйнөдөгү бөлүштүрүүдө, кысылган жана кайра жүктөлгөн мазмунда, ар башка тилдерде, ар башка жүз топторунда жана жаңы генерациялоочу моделдерде сыналышы керек.

Келечек жагынан изилдөө аныктоо post-hoc классификациядан булакта текшерүүгө барган сайын көбүрөөк өтөрүн божомолдойт. Башкача айтканда, келечекте негизги коргонуу “бул видео жасалмабы?” деген гана суроону караган детекторлор болбой калышы мүмкүн. Анын ордуна мазмун жаралган учурда watermark менен белгиленет, келип чыгуу маалыматы криптографиялык байланышат, платформалар аны текшерет, шектүү мазмун көп модалдуу аныктоо системалары менен талданат жана керек болсо соттук далил чынжыры түзүлөт. Бул божомол изилдөөнүн эң стратегиялык билдирүүлөрүнүн бири.

Изилдөөнүн күчтүү жагы генерация, аныктоо, маалымат топтому, метрика жана башкарууну бир алкакка бириктиришинде. Ал техникалык моделдердин жөн гана тизмесин бербейт; ар бир генерация парадигмасы кайсы аныктоо белгисин алсыратканын жана коргонуу жаңы белгилерге кантип өткөнүн түшүндүрөт. Сүрөттөр жана таблицалар да бул аргументти колдойт: 1-сүрөт генерация жана аныктоонун эволюциясын убакыт тилкесинде көрсөтөт; 2-сүрөт PRISMA тандоо процессин түшүндүрөт; 2-таблица үч циклде кайсы генерация жолдору кайсы издерди калтырганын жана кайсы аныктоо ыкмалары жооп бергенин жыйынтыктайт; 8-таблица баалоо матрицасын, 9-таблица техникалык жана башкаруу жоопторун бириктирет.

Чектөөлөрү да кылдат белгилениши керек. Изилдөө рецензиядан өтпөгөн preprint. Ал жаңы эксперименттик жыйынтык чыгарбайт; учурдагы адабиятты синтездейт. Мета-аналитикалык эффект өлчөмүн эсептебейт, анткени маалымат топтомдору менен протоколдор өтө гетерогендүү. Айрым көрсөткүчтөр түпнуска басылмалардын өз протоколдорунан алынгандыктан, ар башка изилдөөлөрдү түз абсолюттук салыштыруу дайыма эле туура эмес. Мындан тышкары MLLM негизиндеги аныктоо сыяктуу тармактардагы далилдер али эрте стадияда; изилдөө да бул системалар реалдуу убакыттагы модерацияда атайын детекторлорду толук алмаштыра турган деңгээлге жете элек деп этият белгилейт.

Изилдөө муну айтат: Deepfake жаратуу жана аныктоо бирге өнүгөт; ар бир жаңы генерация парадигмасы эски аныктоо белгилерин алсыратат, ал эми аныктоо ыкмалары жогорку деңгээлдеги семантикалык, физикалык, көп модалдуу жана булакта текшерүү ыкмаларына өтөт. Изилдөө муну айтпайт: Ар бир deepfake сөзсүз аныкталат, watermark бардык көйгөйдү чечет, MLLM системаларын азыртан ишенимдүү детектор катары колдонууга болот же deepfake коопсуздугун бир гана метрика өлчөй алат. Тескерисинче, изилдөө бул тармак көп катмарлуу, динамикалуу жана дайыма жаңыланып туруучу коргонуу архитектурасын талап кыларын баса белгилейт.

Изилдөөнүн Ыкмасы жана Жыйынтыктары

Бул изилдөө эксперименттик модель иштеп чыгуу эмес, системалуу обзор мүнөзүндөгү адабият синтези. Изилдөөчүлөр deepfake генерациясы, аныктоосу, маалымат топтомдору, баалоо метрикалары жана башкаруу боюнча адабиятты 2014–2025 аралыкта карап чыгып, жыйынтыктарды “adversarial evolution” алкагында кайра уюштурушкан.

Изилдөөнүн булактарды издөө ыкмасы:

PRISMA тандоо процесси:

Изилдөөлөр бөлүнгөн негизги октор:

• Генерация парадигмасы: GAN негизиндеги ыкмалар, autoencoder негизиндеги ыкмалар, diffusion негизиндеги ыкмалар, көп модалдуу/hybrid ыкмалар.
• Аныктоо парадигмасы: физикалык артефакттар, терең өкүлчүлүктөр, туруктуулукту күчөтүүчү механизмдер, көп модалдуу ырааттуулук текшерүүлөрү, активдүү коргонуу ыкмалары.
• Убакыт огу: эмгектер бири-бирин жарым-жартылай каптаган үч adversarial циклге байланыштырылган.

Үч adversarial аныктоо цикли:

Deepfake генерация парадигмаларын салыштыруу:

Diffusion моделиндеги негизги окутуу байланыштары:

\[ \mathbb{E}[-\log p_{\theta}(x_0)] \leq \mathbb{E}_{q}\left[-\log p(x_T)-\sum_{t\geq 1}\log\frac{p_{\theta}(x_{t-1}|x_t)}{q(x_t|x_{t-1})}\right] \]

Бул формула diffusion моделинин ыктымалдык окутуу алкагын көрсөтөт. Модель маалымат бөлүштүрүүнүн ыктымалдыгын түз эсептөөнүн ордуна, тескери denoising процессин үйрөнүп маалыматка жакындайт. Бул жерде x₀ таза маалымат үлгүсү, x_T толук ызы-чуулуу үлгү, q алдыга ызы-чуу кошуу процесси, p_θ үйрөнүлгөн тескери процесс жана θ моделдин параметрлери.

\[ L_{simple}(\theta)=\mathbb{E}_{t,x_0,\epsilon}\left[\left\|\epsilon-\epsilon_{\theta}\left(\sqrt{\bar{\alpha}_t}x_0+\sqrt{1-\bar{\alpha}_t}\epsilon,t\right)\right\|^2\right] \]

Бул формула diffusion моделин практикада ызы-чууну божомолдоо аркылуу окутууга болорун көрсөтөт. ε чыныгы ызы-чууну, ε_θ модель божомолдогон ызы-чууну, \bar{α}_t ызы-чуу графигинин коэффициентин, t болсо denoising кадамын билдирет. Моделдин милдети ызы-чуулуу маалыматтагы ызы-чууну так божомолдоп, тескери багытта реалисттик үлгү жаратуу.

Жыштыкка негизделген аныктоодо колдонулган негизги байланыш:

\[ P(r)=\frac{1}{2\pi}\int_{0}^{2\pi}|F(r\cos\theta,r\sin\theta)|\,d\theta \]

Бул формула сүрөттүн жыштык мейкиндигиндеги радиалдык энергия профилин чыгарат. F сүрөттүн жыштык өкүлчүлүгүн, r радиус/жыштык деңгээлин, θ бурчтук багытты, P(r) болсо багыттардан көз карандысыз орточо жыштык энергиясын билдирет. GAN сүрөттөрүндөгү айрым жыштык чокулары табигый сүрөттөрдөн айырмаланышы мүмкүн болгондуктан, бул профиль жасалмалоону аныктоодо колдонулат.

Изилдөө сунуштаган үч октуу баалоо матрицасы:

Негизги маалымат топтомдорунун үй-бүлөлөрү:

Обзор аныктаган негизги техникалык жыйынтыктар:

• Deepfake генерация жана аныктоо тармагы бири-биринен көз карандысыз эки багыт эмес, өз ара эволюцияланган чабуул–коргонуу системасы.
• GAN доорундагы жыштык издери alias-free архитектуралар жана жаңы генерация ыкмалары менен азыраак ишенимдүү болуп калды.
• Autoencoder жана бет алмаштыруу системалары бет кошуу чектери жана биофизиологиялык сигнал бузулуусу сыяктуу жаңы аныктоо белгилерин жаратты.
• Diffusion моделдери табигый сүрөт статистикасына жакындагандыктан, жыштык жана пиксел деңгээлиндеги детекторлордун күчүн азайтты.
• Көп модалдуу deepfake аныктоодо сүрөт гана эмес, үн, эрин кыймылы, эмоция, просодия, дем алуу, биомеханикалык кыймыл жана семантикалык контекст чогуу бааланышы керек.
• MLLM негизиндеги аныктоо системалары түшүндүрмө бере алат, бирок азырынча реалдуу убакыт модерациясы жана жогорку ишенимдүүлүк үчүн жетиштүү жетилген эмес.
• Булакта watermark жана provenance текшерүүсү келечекте post-hoc аныктоо ыкмаларын толуктаган негизги коргонуу линиясы болушу мүмкүн.

Изилдөөнүн башкаруу сунуштары:

Изилдөөнүн ачык чектөөлөрү:

• Изилдөө рецензиядан өтпөгөн preprint.
• Жаңы эксперименттик модель же жаңы маалымат топтомун түзбөйт.
• Мета-анализ жүргүзүлгөн эмес; анткени адабияттагы маалымат топтомдору, протоколдор жана отчет формалары өтө гетерогендүү.
• Келтирилген көрсөткүчтөр түпнуска басылмалардын өз шарттарына көз каранды; түз абсолюттук салыштырууда этият болуу керек.
• MLLM негизиндеги аныктоо азырынча чакан жана тандалган топтомдордо гана бааланган болушу мүмкүн; реалдуу дүйнө масштабындагы салыштыруулар жетишсиз.
• Физикалык жана семантикалык ырааттуулук үчүн стандартташкан метрикалар али жетиштүү жетилген эмес.
• Watermark жана provenance чечимдери күчтүү болгону менен, каршы-соттук өчүрүү, кайра коддоо жана платформалар аралык шайкештик маселелери уланууда.

Жалпы жыйынтык: Изилдөөгө ылайык, deepfake менен күрөш бир гана детектор же бир гана мыйзам менен чечилчү көйгөй эмес. Генерациялоочу моделдер, аныктоо системалары, маалымат топтомдору, баалоо метрикалары, watermark/provenance стандарттары, платформалардын жоопкерчилиги, укук жана коомдук маалымдуулук бирге өнүгүшү керек. Deepfake тармагындагы реалдуу коргонуу сүрөттөгү жалгыз ката изин табуудан мазмун жаралгандан тартып тараганга жана соттук текшерүүгө чейинки бүтүндөй ишеним архитектурасына өтүп жатат.

Булак жана Ыкма Жөнүндө Эскертүү

Бул макала Mengze Li, Gang Liang, Kui Zhao, Liangyin Chen, Junren Chen жана Jiayi Liu тарабынан даярдалган “Adversarial Evolution of Deepfake Generation and Detection: A Systematic Review of Paradigms, Evaluation, and Governance” аттуу изилдөөгө негизделип даярдалган.

Булак текст deepfake генерациясы жана аныктоосу боюнча адабиятты 2014–2025 аралыкта системалуу караган preprint системалуу обзор макаласы. Текстте ачык түрдө “This preprint research paper has not been peer reviewed” деген сөз болгондуктан, изилдөө рецензиядан өткөн эмес. Ошондуктан жыйынтыктар рецензияланган журналда такталган акыркы фактылар катары эмес, кеңири, бирок дагы баалоону талап кылган адабият синтези катары окулушу керек.

Изилдөөнүн ыкмасы PRISMA-га ылайыкташтырылган системалуу адабият издөөсүнө негизделет. IEEE Xplore, ACM Digital Library, Web of Science жана arXiv маалымат базалары каралып, 1.486 жазуудан 211 изилдөө сапаттык синтезге киргизилген. Бул изилдөөлөр генерация ыкмалары, аныктоо ыкмалары, маалымат топтомдору/баалоо жана башкаруу/этика/саясат темалары боюнча бөлүнгөн.

Бул мазмун даярдалганда изилдөөнүн негизги түшүнүктөрү, үч adversarial цикл модели, GAN–autoencoder–diffusion генерация багыттары, көп модалдуу deepfake өнүгүүсү, аныктоо ыкмалары, diffusion формулалары, жыштык талдоо формуласы, маалымат топтомдору жана метрика салыштыруулары, үч октуу баалоо матрицасы, технология–укук–этика башкаруу алкагы, булакта watermark жана C2PA provenance сунуштары сакталган. PDF-де жок жаңы эксперименттик жыйынтык, абсолюттук ийгилик кепилдиги, бардык deepfake мазмунун ишенимдүү аныктоого болот деген доомат же жалгыз укуктук/техникалык чечим кошулган эмес.

Изилдөө өзгөчө ушул жагынан этият окулушу керек: Deepfake аныктоо тармагындагы ийгилик көрсөткүчтөрү маалымат топтомуна, кысуу деңгээлине, бет кесүү ыкмасына, окутуу/тест бөлүштүрүүсүнө, генерация моделине жана реалдуу дүйнөдөгү бөлүштүрүүгө көз каранды. Ошондуктан детектордун белгилүү benchmarkта жогорку ийгилик көрсөтүшү социалдык медиадагы ар бир жаңы муундагы deepfake мазмунун дал ошондой ийгиликтүү аныктайт дегенди билдирбейт.

Изилдөөнүн эң баалуу салымы deepfake темасын “жасалма мазмун кантип аныкталат?” деген тар суроо менен чектебестен, генерация–аныктоо–баалоо–башкаруу чынжыры катары кароосунда. Бул чынжыр келечекте ишенимдүү санариптик медиа экосистемасын түзүү үчүн техникалык детекторлор сыяктуу эле булакты текшерүү, мазмундун келип чыгыш маалыматы, укуктук милдеттенмелер, этикалык стандарттар жана коомдук маалымдуулук да зарыл экенин көрсөтөт.