Дар системаҳои савдои басомади баланд, иҷроиш танҳо аз суръати як алгоритм вобаста нест. Таъхири tick-to-trade, яъне вақт аз расидани бастаи маълумоти бозор то фиристодани фармони мувофиқ, натиҷаи муштараки scheduler-и системаи амалиётӣ, interrupts, kernel housekeeping, page faults, рафтори TLB, cache locality, ҷараёни идоракунии C++, ҷудокунии хотира, thread synchronization ва стеки протоколи шабака мебошад.

Кори Khalid Mohammad ин қабатҳоро бо микроbenchmark-ҳои ҷудогона месанҷад ва нишон медиҳад, ки кадом интихобҳои тарроҳӣ ба таъхири маъмулӣ ва кадомҳо ба tail latency — ҷаҳишҳои камёб, вале хеле бузурги таъхир — таъсир мекунанд.

Хулосаи муҳим ин аст, ки як “беҳтарин оптимизатсия” вуҷуд надорад. Real-time scheduler median wakeup latency-ро кам мекунад, вале tail-ҳои чуқурро танҳо нест намекунад. Баръакс, CPU isolation дар сатҳи kernel, ҷудокунии RCU/workqueue ва interrupt steering p99.9 ва p99.99-ро қавитар фишурда мекунанд.

Дар хотира, пешакӣ populate кардани саҳифаҳо first-touch cost-и тақрибан 2 µs-ро дар таҷриба то сатҳи тақрибан 20 ns расонд. Explicit 2 MB HugeTLB нисбати 4 KB pageҳо TLB miss rate-ро аз %1,33 ба %0,09 ва cycles/access-ро аз тақрибан 290 ба 43,12 фаровард.

Дар C++ натиҷаҳо нозуктаранд: stateless lambda ба inline function наздик аст, аммо std::function тақрибан 5,68× гаронтар. dynamic_cast-и RTTI нисбати explicit tagging тақрибан 3,6× cycle бештар истифода кардааст. Object pool нисбати new/delete умумӣ тақрибан 3,7× тезтар аст ва tail latency-и heap allocation баландтар мемонад.

Data-oriented design нишон медиҳад, ки ҷойгиршавии маълумот метавонад аз қудрати ҳисоббарории CPU муҳимтар бошад. Sequential access ≈5,35 cycles/access аст, random pointer chasing бошад ≈378 cycles/access. False sharing вақти иҷроишро тақрибан 7,5× зиёд кардааст.

Дар шабака, Linux UDP path бо AF_XDP дар як мошин бо network namespace ва veth муқоиса шудааст. Kernel path миёна ≈200 µs буд, AF_XDP бошад ≈8 µs; p50 аз ≈218 µs ба 6 µs поён рафт. Бо вуҷуди ин p99-и AF_XDP ≈80 µs монд; bypass-и kernel tail latency-ро пурра нест намекунад.

Паёми муҳандисии манбаъ чунин аст: таъхири паст аз як функсияи тез не, балки аз хориҷ кардани манбаъҳои номуайяни slow path аз роҳи критикӣ ба вуҷуд меояд.

Меъёри асосӣ дар системаҳои камтаъхир чист?

Дар нармафзори умумӣ throughput ё шумори умумии амалиёт кофӣ буда метавонад. Дар HFT ҳатто як ҷаҳиши камёби таъхир аҳамияти иқтисодӣ дорад. Барои ҳамин бояд тамоми занҷири p50 → p99 → p99.9 → p99.99 → maximum дида шавад.

Оё scheduler танҳо кофӣ аст?

Не. Дар cyclictest, SCHED_FIFO барои wakeup latency-и маъмулӣ аз CFS тезтар аст, аммо tail-и чуқур аз interference-и kernel низ вобаста мебошад.

CPU isolation ва interrupt steering

Ҳатто thread-и pinшуда метавонад аз timer tick, RCU callback, kernel workqueue ё hardware interrupt қатъ шавад. Комбинатсияи isolcpus, nohz_full, rcu_nocbs, cpuset/cgroup ва workqueue relocation ядрои latency-critical-ро аз housekeeping ҷудо мекунад.

Median қариб тағйир намеёбад, аммо p99.9 ва p99.99 сахт беҳтар мешаванд. Як percentile тамоми тасвирро намедиҳад.

Page fault, huge pages ва VM tuning

Дар 512 MB anonymous mapping тақрибан 131.000 minor page fault мушоҳида шуда, first-touch cost тақрибан 2 µs барои ҳар саҳифа буд. MAP_POPULATE онро то 20 ns дар steady-state коҳиш дод.

Explicit HugeTLB cycles/access-ро 6–7× кам мекунад. THP метавонад дар пасзамина collapse, split ва memory compaction иҷро карда, дар fragmented memory tail spike-и миллисониявӣ эҷод кунад.

Median беҳтар мешавад, вале p99 ва p99.9 бадтар. Аз ин рӯ hot path бояд аз runtime allocation дур бошад.

Mitigations, C-state ва C++

Хомӯш кардани mitigations арзиши syscall ва context switch-ро кам мекунад, аммо хатари амниятиро зиёд мекунад; ин тавсияи умумӣ нест.

Virtual dispatch дар як навъ тақрибан 1,47× гаронтар аст. Аммо дар ABI-stable interfaces, plugin systems ва cold path dynamic polymorphism ҳанӯз метавонад дуруст бошад.

noexcept дар std::vector reallocation 2,6× фарқ додааст. std::function аз lambda гаронтар аст, зеро type erasure ва indirect dispatch дорад. dynamic_cast низ нисбати explicit tagging харҷи бештар дорад.

PGO, allocation, cache ва concurrency

Object pool асосан дар tail фоида медиҳад. Sequential array ≈5,35 cycles/access, random pointer chasing ≈378 cycles/access; фарқ қариб 70×.

Ҷудо кардани hot/cold data вақтро аз 1,08746 s ба 0,91845 s овард; cache misses аз 7,8×10⁷ ба 3,5×10⁷ поён рафт. False sharing бошад 4,16 s, cache-line padded 0,55 s буд.

AoS тақрибан 258 ms, SoA 145 ms буд. SIMD scalar 406 ms ва AVX 370 ms аст; беҳбудӣ тақрибан %7.

Lock-free дар SPSC ring buffer tail-ро беҳтар мекунад, вале дар contention-и баланд CAS retry метавонад аз mutex бадтар шавад.

AF_XDP

Linux receive path: NIC → Driver → sk_buff → IP/UDP Stack → Socket → System Call → User Space. AF_XDP path: NIC → XDP → AF_XDP → UMEM → User Space.

Ин benchmark production HFT network нест; он namespace/veth дар як мошинро месанҷад.

Усул ва қайди манбаъ

Сарлавҳаи аслӣ: Design Choices in Low-Latency C++ Systems: Empirical Insights with Applications to High-Frequency Trading

Муаллиф: Khalid Mohammad. Муассиса: Department of Computer Science, Indian Institute of Technology Kharagpur. Сана: 3 апрели 2026; SSRN: 17 апрели 2026; SSRN ID: 6513601; DOI: 10.2139/ssrn.6513601.

Навъи нашр: Preprint. Натиҷаҳо ба як Intel i5-6500 ва версияҳои муайяни Linux/GCC маҳдуданд; AF_XDP дар namespace/veth санҷида шудааст; тадқиқот trading alpha ё даромади стратегияро намесанҷад.