Tehnika - kako kadar postaje događaj
VAP radi NVIDIA GPU inferencu preko ONNX Runtime. Svaki broj na ovoj stranici izmeren je na imenovanoj kartici, na naveden datum, komandom koju možete pokrenuti na svojoj kutiji - i za svaki broj piše da li je meren ili skaliran.
ONNX Runtime · TensorRT EP
Red izvršnih provajdera detektora: TensorRT → CUDA → CPU. Agent uzima
najbrži provajder koji vaš drajver podržava i prijavljuje koji je stvarno radio
(vap_edge_onnx_ep), pa PoC izveštaj imenuje put koji je opsluživao vašu lokaciju,
a ne onaj kojem smo se nadali.
CUDA trening · export
onnxruntime-gpu na edge putu; trening na CUDA (PyTorch) na NVIDIA RTX radnoj stanici; ONNX export za deploy.
Šta detektor danas prepoznaje
Osobe i vozila. Pravilo koje pravi događaj je vozilo u pešačkoj zoni (ili osoba u zabranjenoj zoni, prelazak linije, zadržavanje, prisustvo van radnog vremena, ili pešak i vozilo koji se približe na podešeno rastojanje). Posebnu klasu za viljuškar podrazumevani model još nema, u pripremi je.
Gde odlazi vreme jednog kadra
Mereno na Quadro RTX 6000, ulaz 1080p, produkcioni put (ONNX Runtime, CUDA EP):
skaliranje 2,5 ms (CPU) → session.run
7,1 ms (GPU) → dekodiranje izlaza i NMS
2,9 ms (CPU). Ukupno 10,9-12,5 ms.
Kako dimenzionišemo kutiju: GPU nosi 56–60 % vremena kadra. Ispod otprilike 80 % udela GPU-a jača kartica ne donosi nijednu kameru više — zato dimenzionišemo prema merenom kadru, a ne prema specifikaciji — zato je karta koju preporučimo ona koja vam zaista treba, a ne najveća sa cenovnika.
Koliko traje put do alarma
Od odluke detektora do isporučenog alarma: p95 ispod 1,5 s. Izmereno u prozoru od 24 h na 1833 događaja; 99,94 % događaja bilo je ispod 5 s. Izmereno na dve žive kamere; vaš PoC ovoj tabeli dodaje vaš broj.
Ne objavljujemo vreme kadar → alarm kao „našu latenciju“: ono sadrži
dwell, prag zadržavanja koji vi sami podešavate. Meriti našu
brzinu vašim podešavanjem bilo bi obmanjujuće.
Koliko traje povezivanje kutije
Od registracije do prvog događaja: ispod 3 minuta. Instalacija agenta na kutiji traje 28 s, ceo put od nastanka naloga do kraja instalacije 93 s. Trajanje računa centar iz dva pečata koja kutija pošalje otkucajem - ne štoperica.
To je donja granica i tako je i zovemo. Izmereno 22. 8. 2026 na Ubuntu 24.04 mašini sa mrežom, sa sintetičkim izvorom i bez čekanja na čoveka. Broj ne uključuje nabavku i montažu kamera, vašu mrežu, GPU drajver ni pravne korake kod vas - oni traju danima i na njih nemamo uticaja. Puštanje u rad sa zonama, pravilima, doterivanjem i primopredajom je druga stvar i traje tri nedelje.
Koliko kamera nosi koja kartica
Svaki red nosi oznaku izmereno ili procena. Red bez oznake ne može da bude objavljen — build to sprovodi. Referentno opterećenje: naš produkcioni detektor, ONNX Runtime + CUDA EP, jedna ORT sesija po kameri, 30 % rezerve već oduzeto.
| Kartica | FP32 TFLOPS | Kamera @5 fps | @10 fps | @15 fps | VRAM | Izvor |
|---|---|---|---|---|---|---|
| Quadro RTX 6000 (24 GB) | 16,3 | 24 | 12 | 8 | 0,4 GB + 0,16 GB/cam | izmereno 2.8.2026 |
| RTX 4060 (8 GB) | 15,1 | 22 | 11 | 7 | isto | procena — skaliranje po FP32 |
| RTX 4060 Ti (16 GB) | 22,1 | 32 | 16 | 10 | isto | procena — skaliranje po FP32 |
| RTX 3060 (12 GB) | 12,7 | 18 | 9 | 6 | isto | procena — skaliranje po FP32 |
| RTX A2000 (12 GB) | 8,0 | 11 | 5 | 3 | isto | procena — skaliranje po FP32 |
| RTX 2000 Ada (16 GB ECC) | 12,0 | 17 | 8 | 5 | isto | procena — skaliranje po FP32 |
| Jetson Orin NX 16 GB | 3,8 (GPU) | 5 | 2 | 1 | isto | procena — druga arhitektura - merimo pre ponude |
| samo CPU (bez GPU) | — | nije podržano | — | — | — | izmereno 2.8.2026 — vidi napomenu |
Metod za svaku procenu: kamere = izmeren plafon (174,7 inferencija/s na Quadro RTX 6000) x (FP32 kartice / 16,3) / ciljni fps x 0,7 rezerve. Metod je linearan po FP32 i zato optimističan za arhitekture sa drugačijom propusnošću memorije - pomoć pri ponudi, ne garancija.
Vašu karticu izmerimo za 10 minutes komandom
bash scripts/bench_capacity.sh inference - broj sa vaše kutije je uvek bolji od
naše tabele.
Šta kamera mora da ume
Radimo sa postojećim kamerama — ali „postojeća" nije isto što i „bilo koja". Ispod je lista koju možete proveriti sami, pre nego što se čujemo.
- RTSP, dostupan sa kutije u vašoj mreži. ONVIF nije uslov — koristimo ga samo za automatsko pronalaženje kamera; kamera bez njega se doda URL-om.
- Druga rolna (substream) je obavezna. Detekcija čita nju i po njoj dimenzionišemo kutiju i broj kamera, pa kamera bez nje nije deo ponude — to je najčešći razlog da inače dobra kamera ostane van.
- Glavnu rolnu uopšte ne dekodiramo — samo je prepisujemo u dokazni klip. Zato 4K glavna rolna ne košta ništa na GPU-u.
- H.264 ili H.265 — oboje izmereno na stvarnim uređajima.
- RTSP preko TCP-a mora biti dozvoljen (zaštitni zid).
- Fiksna kamera. Zona se crta po slici; kamera koja se okreće menja značenje zone.
Referenca po kojoj dimenzionišemo: substream 704x480 na 5 fps detekcije. Šta ne tvrdimo: minimalnu visinu osobe u pikselima još nismo izmerili, pa je ne objavljujemo — merimo je na vašoj kameri. Kutija meri stvarno dekodiranu rezoluciju svake kamere, a ne ono što uređaj tvrdi o sebi, pa na pitanje „radi li kod mene" odgovaramo spiskom po kamerama.
Vaša lokacija, vaš model
Podrazumevani detektor poznaje osobe i vozila. Nekim lokacijama treba više: određen tip vozila, ručni paletar, pravilo za reflektujući prsluk. Trening ne pokrećete vi — konzole za trening namerno nema, to je usluga koju izvodimo mi. Prilagođavanje lokaciji je put od vaših sopstvenih snimaka do modela podešenog za vaš objekat — a snimci pri tome ne napuštaju zgradu.
- Ispravka jeste označavanje. Operater i danas svaki alarm potvrdi ili odbaci. Oznaka „ovo nije viljuškar" ili okvir na onome što je detektor promašio jedini je deo koji se dešava kod vas — jer podaci nastaju tamo.
- Vi tražite, mi treniramo. Prilagođavanje počinje pisanim zahtevom, ne dugmetom u aplikaciji. Recept za obuku je naš i unapred zadat; obuka radi na vašoj opremi u zakazanom prozoru, da nikada ne otima grafičku karticu živoj detekciji.
- Kapija koju kandidat mora da potuče. Kandidat se meri protiv pinovanog modela na validacionom skupu zamrznutom za vašu lokaciju. Ako ne potuče zatečeni, ne ide u upotrebu — a oba broja vidite pre nego što se bilo šta promeni.
- Poreklo na svakom događaju. Svaki događaj nosi verziju modela koja ga je napravila. Povratak unazad je promena jedne pinovane vrednosti.
Šta namerno ne dobijate: hiperparametre, upload dataseta i „AI konzolu". Pogrešna stopa učenja ne vraća grešku nego tiho lošiji model — a baš taj model gleda vaše prolaze; štetu biste videli tek posle nedelja, kroz propuštene događaje. Zato uz bazni model na kutiju šaljemo i replay skup: obuka samo na podacima jedne lokacije inače briše ono što je model već znao. Drugi razlog je pravni — po čl. 25 Akta o veštačkoj inteligenciji korisnik koji sistem suštinski izmeni postaje provajder i preuzima sve obaveze. Baš zato smo odustali od samoposlužne obuke (odluka 4.8.2026): recept, obuka i kapija ostaju kod nas, a vi dajete podatke i vidite brojeve.
Model treniran na vašem podu ostaje vaš
To piše u ugovoru, ne na prodajnoj stranici. Terms §7:
- Vaši snimci ne treniraju ničiji tuđi model. Ni naš, ni drugog kupca. Zabrana je apsolutna i važi i posle raskida.
- Model za lokaciju trenira se samo na vašim podacima, samo za vaše lokacije, na vašoj opremi — i nikada se ne spaja ni sa čijim drugim.
- Zadržavate trajnu, neopozivu i besplatnu licencu na njega, i onda kada prestanete da nam plaćate. Ako odete, model ne ostaje kod nas.
- Možete tražiti da ga obrišemo, pisanim zahtevom, u bilo kom trenutku.
Postavite ista četiri pitanja cloud dobavljaču pre nego što potpišete sa njim.
Referentna edge kutija
Ubuntu sa NVIDIA dGPU - Turing ili novija, sa NVDEC-om. Tabela iznad kaže koliko kamera nosi koja kartica. Kutija je vaša - PoC radi na vašem postojećem GPU serveru ili na integratorovoj kutiji; hardver ne prodajemo i ne pozajmljujemo, ali damo specifikaciju i za dan proverimo ponudu prodavca. Jetson Orin NX je u tabeli dimenzionisan, a izmerimo ga na samom uređaju pre nego što ga ponudimo; PoC nikada ne čeka njega.