14. 10. 2026
Jihokorejští vědci z univerzit SEOULTECH a Kyung Hee vyvinuli AI rámec AdvWT (Adversarial Wear and Tear), který simuluje přirozené opotřebení a poškození dopravních značek za účelem odhalení zranitelností systémů počítačového vidění autonomních vozidel a zvýšení jejich odolnosti v reálném provozu.
Dopravní značky jsou navrženy tak, aby zůstaly pro lidské řidiče srozumitelné i přes povětrnostní vlivy, blednutí a další fyzické opotřebení. Pro systémy počítačového vidění založené na umělé inteligenci však mohou tyto postupné změny představovat mnohem složitější problém s rozpoznáváním. Výzkumníci z univerzit Kyung Hee a SeoulTech proto vyvinuli nový rámec s názvem Adversarial Wear and Tear (AdvWT), aby tuto zranitelnost prozkoumali.
Tento přístup využívá generativní model typu image-to-image, který se učí, jak vypadají poškozené dopravní značky, a přitom zachovává jejich původní identitu a význam. Vědci pak mohou postupně upravovat zobrazení poškození a vytvářet tak značky, které působí přirozeně opotřebovaně, ale u nichž je mnohem vyšší pravděpodobnost, že je AI systém nesprávně klasifikuje.
Experimenty probíhaly s využitím dvou datových sad dopravních značek a osmi různých architektur rozpoznávání. Rámec AdvWT dosáhl vysoké úspěšnosti útoků napříč testovanými systémy a prokázal přenositelnost mezi různými architekturami umělé inteligence. Důležité je, že výzkumníci nezůstali pouze u čistě digitálních experimentů. Vytištěné značky omezující rychlost byly fotografovány z různých vzdáleností, úhlů pohledu a v interiérových i exteriérových podmínkách, přičemž uměle vygenerované opotřebení i nadále úspěšně narušovalo schopnost jejich rozpoznání.
Díky tomu je tento výzkum mimořádně relevantní pro oblast autonomního řízení. Systém vidění trénovaný primárně na čistých a udržovaných značkách může v běžných testech dosahovat skvělých výsledků, ale zároveň zůstává zranitelný vůči podmínkám, které se na silnicích vyskytují zcela běžně. Vybledlé barvy, praskliny nebo koroze sice nepředstavují škodlivý útok v tradičním slova smyslu, ale i tak mohou vytvářet situace, kdy umělá inteligence situaci nesprávně vyhodnotí.
Výzkum rovněž poukazuje na mnohem konstruktivnější využití syntetického opotřebení. Trénování modelů pomocí poškozených značek vygenerovaných v systému AdvWT totiž prokazatelně zlepšilo jejich schopnost správně rozpoznávat skutečné poškozené značky z reálného světa. Uměle generované příklady by se tak mohly stát běžnou součástí testování robustnosti a tréninku, namísto aby sloužily pouze k demonstraci samotných zranitelností.
Hlavním závěrem je, že bezpečnost umělé inteligence nelze posuzovat pouze na základě průměrné přesnosti rozpoznávání. U automatizovaného řízení musí testování zohledňovat také to, jak se percepční systémy chovají ve chvíli, kdy se fyzické prostředí začne postupně odchylovat od ideálních podmínek zastoupených v trénovacích datech.
Více informací o tématu najdete
zde.
Celý článek najdete zde.
SEOULTECH. Develops AI Framework to Test and Improve Vision-System Robustness. SEOULTECH Research Spotlight [online]. 26. srpna 2026 [cit. 2026-10-06]. Dostupné z: https://en.seoultech.ac.kr/news/res_spotlight?do=view&bnum=58278&bidx=894399&cate=1
Obrázek: ChatGPT