S tím, jak se autonomní vozidla stávají složitějšími a stále více se spoléhají na rozhodování na bázi umělé inteligence (AI), se prokázání jejich bezpečnosti nemůže omezovat pouze na testování. Nová výzkumná studie navrhuje strukturovaný rámec založený na metodice Assurance 2.0, jehož cílem je učinit zajišťování bezpečnosti systematičtějším, sledovatelnějším a škálovatelnějším v průběhu celého životního cyklu vývoje.

Assurance 2.0 rozšiřuje tradiční přístup Tvrzení - Argument - Důkaz (Claims-Argument-Evidence) tím, že výslovně zohledňuje takzvané vyvraceče (defeaters) – potenciální výzvy nebo protiargumenty, které by mohly bezpečnostní tvrzení oslabit. To je obzvláště relevantní pro autonomní systémy, kde jsou provozní prostředí rozsáhlá a nepředvídatelná a kde má mnoho bezpečnostních argumentů spíše statistický než čistě deterministický základ.

Navrhovaný rámec rozkládá bezpečnostní argumenty do tří úrovní. Na nejvyšší úrovni je vývoj samořiditelných vozidel rozdělen do fází inženýrství požadavků, verifikace a validace a fáze po nasazení do provozu. Každá fáze je následně zkoumána podle svého životního cyklu vývoje produktu, načež následuje další dekompozice s využitím modelu 5M1E: Man (Člověk), Machine (Stroj), Method (Metoda), Material (Materiál), Measurement (Měření) a Environment (Prostředí).

Tato vrstvená struktura má usnadnit identifikaci toho, jaké důkazy podporují každé jednotlivé bezpečnostní tvrzení, a odhalit místa, kde přetrvávají potenciální mezery nebo zbytková rizika. Výzkumníci zároveň vyvinuli šablony v programu Excel, které mohou podpořit proces dokumentace a potenciálně poskytnout vstupy pro budoucí automatizaci tvorby bezpečnostních argumentů (safety cases).

Tento přístup je obzvláště vhodný pro komplexní (end-to-end) systémy autonomního řízení založené na AI. Tradiční bezpečnostní procesy se mohou stát obtížně udržovatelnými v situaci, kdy se software, datové sady a modely AI rychle vyvíjejí. Strukturovaný rámec pro zajištění bezpečnosti by naproti tomu mohl umožnit postupnou aktualizaci důkazů a argumentů s tím, jak se systém mění.

Důležitým bodem je skutečnost, že studie nepředkládá zajištění bezpečnosti jako jednorázový závěrečný schvalovací úkon. Považuje jej za nepřetržitou aktivitu probíhající od definování požadavků přes validaci až po provoz po nasazení. To odráží realitu softwarově definovaných vozidel, kde se funkce mohou vyvíjet i poté, co je vozidlo uvedeno do provozu.

Výzkum proto zdůrazňuje rostoucí posun ve vývoji autonomních vozidel: výzvou již není pouze generovat více testovacích důkazů, ale uspořádat tyto důkazy do jasného a kontrolovatelného argumentu o bezpečnosti. Podobné strukturované přístupy by mohly nabývat na významu s tím, jak bude AI pronikat hlouběji do funkcí vozidel, které jsou kritické pro bezpečnost.

Více informací o tématu najdete zde a zde.

Celý článek najdete zde.

CHEN, Shufeng, Elizebeth MARIAT JAMES, Robab AGHAZADEH CHAKHERLOU, Xingyu ZHAO, Eric BARBIER, Siddartha KHASTGIR a Paul JENNINGS. A Scalable Framework for Safety Assurance of Self-Driving Vehicles based on Assurance 2.0. arXiv [online]. 29. září 2025 [cit. 2026-10-01]. Dostupné z: https://arxiv.org/html/2510.00092v1

Obrázek: ChatGPT