Validace umělé inteligence v systémech ADAS, automatizovaném řízení a softwarově definovaných vozidlech představuje diametrálně odlišnou výzvu oproti testování klasického deterministického softwaru. Inženýři totiž musejí nejen doložit její správné fungování, ale především zajistit prokazatelné bezpečnostní záruky, které pokryjí celý životní cyklus vozidla.

Společnost Keysight Technologies a Centrum pro zajištění autonomie (Centre for Assuring Autonomy) při Univerzitě v Yorku se na tuto výzvu zaměřují v rámci nové výzkumné spolupráce. Jejich práce se soustředí na praktické metody validace automobilové umělé inteligence a generování strukturovaných důkazů, které lze využít k podpoře bezpečnostních argumentů (safety cases) pro funkce vozidel s implementovanou AI.

Stěžejní součástí výzkumu bude zavádění požadavků spojených s normou ISO/PAS 8800, která řeší bezpečnost umělé inteligence v silničních vozidlech. Partneři rovněž plánují zkoumat měřitelné přístupy k hodnocení bezpečnosti a vyvíjet rámce pro tvorbu auditovatelných důkazů. To by mohlo inženýrským týmům pomoci přejít od obecných tvrzení o spolehlivosti AI ke konkrétním důkazům, které lze objektivně přezkoumat a zpětně dohledat.

Důraz na bezpečnostní argumentaci (safety case) je obzvláště relevantní pro softwarově definovaná vozidla. Na rozdíl od konvenčních komponent s relativně fixním chováním mohou systémy na bázi AI zahrnovat složité modely, jejichž výkon závisí na datech, provozních podmínkách a situacích, s nimiž se setkají. Prokázání bezpečnosti proto vyžaduje důkazy shromážděné napříč různými fázemi vývoje a validace.

Tato spolupráce propojuje akademický výzkum v oblasti zajištění autonomie s validačními nástroji pro AI od společnosti Keysight. Očekává se, že výsledné metodiky přispějí k budoucímu vývoji platformy AI Software Integrity Builder společnosti Keysight, a to s hlavním zaměřením na bezpečnostní argumenty, generování důkazů a validaci.

Tento směr by mohl získávat na významu s tím, jak se automobilová umělá inteligence posouvá od experimentálních projektů k funkcím kritickým pro bezpečnost. Způsob testování se bude muset vyvíjet ruku v ruce se samotnou technologií a kombinovat konvenční ověřování s metodami, které dokážou vyhodnocovat datově řízené a pravděpodobnostní chování.

Pro softwarově definovaná vozidla se schopnost předložit jasné a auditovatelné důkazy může nakonec stát stejně důležitou jako samotný výkon dané umělé inteligence. Model může být sice vysoce schopný, ale jeho nasazení v prostředí kritickém pro bezpečnost zkrátka vyžaduje strukturovaný způsob, jak přesvědčivě doložit, proč lze jeho chování důvěřovat.

Více informací o tématu najdete zde.

Celý článek najdete zde.

AWAN, Zahra. Keysight and University of York partner on AI safety validation for SDVs. Autonomous Vehicle International [online]. 9. září 2026 [cit. 2026-10-01]. Dostupné z: https://www.autonomousvehicleinternational.com/news/ai-sensor-fusion/keysight-and-university-of-york-partner-on-ai-safety-validation-for-sdvs.html

Obrázek: ChatGPT