AIThena

Řešení propojené a kooperativní automobilové mobility (CCAM) se objevila díky nové umělé inteligenci, kterou lze vycvičit na základě obrovského množství dat, aby za určitých podmínek dokázala vytvořit jízdní funkce lepší než člověk. Závod o umělou inteligenci pokračuje ve vytváření HW/SW rámců pro správu a zpracování ještě větších reálných a syntetických datových sad k trénování stále přesnějších modelů umělé inteligence (AI).
 
Umělá inteligence však zůstává z velké části neprozkoumaná, pokud jde o vysvětlitelnost (interpretovatelnost fungování modelu), zachování soukromí (odhalení citlivých údajů), etiku (zaujatost a chtěné/nechtěné chování) a odpovědnost (odpovědnost za výstupy AI). Tyto vlastnosti vytvoří základ důvěryhodné AI jako nového paradigmatu, které umožní plně pochopit a důvěřovat fungující AI a zároveň ji plně využívat v jejích možnostech ve prospěch společnosti.
 
Projekt AITHENA přispěje k vybudování vysvětlitelné umělé inteligence (XAI) v rámci vývoje a testování CCAM, přičemž bude zkoumat tři hlavní pilíře AI: data (správa reálných/syntetických dat), modely (fúze dat, hybridní přístupy k AI) a testování (fyzické/virtuální sestavy XiL se škálovatelnými MLOps).
 
Bude vytvořena metodika zaměřená na člověka, která umožní odvodit důvěryhodné rozměry AI z potřeb identifikovaných skupinou uživatelů v aplikacích CCAM. AITHENA bude inovovat návrh souboru klíčových ukazatelů výkonnosti (KPI) v oblasti XAI a analýzu, která prozkoumá kompromisy mezi těmito dimenzemi.
 
Demonstrátoři předvedou metodiku AITHENA ve čtyřech kritických případech užití: vnímání (co AI vnímá a proč), situační povědomí (co AI chápe o aktuálním prostředí řízení, včetně stavu řidiče), rozhodování (proč je přijato určité rozhodnutí) a řízení dopravy (jak aplikace na úrovni dopravy spolupracují se systémy s AI fungujícími na úrovni vozidla).
 
Vytvořená data a nástroje budou zpřístupněny prostřednictvím evropských iniciativ pro sdílení dat (OpenData a OpenTools) s cílem podpořit výzkum důvěryhodné umělé inteligence pro CCAM.