Det tyska forskningscentret för artificiell intelligens (DFKI) och den oberoende test- och certifieringsorganisationen TÜV SÜD lanserar nu ett gemensamt projekt som går ut på att certifiera de system som baseras på artificiell intelligens (AI) för autonom körning. Dessutom kommer man att utveckla ett ”trafiksäkerhetsprov” för algoritmer.
För att nå projektmålen kommer experterna att undersöka inlärningsbeteenden hos AI-system i syfte att kunna kontrollera systemens reaktioner. Huvudsyftet är att utveckla en öppen plattform, känd som ”Genesis”, avsedd för OEM, leverantörer och teknikföretag. Plattformen kommer att kunna validera artificiella intelligensmoduler och därmed ge grunden för certifieringar.
– TÜV SÜD har varit engagerad i att öka säkerheten och den offentliga acceptansen av tekniska innovationer i över 150 år, och autonom körning är inget undantag. Vi är glada över att arbeta med DFKI för att göra morgondagens körning säkrare och omfamnar de utmaningar som följer med artificiell intelligens , säger Dr. Houssem Abdellatif, Global Head Autonomous Driving på TÜV SÜD.
AI integreras allt mer i autonoma fordons elektroniksystem och hanterar allt fler potentiella trafiksituationer (upp till 100 miljoner situationer för varje helt automatiserad körfunktion, enligt TÜV SÜDs experter). Sådana här system reagerar inte på ett deterministisk sätt och är således inte exakt förutsägbara; i stället lär de sig av trafiksituationer i en process som kallas ”djupt lärande”, och drar sina egna slutsatser för att reagera korrekt. Med andra ord tar systemen autonoma beslut. För att säkerställa att dessa beslut alltid är gynnsamma för trafiksäkerheten kring dem, planerar TÜV SÜD att validera och certifiera de underliggande algoritmerna.
– Ännu vet vi väldigt lite om exakt hur AI-system lär sig. Detta blir ett banbrytande arbete. Syftet är att användare av den nya Genesis-plattformen i framtiden ska kunna ladda upp data och moduler för tester. system som passerar testen kommer att tilldelas lämpligt TÜV SÜD-certifikat för funktionell säkerhet, säger Dr Abdellatif.
– Industrin har visat enormt intresse, med många företag redo att delta i Genesis. Vi är glada att ha TÜV SÜD ombord, en prestigefylld partner som är synonymt med internationell bil- och trafiksäkerhet, säger Dr. Christian Müller, chef för Team Autonomous Driving ASR & Competence Center Autonomous Driving CCAD vid DFKI.
Körtest för autonoma fordon
Svårigheterna med att utveckla metoder för säkerhet hos AI-system är uppenbara. AI-system använder tillgängliga data för att dra sina egna slutsatser och lär sig successivt från varje gång de stöter på trafiksituationer. I detta avseende liknar systemen körskoleelever. Säkerheten kring att ett fordon kommer att reagera korrekt i trafiken ökar således kontinuerligt över tiden. Experternas mål är att kunna utvärdera systemets framsteg i en lärande process som liknar teoriprovet vid ett körkortsprov.
– Resultat som uppnåtts hittills av djupinlärningsmetoden har visat förvånansvärt bra resultat i praktiken, men fortfarande vet ingen hur processen verkligen fungerar. Det här är vad vårt gemensamma projekt nu ska undersöka, säger Dr Abdellatif.
Men ett praktiskt test är också viktigt innan autonoma fordon kan få grönt ljus för att köra på vägar. Här måste experterna utforska processen genom vilken AI-system lär sig.
– När vi förstår exakt vilka slutsatser systemen drar kan vi ingripa för att styra inlärningen på ett målinriktat sätt. Vi behöver inte bara veta om att ett fordon kommer bromsa utan också varför, säger Dr. Abdellatif.
Även data som samlas in från virtuella trafiksituationer kommer att användas för att övervaka och korrigera algoritmernas lärprocess. Slutresultatet blir ett certifikat, eller körkort, som bekräftar att en algoritm är säker för vägtrafik.
