Niemiecki organ odpowiedzialny za cyberbezpieczeństwa (BSI) i firma ZF Friedrichshafen AG zbadają, w jaki sposób można przetestować bezpieczeństwo systemów sztucznej inteligencji w samochodach. Wyniki posłużą do opracowania kryteriów testowych dla systemów wykorzystujących SI. Celem jest rozwój przyszłych audytów bezpieczeństwa samochodów i postęp w międzynarodowych działaniach normalizacyjnych w tym zakresie.
Systemy oparte na sztucznej inteligencji, jak np. układy monitorujące tor jazdy czy wykrywające pieszych, mogą być podatne na szeroki zakres ataków, które mogą być niebezpieczne zarówno dla kierowców i pasażerów, jak i dla pieszych i osób w innych pojazdach. Cyberprzestępcy mogą przykładowo próbować uczynić SI „ślepą” na inne obiekty znajdujące się na torze jazdy poprzez manipulowanie widzeniem komputerowym (systemem rozpoznawania obrazu) w celu błędnego klasyfikowania pieszych. Taka podatność stanowi poważne zagrożenie, zwłaszcza w przypadku pojazdów autonomicznych, które już niedługo mogą pojawić się na drogach.
BSI poinformowało, że jego celem jest opracowanie wytycznych w oparciu o wiedzę zdobytą w ramach badań. Organ przewiduje kontynuację projektu mającą na celu wdrożenie wypracowanych założeń.