Selvkjørende biler kan nå forklare sine beslutninger i sanntid

Forskere løser «svart boks»-problemet

Motional og MIT har publisert forskning i Nature som viser hvordan selvkjørende biler kan forklare sine beslutninger i sanntid. Teamet, ledet av Motionals CEO Laura Major sammen med forskere fra MITs Computer Science and Artificial Intelligence Laboratory, har utviklet en metode som gjør AI-beslutninger transparente mens bilen kjører.

Systemet lar bilen forklare hvorfor den for eksempel bremser, svinger eller akselererer basert på hva den «ser» i trafikken. Dette løser det såkalte «svart boks»-problemet hvor AI-systemer tar beslutninger uten at mennesker forstår hvorfor.

Hva dette betyr for norske bedrifter

Selv om forskningen fokuserer på selvkjørende biler, har prinsippene bredere anvendelse. Norske bedrifter som utvikler eller bruker AI-systemer står overfor samme utfordring: hvordan skape tillit til automatiserte beslutninger.

Teknologien viser at det er mulig å bygge AI-systemer som ikke bare fungerer, men også kan forklare seg selv. Dette blir stadig viktigere ettersom EU-regelverket krever mer transparens i AI-beslutninger.

For bedrifter som vurderer AI-implementering, kan det være lurt å starte med å forstå hvordan forklarbare AI-systemer fungerer. En [AI-workshop](/ai-workshop) kan gi innsikt i hvilke verktøy og metoder som finnes for å gjøre AI-beslutninger mer transparente.

Konklusjon

Vurder å kartlegge hvor AI-transparens er viktigst i din bedrift, og bygg kunnskap om verktøy som Claude eller ChatGPT som allerede kan forklare sine resonnementer.