Organisaties verkeersmanagement roepen EU op om AI niet kapot te reguleren

De Europese AI-systemen die in veiligheidssystemen in verkeersmanagement worden gebruikt, brengen grote risico’s met zich mee volgens het Europees Parlement. Brussel gaat deze systemen binnenkort daarom streng reguleren. Het TM2.0 Innovatieplatform, waar ook CROW bij aangesloten is, waarschuwt echter om innovatie niet in de kiem te smoren.

Dat schrijft het platform in een position paper gericht aan de Europese Commissie. Aanleiding is de Europese AI-wet die op 9 december is aangenomen en eind april in werking treedt. Daarna volgt de implementatiefase. De wet regelt de ontwikkeling en het gebruik van AI in de Europese Unie en hanteert een risico-gebaseerde aanpak. De meeste AI-toepassingen moeten aan minimale eisen voldoen, andere toepassingen worden verboden. Toepassingen die zijn aangemerkt als hoog risico, zoals verkeersveiligheidssystemen, moeten aan strengere eisen voldoen.

Niet over één kam scheren

Bij het TM2.0-platform zijn verschillende publieke en private partijen aangesloten die werken aan verkeersmanagement. Het platform wil dat de Europese Commissie goed kijkt naar de verschillende toepassingen van AI in de verkeersmanagementsector en niet de gehele sector over één kam scheert.

Volgens het platform zijn er verschillende fasen in het verkeersmanagement die door AI uitgevoerd kunnen worden. Het is een beslissingsketen die uiteindelijk leidt tot een bepaalde actie, bijvoorbeeld het adviseren van een lagere maximumsnelheid. Maar puur omdat er AI voorkomt in zo’n keten, wil nog niet zeggen dat de hele keten gevaarlijk is, zo redeneren de partijen. Neem nu een systeem voor snelheidsbegrenzing: die kun je vooraf instellen zodat die alle adviezen buiten een bepaald bereik negeert. Zo kan het systeem bijvoorbeeld nooit een advies van 130 km/ uur geven.

TM2.0 stelt dat zeer gericht moet worden gekeken naar hoe en waar AI wordt ingezet en of een beslissing door mensen, geheel geautomatiseerd of door een combinatie van beide wordt genomen. Volgens het platform moeten een systeem alleen worden aangemerkt als erg risicovol als de storing van een systeem grote gevolgen kan hebben voor gezondheid, veiligheid en rechten van mensen.

Vertragingen

Om te bepalen welke systemen gevaarlijk zijn moeten alle belanghebbenden in de sector betrokken worden, zo schrijft het platform. Ook moet de Europese Commissie ervoor zorgen dat leveranciers van niet-gevaarlijke AI niet teveel gehinderd worden, omdat dit “onnodige vertragingen” kan opleveren bij het introduceren van nieuwe systemen op de markt, aldus de partijen.”In de verkeersmanagementsector is het bewezen dat het gebruik van AI levens kan redden. Het heeft enorm potentieel om verkeersveiligheid in de toekomst verder te verbeteren.”