Te veel vertrouwen in AI bij groot deel gebruikers van auto-assistsystemen

Dat blijkt uit onderzoek van het Amerikaanse Insurance Institute for Highway Safety (IIHS). De onderzoekers keken daarbij naar enkele honderden gebruikers van General Motors Super Cruise, Nissan/Infiniti ProPILOT Assist en Tesla Autopilot. De namen doen vermoeden dat het gaat om systemen die het rijden in de auto's waar ze in geïnstalleerd zijn, volledig kunnen overnemen en zo blijken veel gebruikers ze ook in te zetten. Maar het gaat om zogeheten 'level 2'-systemen in een rangorde waarbij level 5 pas echt op een veilige manier volledig autonoom rijden kan bieden.

De level 2-systemen combineren echter twee eigenschappen waardoor bestuurders het idee kunnen krijgen dat het systeem het zelf wel kan. Level 2-systemen signaleren namelijk zelf de belijning op de snelweg, waardoor de auto netjes daartussen blijft rijden, én ze beschikken over adaptive cruise control, dat zorgt dat de snelheid van de auto wordt aangepast zodat deze voldoende afstand houdt tot een voorligger. Beide deelsystemen zijn echter ontworpen om de veiligheid van het autorijden te verhogen door de bestuurder te assisteren, niet om diens taken over te nemen. Ze zijn ontworpen met het uitgangspunt dat de bestuurder minimaal elke 15 seconde zelf een reactie geeft.

Werken op de laptop

Hoewel alle drie de systemen controlemechanismen hebben ingebouwd om te zorgen dat de bestuurder alert blijft op het verkeer op de weg - bijvoorbeeld via camera's die de oogbeweging van de bestuurder volgt - blijkt uit de vragenlijsten dat de chauffeurs onderweg heel andere dingen doen dan de auto besturen. Zo geeft 19% van de Tesla-bestuurders aan wel met een laptop in de weer te zijn en 39% gebruikt smartphone-apps. Maar liefst 44% typt tekstberichten in tijdens het rijden.

Het merendeel van de ondervraagde bestuurders is wel eens gewaarschuwd door het systeem om beter op de weg te letten. Bij 82% van de SuperCruise-gebruikers, 82% van de Autopilot-gebruikers en 73% van de ProPilot-gebruikers gebeurde dat inderdaad op momenten dat ze met activiteiten bezig waren die niets met autorijden te maken hadden. Gelukkig gaven de meesten wel aan dat ze blij waren met de waarschuwingen en dat ze zich daardoor veiliger voelden. Toch gaf een kleine 20% van de gebruikers aan dat zij de waarschuwingen maar vervelend vonden.

Straf bij misbruik

Maken de bestuurders het te bont, dan zorgen de systemen dat ze zichzelf uitschakelen. Iets meer dan 40% van de bestuurders vindt dat een goede zaak, maar 54% van de gebruikers vond het maar irritant wanneer dat gebeurde. Zo'n 40% van de ondervraagden had zo'n 'system lockout' wel eens meegemaakt.