Zelfrijdende auto moet nog veel leren

De zelfrijdende auto komt eraan. Vijftig exemplaren maken morgen een proefrit op een snelweg in Nederland. Technisch kan het, maar hoe bepaal je wat zo'n auto doet in een noodsituatie? En ook: wíe bepaalt dat? Een fatale fout ligt op de loer, schrijft zusterkrant Algemeen Dagblad.

Valentijnsdag in Mountain View, Californië. Een auto sorteert rechts voor. Omdat er zandzakken op de rijbaan liggen, wil hij weer terug naar de linkerrijbaan. Er valt een gaatje en de auto trekt op om in te voegen. Maar een bus die eraan komt, mindert geen vaart. Een kras op de bus en een deuk in de auto zijn het resultaat.

Dit ongelukje van niks, dat iedereen had kunnen overkomen, werd vorige maand wereldnieuws, want de auto was een zelfrijdende auto van Google. De machine, die al miljoenen schadevrije kilometers had afgelegd, maakte een inschattingsfout met een ongeluk als gevolg. De vraag is nu: willen we accepteren dat zelfrijdende auto's, geprogrammeerd door fabrikanten, fatale fouten kunnen maken?

Is het filosofie?
Universitair hoofddocent Jan Broersen doet aan de Universiteit Utrecht onderzoek naar de ethiek van kunstmatige intelligentie, onder andere bij zelfrijdende auto's. Broersen is informaticus én filosoof. "De verantwoordelijkheid van kunstmatige intelligentie is uiteindelijk een filosofisch onderwerp. Informatici hebben hun focus op de vraag hoe je de machines maakt, niet op de vragen die ze oproepen. Maar hoe zit het als er iets fout gaat? Ethici en filosofen denken daarover na.''

Want wat doet de auto als een jongetje plots de weg op rent en de enige manier om het kind te ontwijken, leidt tot een frontale botsing met een tegenligger? Misschien redt de zelfrijdende auto door uit te wijken het leven van het kind en behoedt de airbag de bestuurder voor een akelige dood. Maar wat doet de auto als-ie weet dat je zelf drie kinderen in de auto hebt en de tegenligger een vrachtauto is?

Goed en fout

"De vraag is hoe we dat in een auto moeten programmeren, zodanig dat het door ons allemaal wordt geaccepteerd,'' zegt Broersen. "Je kunt systemen maken die redeneren met morele regels en wetten. En met andere technieken kun je een auto ook een soort normbesef geven. De afwegingen worden dan gemaakt door hem heel veel voorbeelden te geven van wat goed en fout is. Wat een auto met dat overstekende kind moet doen? Wat vind je dat een mens zou moeten doen? Als je daar uit bent, kun je het in de auto programmeren. Maar het soort afwegingen dat een mens maakt, zullen we zelfrijdende auto's nooit gunnen. Als een auto zelfstandig een beslissing neemt waarbij iemand om het leven komt - waarvan wij later zeggen: dat was echt fout - dan heeft de maker van die auto een probleem.''

Momenteel voeren de voordelen van een zelfrijdende auto nog ruimschoots de boventoon. Wereldwijd komen jaarlijks 1,2 miljoen mensen om in het verkeer. De zelfrijdende auto gaat dat aantal verkeersslachtoffers enorm reduceren. "Een zelfrijdende auto is nooit moe, heeft geen slechte ogen, heeft geen ruzie met zijn partner. Het gebrek aan kunstmatige intelligentie wordt gecompenseerd door een betere rijvaardigheid.''

Maar er is nu nog niets geregeld als het gaat over welke normen en waarden we een zelfrijdende auto moeten meegeven. Krijgt een Audi andere normen dan een Google Car? Maakt een Apple andere ethische afwegingen dan een BMW? Broersen: "Misschien krijgen we wel verschillende soorten zelfrijdende auto's. Nu kiezen we op snelheid en comfort. Misschien komt er een auto die remt voor dieren en baseren mensen hun aankoop op het ethisch handelen van de auto. De politiek zal de leemte in de wetgeving moeten aanpassen. Die discussie barst pas los op het moment dat er mensen komen te overlijden door zelfrijdende auto's.''

Aansprakelijk
Bij de testrit van morgen op de A2 wil verzekeringsmakelaar Aon inzicht krijgen in wie straks aansprakelijk is bij een ongeluk: de 'bestuurder' of de fabrikant. De auto's van BMW, Hyundai, Mercedes, Tesla, Toyota en Volvo mogen overigens nog niet zelf sturen, ze bepalen alleen de snelheid en de onderlinge afstand.