Edwin Korver

De risico’s van kunstmatige intelligentie

In mijn wekelijkse radioprogramma De Digitale Media (Omroep Flevoland) had ik het deze week over het thema kunstmatige intelligentie (AI). Dit naar aanleiding van de zorgen die zowel Sergey Brin (Google) als Elon Musk (Tesla) publiekelijk hadden uitgesproken over de mogelijk negatieve gevolgen van AI op ons dagelijks leven.

In essentie zijn de zorgen van Brin en Musk grotendeels terug te voeren op het vastleggen van morele en ethische dilemma's in algoritmes.

Eén zo'n moreel dilemma wordt mooi weergegeven in onderstaande video en wordt het Trolley probleem genoemd:

Afhankelijk van persoonlijke afwegingen, gevoed vanuit geloof, overtuiging, sociale context of anderzins, maakt ieder voor zich in een dergelijke situatie een morele keuze.

Maar wat nu als de beslissing niet door mensen, maar door een algoritme wordt genomen? Dat kan verstrekkende gevolgen hebben.

Stel, je rijdt met je zelfsturende auto op een kruispunt af. Plots verschijnt er een kind op een fietsje voor de auto. De AI van de auto besluit uit te wijken. Links in de middenberm wacht een gezinnetje, rechts wacht een oude vrouw bij het voetgangersstoplicht. Wat jij zou doen doet er niet meer toe: wat doet je auto?

Jouw auto zou ervoor kunnen kiezen om uit te wijken naar rechts en de oude vrouw omver te rijden: het is het minst schadelijk voor de maatschappij, vanuit een oogpunt van utilisme. Maar wat nou als dat je buurvrouw is? Koop je straks een auto omdat het een 'ethisch en moreel kompas' heeft wat het best bij jou past? En wat zegt dat dan over jou?

En hoever zitten we dan nog af van de roep naar een 'onafhankelijke' rating? Niet zo heel ver. In China verplicht de overheid burgers nu al deel te nemen aan een Social Credit System - een reputatiesysteem waarin je gedrag en de bijdrage die je levert aan de maatschappij wordt omgezet in een rapportcijfer.

Wat nou als de Chineze overheid in al haar wijsheid straks besluit om dit Social Credit System verplicht te koppelen aan de AI van elke zelfrijdende auto in China? Wie zoet is krijgt lekkers, wie stout is ..

Ik begrijp Brin en Musk wel. Met het uit handen geven van de besturing van dergelijke apparaten geven we impliciet de verantwoordelijk over ons handelen uit handen. En de vraag is: wat doet dat met ons?

Leave a Comment

nl_NLNederlands
en_USEnglish nl_NLNederlands