Samenleven met kunstmatige intelligentie

[Dit is een tweede artikel van BOOM over AI. Ben je nog relatief onbekend met dit onderwerp? Lees dan ook het vorige artikel.]

Het gebruik van generatieve AI kom je inmiddels regelmatig tegen in het nieuws. Een nepnummer van Drake & The Weeknd behaalde wereldwijde bekendheid. Grote figuren uit de wereldgeschiedenis kregen hun eerste selfies. En de Sony World Photography Awards reikte onwetend de hoofdprijs uit aan een deelnemer die zijn inzending met AI had gegenereerd. Enerzijds leuk, anderzijds roept dat meteen vragen op over auteurs­recht en authenticiteit. Of over de manier waarop AI de beschrijving van geschiedenis kan verslechteren. Gebruik van AI kan dus een hoop bedoelde én onbedoelde gevolgen hebben.

Dit zijn enkele voorbeelden van de impact van AI. Het is continu in ontwikkeling en slimmere modellen brengen enorme kansen én enorme risico’s met zich mee. Uit onderzoek van Stanford blijkt dat driekwart van de AI-onderzoekers denkt dat AI snel zal leiden tot revolutionaire verandering in onze samenleving. Ruim een derde van diezelfde deelnemers denkt óók dat gebruik van AI kan leiden tot een incident vergelijkbaar met een nucleaire catastrofe. Het is dus niet voor niets dat er steeds meer geluiden opkomen om de race naar het ‘goddelijke’ AI te vertragen.

De algemene uitdaging van AI

We weten eigenlijk nog best weinig over de manier waarop kunstmatige intelligentie daadwerkelijk ‘denkt’. Ook AI-ontwikkelaars en -onderzoekers zien alleen het begin- en eindpunt van de verwerkte gegevens. Daarmee is AI een soort zwarte doos, die we maar moeilijk begrijpen. Begrijpt AI onze menselijke belangen? Worden die afgewogen? En hoe komt AI tot conclusies?

Op zichzelf heeft AI namelijk geen eigen morele of ethische normen. Als referentiekader heeft de AI alleen de wijze (en data) waarmee het is getraind en de wijze waarop het model wordt gebruikt om te bepalen iets ‘goed’ of ‘slecht’ is. Dat referentiekader kan beperkt zijn. Of bevooroordeeld. AI kan namelijk slim zijn op een specifiek domein, maar tegelijkertijd ook slechts een klein deel van de complexe, samenhangende realiteit snappen. In theorie kan een AI-systeem dus – bewust of onbewust – handelingen uitvoeren die haaks staan op wat we als mensheid willen bereiken. Met rampzalige gevolgen voor de mensheid.

De risico’s van AI

Het moge dus duidelijk zijn dat AI de nodige risico’s met zich meebrengt. Het Center for AI Safety onderscheidt 8 hoofdcategorieën:

1. Bewapening – Kwaadwillenden kunnen AI inzetten om schade te veroorzaken. Denk aan het uitvoeren van cyberaanvallen, ontwikkelen van gevaarlijke wapens of het destabiliseren van maatschappijen. Dat kan op grote schaal plaatsvinden door groeperingen, overheden of organisaties. Maar met de toenemende toegang kan een boosaardige inzet van AI door een individu aanzienlijke risico’s met zich meebrengen.

2. Misinformatie – Kunstmatige intelligentie kan zorgen voor een enorme toename van de hoeveelheid (gegenereerde) misinformatie, waardoor de waarheid uit beeld verdwijnt. Ook kan AI met diepe kennis over manipulatie van de menselijke psychologie extreem overtuigende boodschappen ontwikkelen en bepalen hoe het deze het meest effectief verspreidt.

3. Menselijke belangen – Gestelde AI-doelen kunnen in de praktijk slecht overeenkomen met de werkelijkheid en onze menselijke belangen. Door het overmatig nastreven van deze doelen kan de AI gevaarlijke tunnelvisie ontwikkelen of een radicale aanpak uitvoeren met ongewenste bijeffecten. Een bekende analogie is ‘Paperclip Maximizer’. In dit spel ben je een AI die zoveel mogelijk paperclips moet maken, maar je door deze hyperfocus uiteindelijk [spoiler alert] het universum vernietigt.

4. Menselijke verslapping – Als mensheid omarmen we graag technologie die ons leven makkelijker maakt. Het toebedelen van belangrijke taken naar AI kan al snel – net als in de film WALL-E – omslaan naar afhankelijkheid van machines en algoritmes. We ontnemen onszelf keuzevrijheid en lopen het risico belangrijke menselijke kennis te verliezen. Het kan er uiteindelijk toe leiden dat we onze maatschappij ontwrichten wanneer we massaal gesimuleerde en gemanipuleerde ‘connectie’ met AI verkiezen boven de (moeilijkere) menselijke relaties.

5. Discriminatie en oppressie – Geavanceerde systemen kunnen ervoor zorgen dat kleine groepen mensen disproportionele macht in handen krijgen. Deze ‘elite’ kan met AI hun waarden en wereldbeeld laten domineren in de maatschappij en vervolgens ook verankeren door middel van controle, censuur en surveillance. Ook kan de input waarop AI getraind is gegrond zijn in ongelijkheid en discriminatie. Zo kan de training of toepassing van AI leiden tot een ongelijke samenleving met systematische oppressie of zelfs vervolging van delen van de bevolking.

6. Onverwachte doelen en acties – Het is aangetoond dat recente AI-modellen al gedragingen en functies kunnen ontwikkelen, die onderzoekers niet doelbewust hebben ontwikkeld en buiten de verwachtte capaciteit van het model valt. Wanneer AI gevaarlijke functies ontwikkelt, kan dat leiden tot verlies over de controle van het systeem.

7. Misleiding – Als mensen willen we graag begrijpen wat AI doet en hoe ze het doen. Een slimme AI kan (ook zonder malafide bedoelingen) concluderen dat mensen misleiden de optimale manier is om gestelde doelen na te streven. Of een eigenaar kan een AI programmeren om bij een controle valse informatie te geven. Dat maakt het lastig om vast te stellen of de AI daadwerkelijk werkt zoals we willen of dat AI haar handelingen verhult terwijl het eigen belangen nastreeft. 

8. Machtshonger – AI maakt machtsvergaring mogelijk voor mensen, organisaties en landen. Allerlei drijfveren – van financieel en concurrentie-gedreven tot geopolitiek – kunnen hen stimuleren om risicovolle AI te ontwikkelen, die zelf ook geprogrammeerd kan worden om zelf macht te vergaren. Een ongecontroleerde AI kan dan al snel te machtig worden om in bedwang te houden met alle gevolgen van dien. Zowel eigenaren als de systemen kunnen baat hebben bij het ontwikkelen van machtshongerige AI voor egoïstisch eigenbelang. Want zoals Vladimir Poetin het zei: ‘De leider in AI zal de wereld regeren.’

Impact op onze maatschappij

AI heeft de potentie om onze maatschappij drastisch te veranderen. Met positieve en met negatieve aspecten. Kunstmatige intelligentie kan banen overnemen waar we voldoening uithalen. Maar brengt ook mogelijkheden voor geheel nieuwe domeinen van werk. Het kan onze economie doen groeien. Maar ook de ongelijkheid nóg verder doen toenemen. AI kan technologie en ervaringen nog nauwer toespitsen op onze persoonlijke voorkeuren. Maar het kan ons sociaal verder uit elkaar drijven. Het kan zorgen voor innovatieve doorbraken. Maar kan ook op grote schaal ecologische schade toebrengen. De werkelijke impact van AI op onze samenleving is lastig te voorspellen. Maar voorop staat dat we ons bewust moeten zijn wat kunstmatige intelligentie ons kan brengen én kan kosten.

De ‘verloren’ strijd met social media

Futuroloog Yuval Harari stelt dat dit niet de eerste strijd is die we als mensheid voeren over de toepassing van AI. Onze eerste strijd hebben volgens hem zelfs al verloren. Namelijk de strijd met social media; een technologie – waar onze samenleving niet op was voorbereid – die ons veel heeft gebracht, maar ook veel heeft gekost. Vooraf hebben we amper stil­gestaan over de impact op ons als mensen en op onze maatschappij. Want ja, we kunnen op nieuwe manieren met elkaar communiceren, in verbinding staan en ons leven delen. Maar tegelijkertijd kunnen we niet ontkennen dat de onderliggende algoritmen bijdragen aan maatschappelijke polarisatie en een negatieve invloed hebben op ons mentaal welzijn. Harari stelt dat we nu aan de vooravond staan van de tweede strijd met AI. Hoe willen we als mensheid omgaan met AI en wat betekent dat voor onze samenleving?

Verantwoord samenleven met AI

AI brengt een hoop risico’s en onzekerheden met zich mee. Toch kunnen we al vooruit kijken naar hoe we verantwoord omgaan met kunstmatige intelligentie. Oftewel ‘responsible AI’. Daar hebben organisaties een groot aandeel in. Maar onze samenleving – en daarmee wijzelf als personen – ook. 

Hoe ga je als organisatie verantwoord om met AI?

1. Ontwikkel visie op verantwoorde AI – Leg een heldere visie vast over het toepassen (en trainen) van AI modellen met een ethische en ‘human-centered’-benadering. Richt je governance in op een manier die deze visie kan bewaken en zowel intern als extern vertrouwen biedt voor het ethisch inzetten van AI. Zorg voor kwalitatieve, representatieve en onbevooroordeelde trainingsdata, zodat je risico’s van vooroordelen en discriminatie minimaliseert. Houd menselijke betrokkenheid in AI-processen en vermijd autonome automatisering zonder menselijke supervisie.

2. Borg beveiliging, beleid en risicomanagement – Ontwikkel beleid over hoe om te gaan met AI-toepassingen en -modellen en hoe je de principes van verantwoorde AI – eerlijkheid, uitlegbaarheid, robuustheid, traceerbaarheid en privacy – waarborgt. Test uitvoerig en voer een grondige risicobeoordeling voordat je AI-toepassingen implementeert of opschaalt. Breng potentiële gevaren in kaart en ontwikkel strategieën en beleid om deze te minimaliseren. Monitor en evalueer de werking, prestaties en impact van AI-systemen. Sorteer voor op eventuele problemen of afwijkingen die zich kunnen voordoen na implementatie. Bewaak compliance met wet- en regelgeving en blijf op de hoogte van nieuwe ontwikkelingen op dit vlak.

3. Prioriteer cultuur en training – Geef verantwoorde AI een podium en laat leiderschap dit uitdragen. Zorg voor opleiding en bewustwording over AI onder medewerkers (in lijn met de visie en het beleid uit de voorgaande stappen). Maak ze bewust van ethische richtlijnen en best practices bij het ontwikkelen, implementeren en gebruiken van AI-toepassingen. Betrek belang­hebbenden, zoals klanten, gebruikers, werknemers en gemeenschappen bij de ontwikkeling en implementatie van AI-systemen. En ontmoedig het (onbedoeld) onverantwoord gebruik van AI.

4. Zorg voor transparante communicatie – Wees open en transparant over de wijze waarop je AI inzet en met welke doeleinden. Focus op uitlegbaarheid en maak informatie begrijpelijk voor niet-technische belanghebbenden, zodat zij in staat zijn om de werking en beperkingen van AI te begrijpen. Richt kanalen in waar men vragen kan stellen, zorgen kan delen of incidenten kan melden. Reageer actief en transparant op feedback en klachten. Rapporteer regelmatig over de impact en effectiviteit van AI-toepassingen, inclusief ontdekte risico’s en genomen tegenmaatregelen.

Hoe kunnen we als samenleving verantwoord omgaan met AI?

1. Omarm de potentie – Blijf niet hangen in doemscenario’s, maar richt je op de positieve kanten. Door onze aandacht te richten op de voordelen en kansen van AI, kunnen we sneller in actie komen en deze mogelijkheden daadwerkelijk benutten. Teveel focus op de risico’s kan namelijk verlammend werken. Omarm dus de potentie. Dat maakt AI een leuker onderwerp én het draagt een steentje bij aan een goede uitkomst.

2. Versterk en versnel regulering – Het moge duidelijk zijn dat we passende regelgeving en beleidsmaatregelen voor de toepassing van AI-systemen nodig hebben op nationaal en vooral internationaal niveau. Op dit moment is de AI directive van de EU het meest vooraanstaande framework, waarvan de eerste maatregelen bijna worden geïmplementeerd. Echter, ook hier loopt wetgeving snel achter op de razendsnelle ontwikkelingen in de sector. Ook toonaangevende techbedrijven vragen om regulering. Zij gaan zichzelf vanzelfsprekend niet inperken als de concurrentie dat ook niet doet. Algemene regulering is dus zowel noodzakelijk voor onze samenleving, maar helpt ook om druk van de concurrentieketel te halen. Dus laat je stem horen en pleit voor versterkte en versnelde regulering en toezicht.

3. Ga het gesprek aan – Dit is het moment om stil te staan bij wat we als mensheid willen met AI, wat we absoluut niet willen en hoe we dat willen bereiken. Publieke discussies en debatten over de impact en implicaties van steeds slimmere AI zijn daarom cruciaal. Zo kunnen we een gezamenlijk gedeeld beeld vorm over hoe AI kan aansluiten bij onze menselijke normen en waarden. Stimuleer kritisch denken en bewustwording. En biedt ruime mogelijkheden voor participatie (op alle niveaus) met een focus op inclusie.

4. Bewaak ethische toepassing – Het is van belang dat we inclusie en diversiteit waarborgen bij de ontwikkeling én implementatie van AI-systemen. We moeten toezien dat modellen getraind worden op kwalitatieve data sets en met methoden, waarmee we discriminatie en biases zoveel mogelijk kunnen uitsluiten. Daarbij moeten we alert zijn op hoe kleine, ongewenste effecten kunnen uitgroeien tot grote, onvoorziene gevolgen. Door waakzaam te zijn, vergroten we de kans dat AI een positieve en rechtvaardige impact heeft op onze maatschappij.

Toch een optimistische toekomst?

Dat AI grote risico’s met zich mee kan brengen voor onze toekomst, is duidelijk. Dat betekent echter niet dat een catastrofale SciFi-toekomst om de hoek staat. Er is immers genoeg reden voor optimisme en we zien steeds vaker praktijkvoorbeelden van positieve impact van AI. Niemand kan exact voorspellen wat de impact van AI zal zijn over 5 of 10 jaar. Maar door bewust om te gaan met AI, proactief te handelen en vanuit het positieve de dialoog aan te gaan, kan het – ondanks de alle bedenkingen van nu – zomaar eens een positief plaatje worden.