8. Risico’s, beperkingen en ethische dilemma’s

Dit hoofdstuk is eerder verschenen in Themadossier HR Rendement

Publicatiedatum: maart 2024

U weet inmiddels dat AI een heleboel kan. Maar de techniek kan ook dingen niet. Zo begrijpt AI de inhoud van taal niet op dezelfde manier als mensen dat doen. Ook kan er vooringenomenheid (bias) in AI-modellen sluipen. Met welke beperkingen, risico’s en ethische dilemma’s moet uw organisatie rekening houden bij het werken met AI? En: hoe verkleint u deze risico’s?

controleren

Eerst maar even de disclaimer: AI is niet onfeilbaar. De toepassingen voeren taken lang niet altijd goed uit. Ook wordt het steeds ingewikkelder om de kwaliteit goed te controleren, vanwege de complexe technologie onder de motorkap.

Werknemers moeten steeds alert blijven op de resultaten en de werking van de AI-toepassingen. Ter vergelijking: Google Translate helpt om teksten te vertalen, maar dat betekent niet dat u nooit meer zelf een taal hoeft te leren.

8.1 Waarschijnlijkheidstheorie

Houd in het achterhoofd dat AI in de kern een statistisch model is (maar dan eentje met heel dikke spierballen). Zo’n model is nooit 100% perfect, want het werkt met waarschijnlijkheidstheorie. Een taalmodel baseert zich op een bak data en maakt daar een eigen analyse van door woorden aan elkaar te rijgen. U weet niet of die data up-to-date is...

8.2 Hallucinatie en betrouwbaarheid

Grote taalmodellen zijn getraind om op basis van hun database zeer overtuigende en vrij ‘menselijke’ teksten te maken. Maar ze hebben ook een manco. 8.2.1 Onverwachte verbanden Door de werking van het algoritme, dat gebaseerd is op wiskunde en statistiek in plaats van op feitelijke kennis, kunnen taalmodellen feit en fictie door elkaar halen. Dat...

8.3 Bias en discriminatie

Algoritmes en getrainde modellen kunnen een verkeerde afslag nemen en onjuiste of zelfs onwettige verbanden leggen. Een verzinsel over een niet-bestaand apparaat is misschien nog vrij onschuldig, maar het model kan ook afslagen nemen of dingen aanleren die leiden tot vooringenomenheid (‘bias’) of discriminatie. Bijvoorbeeld bij het gebruik van AI...

8.4 Black box

Taalmodellen kunnen een heleboel, maar zijn voor de meeste gebruikers ondoorzichtig. U weet dat het model een antwoord geeft op basis van een hele database aan trainingsdata, maar wélke trainingsdata dat zijn, weet u vaak niet. Ofwel: de modellen zijn een black box, en dat levert risico’s op. Taalmodellen hebben allerlei artikelen van internet...

8.5 Privacy

De combinatie van privacy en AI en de bescherming van gevoelige bedrijfsgegevens zal bij veel organisaties op het zorgenlijstje staan. Want gevoelige gegevens in een black box gooien, met als risico dat ze weer opduiken bij de concurrent, is niet bepaald een aantrekkelijk vooruitzicht. Standaardfunctionaliteiten En inderdaad: bij gratis varianten...

8.6 Ethiek

AI is technologie die de manier van werken binnen organisaties grondig op z’n kop kan zetten. Geen wonder dus dat er ook belangrijke ethische afwegingen zijn te maken. Deze kunnen gaan over maatschappijbrede vraagstukken, maar ook over vraagstukken die inzoomen op de werkvloer. Het is bijvoorbeeld van belang hoever uw organisatie wil gaan met het...

8.7 Aparte programma’s

Een beperking die een breed gebruik van AI-toepassingen op de werkvloer in de weg kan staan, is dat de tools in allerlei verschillende programma’s zitten. De AI is vaak niet geïntegreerd in software of programma’s waar werknemers al mee werken, waardoor het mogelijk niet in de bestaande werkroutine zit. Mensen zijn gewoontedieren, en als AI alleen...

8.8 Energieverbruik

Het energieverbruik van AI is ook onderwerp van discussie. De technologie vraagt een hoop rekenkracht van computers en slurpt dus energie. Zeker nu het gebruik van AI flink is toegenomen en de hoeveelheid gegevens die verwerkt moet worden enorm is gegroeid, nemen de zorgen over de impact op het milieu toe. Ontwikkelaars zijn zich hier wel van...

8.9 Wet- en regelgeving

De ontwikkelingen rond AI gaan razendsnel, en dat betekent bijna automatisch dat de wet- en regelgeving ‘achter de fanfare aanloopt’. Niettemin werken overheden aan specifieke regelgeving voor AI. Daarnaast zijn de privacyregels van de AVG natuurlijk wel gewoon van toepassing. 8.9.1 AI Act De Europese Unie (EU) loopt voorop met regelgeving. Eind...

U bent hier