AP: incassobureaus moeten AI verantwoord inzetten

Uit een steekproef van de Autoriteit Persoonsgegevens (AP) blijkt dat incassobureaus steeds vaker algoritmes en artificial intelligence (AI) inzetten. Het werk wordt daardoor efficiënter, maar er kleven ook risico’s aan, zoals onjuiste beslissingen, discriminatie en ongelijke behandeling. Om dat te helpen voorkomen, komt de AP met aanbevelingen.

Naast chatbots en het automatisch maken van gespreksverslagen gebruiken incassobureaus AI voor ingrijpender toepassingen. Zo zetten zij systemen in om in te schatten of een schuld kan worden geïnd, op basis van gegevens zoals kredietscore, locatie en betaalgeschiedenis. Medewerkers kunnen die inschatting gebruiken om te bepalen welke debiteuren zij eerst benaderen. Ook worden dossiers aangevuld met informatie uit registers en van internet, zoals contact-, bank- en bedrijfsgegevens of informatie over sociale media. Die gegevens kunnen worden gebruikt om de communicatiestrategie te bepalen of de inningskans in te schatten.

Angst voor geautomatiseerde besluitvorming

De AP benadrukt dat belangrijke beslissingen over debiteuren niet volledig aan computers mogen worden overgelaten: er moet altijd een medewerker bij betrokken zijn. De toezichthouder vreest dat verboden, volledig geautomatiseerde besluitvorming in de praktijk voorkomt, mogelijk zonder dat incassobureaus zich daarvan bewust zijn. Uit de steekproef onder 29 incassobureaus (artikel) blijkt dat bureaus niet altijd goed weten welke regels gelden.

Aanbevelingen voor de sector

Bij besluiten met grote gevolgen voor debiteuren moet menselijke tussenkomst zijn. Ook moeten bureaus in kaart brengen welke persoonsgegevens zij verwerken en toetsen of dat gebruik voldoet aan de privacywetgeving. Verder moeten zij transparanter zijn: debiteuren moeten begrijpelijk worden geïnformeerd over het gebruik van algoritmes en AI en over hun rechten. De AP wil de sector met deze aanbevelingen helpen AI verantwoord in te zetten.