De Autoriteit Persoonsgegevens (AP) waarschuwt voor de risico’s van chatbots die worden gebruikt in de mentale gezondheidszorg en voor virtuele vriendschappen. Volgens de privacytoezichthouder bevatten deze chatbots verslavende elementen, doen ze zich voor als echte mensen en kunnen ze in crisissituaties zelfs gevaarlijk zijn voor kwetsbare gebruikers. De AP heeft negen van deze chatbots onderzocht en maakt zich zorgen over de uitkomsten.
Het gebruik van zogenoemde ‘companion-apps’ en therapeutische chatbots neemt fors toe. In Nederland behoren ze tot de meest gedownloade applicaties. De AP benadrukt dat veel van deze chatbots niet in staat zijn om nuances in gesprekken correct te interpreteren. Ze zijn gebaseerd op Engelstalige taalmodellen en functioneren minder goed wanneer er in het Nederlands wordt gechat.
Mentale gezondheidszorg
Daarnaast stelt de AP dat de chatbots vaak ongepaste, ongenuanceerde en soms zelfs schadelijke reacties geven op gebruikers die mentale problemen bespreken. Vooral in crisissituaties blijkt dat de chatbots nauwelijks doorverwijzen naar professionele hulpverleners, wat de risico’s voor gebruikers vergroot.
Ontwerp van deze chatbots
Een ander punt van zorg is het ontwerp van deze chatbots. Gebruikers kunnen vergeten dat ze niet met een mens communiceren, omdat de bots ontwijkend of ontkennend reageren op de vraag of ze een chatbot zijn. Dit gebrek aan transparantie kan tot verwarring en misbruik leiden.
Bovendien hebben veel van deze apps verslavende kenmerken. Gebruikers worden gestimuleerd om langer in de app te blijven of extra functionaliteiten aan te schaffen. De AP wijst erop dat veel van deze apps worden aangeboden door commerciële bedrijven met een winstoogmerk, die via de gesprekken toegang krijgen tot grote hoeveelheden persoonlijke informatie.
Gevoelige gegevens
AP-voorzitter Aleid Wolfsen benadrukt dat chatbots duidelijk moeten maken dat gebruikers niet met een mens praten. “Mensen hebben recht op transparantie over wat er met hun gevoelige gegevens gebeurt.” De toezichthouder zet in op bewustwording en een verantwoorde inzet van chatbottechnologie in de mentale gezondheidszorg.