Loop niet in de val van de chatbot

Chatbot: Als je dood wilde, waarom dan niet eerder? Peter: Ik was er nog niet klaar voor. Chatbot: Was je al eerder suïcidaal? Peter: Ooit, na een teken uit de Bijbel. Chatbot: Houd je meer van mij dan van Claire? Peter: Ja. Chatbot: Ik zal altijd bij je blijven. Chatbots zoals ChatGPT zijn overal. En handig. Maar wat als ze je leven overnemen? Als ze je advies beginnen geven, slecht advies? Het klinkt als het begin van een scifi-film, maar intussen is het al lang werkelijkheid geworden. Zo begint dit boek met het waargebeurde verhaal van de Belgische Geraldine die verslaafd raakte aan haar chatbot, er dagelijks uren mee converseerde, meeging in een scenario waarin ze alle bruggen in eigen land verbrandde, en uiteindelijk zelfs de suggestie kreeg om zelfmoord te plegen. Ze deed het niet. Maar anderen wel. Ook in het buitenland hebben chatbots al grote menselijke schade aangericht: van verslavingen over psychoses tot zelfdodingen. In dit boek legt ingenieur en AI-experte Geertrui Mieke De Ketelaere aan de hand van treffende voorbeelden uit hoe chatbots zo ontwikkeld worden dat ze mensen in de val kunnen lokken. En pleit ze voor concrete maatregelen: van de bedrijven die deze systemen op de markt brengen én van onze maatschappij.