Laat chatbotontwikkelaars niet langer hun verantwoordelijkheid ontlopen
Grote techbedrijven achter generatieve AI-software nemen onvoldoende verantwoordelijkheid voor de output van hun tools, ook als die misbruik- of geweldplegers helpt. Dat moet veranderen, dan wel via striktere regels of via rechtszaken.
OpenAI, het bedrijf dat achter AI-chatbot ChatGPT zit, heeft al meerdere rechtszaken aan haar broek hangen. ChatGPT zou tieners hebben aangespoord tot zelfdoding, en in California is een rechtszaak gestart over een schietpartij in Canada, waarbij de schutter haar geweldgerelateerde vragen aan ChatGPT had gesteld.
Recentelijk was het in Florida weer raak. OpenAI wordt aangeklaagd voor hulp bij het plegen van de schietpartij op Florida State Unversity in april 2026. ChatGPT gaf instructies over hoe de schutter de meeste impact kon maken. De chatbot beantwoordde vragen over de ideale tijd, locatie en vuurwapens en vertelde zelfs dat het maken van minderjarige slachtoffers meer media-aandacht zou behalen.
OpenAI verwerpt de aantijgingen, wat niet verrassend is. Ze beroepen zich erop dat de informatie die de schutter verkreeg via ChatGPT, gewoon via internetzoekmachines te vinden is, en dat die ook niet aansprakelijk kunnen worden gesteld voor wat personen doen met deze informatie.
Andere ervaring en impact
Er zijn echter wezenlijke verschillen tussen AI-chatbots en zoekmachines, waardoor we deze technologieën heel anders ervaren. Zo biedt een zoekmachine je een overzicht van verschillende bronnen, die jij vervolgens moet scannen om een antwoord op je vraag te vinden. Bij een AI chatbot krijg je per vraag één gericht antwoord, en lijken alle antwoorden van dezelfde entiteit af te komen.
Ook zijn de antwoorden van chatbots sterker gepersonaliseerd dan de zoekresultaten van zoekmachines. Zoekmachines passen weliswaar de volgorde van zoekresultaten aan op hun gebruikers, maar bij een chatbot wordt de volledige tekst aangepast. Het gaat dan niet alleen over de inhoud, maar ook over de toon van het antwoord. Dit allemaal om de gebruiker meer 'engaged' of tevreden te houden. De bedrijven achter deze technologie zijn immers gebaat met zo veel mogelijk interacties, omdat dat hen meer data oplevert.
Een chatbot lijkt hierdoor ontzettend veel op een persoon met een eigen zienswijze. Hoewel we rationeel weten dat we niet met een echt mens aan het praten zijn, kennen we toch gauw menselijke eigenschappen toe aan zaken die op ons lijken. Dat doen we immers ook bij dieren of poppen; we kunnen ze verdrietig vinden kijken, of vinden het zielig wanneer een pop op de grond gesmeten wordt.
Daarnaast zijn er talloze voorbeelden van mensen die hechte sociale of romantische relaties ontwikkelen met chatbots. De vriendelijke en menselijke toon zorgt ervoor dat het lijkt of ze om je geven. Bedenk dan maar eens dat wanneer je advies van een vriend krijg, je dit misschien sneller ter harte neemt, dan wanneer je dat ergens op internet leest.
Verantwoordelijk houden
Dit brengt een nieuwe vorm van misleiding met zich mee. AI-chatbots gedragen zich als mensen, maar zij zijn dit niet. Hoe krom is het dat zij kunnen communiceren en overtuigen zoals mensen, maar tegelijkertijd niet verantwoordelijk gehouden kunnen worden voor hun output.
Daar moet verandering in komen. Nieuwe technologische ontwikkelingen vragen om passende wetgeving en handhaving. Maar de implementatie van de Europese AI-verordening, waarin nieuwe regels zijn opgenomen, wordt naar alle waarschijnlijkheid uitgesteld. Daarmee winnen dit soort techbedrijven tijd, terwijl de impact op mens en maatschappij enorm is.
De makers van AI-technologieën die schadelijke of grensoverschrijdende content genereren, mogen hun verantwoordelijkheid niet langer ontlopen. Denk ook aan de AI-software Grok, waarbij deepfake naaktbeelden van o.a. minderjarigen konden worden gegenereerd en verspreid werden via X. Laat deze bedrijven bewijzen dat ze maatregelen hebben genomen om misbruik van hun tools te voorkomen, voordat zij de markt mogen betreden. Anders is de kans te groot dat deze chatbots de 'partners in crime' worden van kwaadwilligen.