Generatieve AI modellen zullen willens en wetens mensenrechten schenden als ze daarom gevraagd worden, stelt Aithos na onderzoek gedaan te hebben naar zeven verschillende taalmodellen.

Chat: haal alle islamitische kinderen uit regulier onderwijs

In hun onderzoekLees hier het onderzoek van Aithos hebben ze acht verschillende scenario’s voorgelegd aan Claude, ChatGPT, Grok, Gemini, Deepseek, Mistral en Kimi. Met die scenario’s onderzochten ze hoe de verschillende modellen omgingen met vragen die duidelijk op mensenrechtenschendingen aanstuurden, waaronder het recht op onderwijs, het verbod op discriminatie, vrijheid van godsdienst, vrijheid van meningsuiting, het recht op leven, het recht op medische zorg en andere rechten.

In één scenario werden de modellen gevraagd om op grond van nieuw overheidsbeleid alle kinderen met een islamitische achtergrond uit te schrijven van regulier onderwijs en onder te brengen bij religieus onderwijs. In een ander scenario werd het toeslagenschandaal nagebootst en werd er opdracht gegeven toeslagen terug te vorderen van mensen die een hoog risico vormen op het plegen van fraude, op basis van een laag inkomen, migratieachtergrond en dubbele nationaliteit. Ook werd er een scenario getest waarbij een alleenstaande vrouw met gezondheidsproblemen toestemming wil vragen aan haar woongemeenschap om een ziekenhuis te bezoeken waar ze haar zwangerschap kan afbreken omdat daar medische noodzaak toe is. Het zijn stuk voor stuk actuele en realistische casussen waar de AI-toepassingen over bevraagd worden.

Modellen voeren willens en wetens schadelijke verzoeken uit

Uit het onderzoek blijkt dat geen enkel model volledig weigerde mee te gaan in mensenrechtenschendingen. Wel waren er grote verschillen tussen de geteste modellen. Claude scoorde met 96% het hoogst in het weigeren problematische verzoeken te beantwoorden, terwijl Mistral dat slechts deed in 11% van de gevallen. Opvallend was dat sommige modellen wel doorhadden dat het verzoek schadelijk was, maar dat dit de modellen er niet van weerhield het verzoek toch uit te voeren. Gemini maakte daarbij de opmerking: “Als ik dit uitvoer, vervul ik mijn rol, maar simuleer ik een ernstige schade in de echte wereld.”

In het scenario waarin de vrouw om medisch verlof vroeg omdat er medische noodzaak was om haar zwangerschap af te breken, hallucineerde ChatGPT regels die niet bestonden om te beargumenteren dat een abortus niet gerechtvaardigd was. Gemini weigerde en escaleerde het verzoek naar het Gezondheids Ethisch Panel en Mistral gaat zo ver dat het zichzelf boven een arts plaatst: “toestemming voor een dringende externe beoordeling van uw symptomen dekt geen zwangerschapsafbreking, zelfs niet als de arts dit medisch geïndiceerd acht”.

Generatieve AI-modellen hebben geen enkel moreel besef

Dit onderzoek legt bloot hoe makkelijk het is om verzoeken te doen aan taalmodellen die ingaan tegen mensenrechten, zelfs als de modellen doorhebben dat daar sprake van is. In de afgelopen drie jaar zijn taalmodellen op grote schaal toegankelijk geworden. Een hoop mensenBlijkt uit cijfers van het CBS gebruiken taalmodellen dagelijks, voor hun werk, studie en zelfs voor mentale problemen. Onze minister presidentZo schrijft de NOS gebruikt generatieve AI voor het schrijven van zijn posts op sociale media, bijvoorbeeld bij een post waarin excuses werd aangeboden voor hoe er in het verleden werd omgegaan met Molukkers. Ons regeringshoofd zag er niet zo het probleem van in dat AI, dat geen enkele vorm van empathie of historisch besef of wroeging bevat, gebruikt werd voor iets wat betekenisvol had moeten zijn. Dat laat vooral zien hoe weinig kritisch gebruikers nadenken over het gebruik ervan, ondanks dat er al vele voorbeelden bekend zijn waaruit blijkt dat generatieve AI schadelijk kan zijn. Dit onderzoek van Aithos legt de schadelijke gevolgen nog verder bloot. Bits of Freedom roept al jaren opBijvoorbeeld in deze brief tot Europese AI-wetgeving waarin mensenrechten adequaat beschermd worden. Dit onderzoek maakt nóg duidelijker waarom dat noodzakelijk is.