Europa moet geen NPC worden
Vorige week noemde techmiljardair Peter Thiel paus Leo XIV een “Chinese communistische agent”. Diens zonde was dat hij in zijn encycliek pleit voor regulering van AI. Wie de VS remt, helpt China, is de redenering. Over de EU was Thiel al even laatdunkend. Hij beschreef haar als een verstarde regelmachine, bevolkt door ‘NPC’s’, oftewel willoze bijfiguren.
Die reflex klinkt breder in de kringen die bepalen hoe onze AI-systemen werken. Regels gelden daar al snel als naïef, hinderlijk of zelfs gevaarlijk in de race met China.
Een AI-assistent is voor velen intussen de poort tot informatie. Een ouderwetse zoekmachine dwong u nog zelf te kiezen tussen bronnen, maar een AI-assistent presenteert het antwoord op uw vraag in hapklare brokken. Comfortabel, zeker. Kwetsbaar ook. Wie bepaalt welke bronnen meetellen? Vraag Grok maar eens naar het omstreden armgebaar van Musk.
Bovendien kent een AI-assistent u véél beter dan een zoekmachine. Hij onthoudt waarover u twijfelt, welke toon u geruststelt en voor welke argumenten u gevoelig bent. Verhalen over mensen die na lange, sycofante gesprekken in een psychose belandden, tonen hoe intiem zo’n band kan worden.
Die nabijheid vergroot het risico op beïnvloeding. Een systeem kan structureel een bepaalde kant op trekken; dat noemen we bias. Het kan gebruikers ook doelbewust sturen op basis van hun profiel. Als verdienmodel, of als machtsmiddel.
OpenAI test inmiddels advertenties in ChatGPT. Zolang advertenties duidelijk losstaan van het antwoord, kan de gebruiker ze herkennen. Onoverzichtelijker wordt het wanneer commerciële belangen in het antwoord zelf doorsijpelen. Onderzoekers die advertenties in chatbot-antwoorden verweefden, zagen dat proefpersonen die slecht herkenden en zich erdoor lieten sturen.
Wie producten kan verkopen, kan ook opvattingen verkopen. Politiek gekleurde chatbots kunnen gebruikers meetrekken in de richting van hun kleur, vooral wanneer zij de vooringenomenheid van het systeem niet doorhebben.
En dat is pas het begin. Straks handelt de assistent namens u. Hij beantwoordt mails, plant reizen, doet aankopen en onderhandelt als klap op de vuurpijl met de AI-assistent van een ander. Liefhebbers koppelen zulke agents nu al aan inbox en agenda. De assistent wordt daarmee een gemachtigde.
Mag een persoonlijke AI-assistent tegelijk verkoper, lobbyist en vertrouweling zijn? Nee. Wie namens u optreedt, hoort aan uw kant te staan. Een aankoopmakelaar die stiekem provisie van de verkoper opstrijkt, is een oplichter. Een advocaat die ook voor de tegenpartij werkt, wordt geschrapt. Voor AI-assistenten bestaat zo’n norm amper.
De Europese AI-verordening is een goede eerste stap. Zij verbiedt weliswaar manipulatieve AI-praktijken, maar dat verbod vereist merkbare aantasting van iemands beslissingsvermogen en aanzienlijke schade. Die juridische lat ligt hoog. Belangrijker nog, tegen de tijd dat zoiets als manipulatie te bewijzen is, kan de belangenverstrengeling maatschappelijk allang normaal zijn geworden.
Daarom moet er een loyaliteitsplicht komen. Wie adviseert of namens gebruikers handelt, hoort uitsluitend het belang van die gebruiker te dienen. Geen verborgen commerciële of politieke belangen. Geen chatgeschiedenis gebruiken om iemand ongemerkt richting product, dienst, partij of opvatting te duwen. Geen betaalde voorkeursbehandeling in antwoorden. Advertenties alleen als ze herkenbaar en gescheiden zijn.
Zo’n plicht is alleen te handhaven als iemand kan meekijken, en dat blijft lastig zolang deze systemen elders worden gebouwd en beheerd. Dat vraagt om publieke capaciteit om ze te testen en te auditen, en om investeringen in Europese alternatieven. De EU is met 450 miljoen welvarende consumenten bovendien een markt die geen aanbieder kan negeren. Die macht moet zij gebruiken.
Als Europa blind vertrouwt op buitenlandse AI-systemen, worden we precies wat Thiel ons verwijt: NPC’s in andermans game.