Onlangs lanceerde OpenAI ChatGPT4-Omni, een chatbot die ‘terugpraat’. Critici noemen het griezelig dat de chatbot menselijk oogt. Maar volgens mij is dat niet het belangrijkste probleem van OpenAI.
De favoriete film van Sam Altman (de baas van OpenAI) is Her, waarin het hoofdpersonage verliefd wordt op zijn niet-fysieke AI-assistent. De invloed van deze film op het werk van OpenAI is duidelijk zichtbaar. Omni zucht, maakt grapjes en giechelt. Daarmee wordt het lastiger om onderscheid te maken tussen mens en machine. Chatbot ChatGPT, die al langer beschikbaar is, doet soms langer over de productie van een antwoord, waardoor het lijkt alsof de chatbot nadenkt.
Giechelen, peinzen, geinen en zuchten: het zijn activiteiten die we niet associëren met een computer. OpenAI maakt slim gebruik van antropomorfisme. Dat is het toedichten van menselijke eigenschappen aan een niet-menselijk object. Wie een glas water verdrietig noemt of een boekenkast als boos omschrijft, wordt (terecht) gek verklaard. OpenAI wil graag dat we de chatbot als mens zien, omdat we een mens sneller vertrouwen dan een computer. Dat is de les die Altman trekt uit Her.
Er is volgens mij nog een belangrijke reden waarom OpenAI graag verdoezelt dat Omni en ChatGPT computers zijn. Het verhult het feit er duizenden mensen in de AI-industrie werken, niet zelden in erbarmelijke omstandigheden. Werknemers in Kenia en andere lagelonenlanden filteren aanstootgevende teksten uit ChatGPT, krijgen daardoor last van psychische klachten en verdienen daarbij nog geen twee dollar per uur. Dat onthulde Time. Wie ChatGPT als mens ziet, vergeet dat er mensen aan ChatGPT werken. Soms zijn die mensen ook kinderen, onthulde Wired. De vergelijking met sweatshops is dan ook snel gemaakt.
Laten we niet vergeten dat Omni geen mens is, maar een computersysteem. Deze systemen vergen veel rekenkracht, wat een gigantische klimaatuitdaging oplevert. Het internet zorgt nu al voor 4% van alle CO2-uitstoot, evenveel als de luchtvaartindustrie. Dat wordt alleen maar meer, onder meer dankzij AI. Het trainen van ChatGPT-3, inmiddels niet meer in gebruik want verouderd, zorgde voor zo’n 500 ton CO2-uitstoot, evenveel als duizend auto’s die duizend kilometer rijden. OpenAI, het moederbedrijf van ChatGPT, gebruikt in 2027 evenveel stroom als heel Nederland. Waarom zouden we wel last hebben van vliegschaamte, maar niet van AI-schaamte?
AI-systemen als ChatGPT maken gebruik van data. Die data haalt OpenAI van het internet, ook van extreemrechtse of ronduit racistische websites. Dat is problematisch. Ook maakt ChatGPT gebruik van het archief van The New York Times, zonder daarvoor te betalen. Daarom wordt OpenAI nu aangeklaagd door de New Yorkse krant. Als OpenAI zich schuldig maakt aan diefstal, is elke ChatGPT-gebruiker dan medeplichtig? Is er een jurist in de zaal die hier iets over weet?
Het roept in elk geval de vraag op: hoe intelligent is het massaal gebruik van generatieve kunstmatige intelligentie-tools als ChatGPT nou echt?
Als ChatGPT-Omni een vrouw moet voorstellen, dan is deze Jay-Z-parafrasering wel op z’n plaats: OpenAI heeft 99 problemen, maar dat hun chatbot menselijk oogt is er niet een van (of in elk geval: niet het belangrijkste probleem).