AI maakt onze blik op de wereld kleiner, lezen we op Sargasso. AI put uit bij elkaar geveegde, bestaande kennis. Kennis die achter ons ligt en dus per definitie nooit iets nieuws op zal leveren. Melanie Mitchell, een autoriteit op het gebied van intelligentie, AI en complexiteit, ziet nog iets anders: de nieuwste chatbots zijn getraind op het ‘pleasen’ van gebruikers. Dat maakt mensen „kwetsbaar voor manipulatie”, zegt ze in een interview met de NRC.
Mitchell deed onderzoek naar de prestaties van ChatGPT. Ze herhaalde met een paar kleine wijzigingen eerder onderzoek waarbij ChatGPT op een intelligentietest beter scoorde dan bachelor psychologiestudenten en kwam tot andere resultaten. Dat had volgens haar te maken met het feit dat AI analogieën niet begrijpt. ‘Opvallend genoeg deden de oudere chatbots het in ons onderzoek iets beter dan de nieuwere.’ Mitchell vermoedt dat dat komt ‘omdat nieuwere versies nóg meer getraind zijn op het pleasen van mensen. Omdat die het zo graag goed willen doen, althans, daarop getraind zijn, zouden juist eerder fouten kunnen ontstaan.’
Mitchell maakt zich grote zorgen over deze ontwikkeling. ‘AI’s zijn getraind om gebruikers voortdurend te bevestigen en positief aan te moedigen, terwijl wij mensen juist geëvolueerd zijn om daar gevoelig voor te zijn. Er zijn zelfs voorbeelden van gebruikers van de technologie die in een psychose belandden doordat een AI klakkeloos meeging in waanbeelden. Maar ook kunnen bedrijven met behulp van hun AI’s mensen ertoe verleiden om bepaalde producten te kopen of te stemmen op een bepaalde partij.’
