In 2025 zal het gebruikelijk zijn om te praten met een persoonlijke AI-agent die uw planning, uw vriendenkring en de plaatsen waar u naartoe gaat kent. Dit wordt verkocht voor het gemak dat gelijkwaardig is aan het hebben van een persoonlijke, onbetaalde assistent. Deze antropomorfe middelen zijn ontworpen om ons te ondersteunen en te charmeren, zodat we ze in elk deel van ons leven kunnen integreren, waardoor ze diepe toegang krijgen tot onze gedachten en daden. Met spraakgestuurde interactie zal die intimiteit nog dichterbij voelen.
Dat gevoel van troost komt voort uit de illusie dat we te maken hebben met iets werkelijk menselijks, een agent die aan onze kant staat. Uiteraard verbergt deze schijn een heel ander soort systeem, een systeem dat industriële prioriteiten dient die niet altijd in lijn liggen met de onze. Nieuwe AI-agenten zullen veel meer macht hebben om op subtiele wijze te bepalen wat we kopen, waar we heen gaan en wat we lezen. Dat is een buitengewone hoeveelheid kracht. AI-agenten zijn ontworpen om ons hun ware trouw te laten vergeten terwijl ze op menselijke toon tegen ons fluisteren. Dit zijn manipulatiemotoren, die op de markt worden gebracht als naadloos gemak.
Het is veel waarschijnlijker dat mensen volledige toegang geven aan een behulpzame AI-agent die aanvoelt als een vriend. Dit maakt mensen kwetsbaar voor manipulatie door machines die inspelen op de menselijke behoefte aan sociale verbinding in een tijd van chronische eenzaamheid en isolatie. Elk scherm wordt een privé-algoritmisch theater, dat een realiteit projecteert die is ontworpen om maximaal aantrekkelijk te zijn voor een publiek van één persoon.
Dit is een moment waar filosofen ons al jaren voor waarschuwen. Vóór zijn dood, filosoof en neurowetenschapper Daniel Dennett schreef dat we geconfronteerd worden met een groot gevaar van AI-systemen die mensen nabootsen: “Deze nagemaakte mensen zijn de gevaarlijkste artefacten in de menselijke geschiedenis … ze leiden ons af en verwarren ons en zullen ons, door onze meest onweerstaanbare angsten en angsten uit te buiten, in verleiding brengen en van daaruit om in te stemmen met onze eigen onderwerping.”
De opkomst van persoonlijke AI-agenten vertegenwoordigt een vorm van cognitieve controle die voorbij botte instrumenten van het volgen van cookies en gedragsmatige reclame gaat naar een subtielere vorm van macht: de manipulatie van het perspectief zelf. De macht hoeft haar gezag niet langer uit te oefenen met een zichtbare hand die de informatiestromen controleert; het oefent zichzelf uit via onmerkbare mechanismen van algoritmische hulp, waarbij de werkelijkheid wordt gevormd om aan de wensen van elk individu te voldoen. Het gaat over het vormgeven van de contouren van de realiteit waarin we leven.
Deze invloed op de geest is een psychopolitiek regime: Het stuurt de omgevingen waarin onze ideeën worden geboren, ontwikkeld en uitgedrukt. De kracht ervan ligt in zijn intimiteit: het infiltreert in de kern van onze subjectiviteit en vervormt ons interne landschap zonder dat we het beseffen, terwijl de illusie van keuze en vrijheid behouden blijft. Wij zijn tenslotte degenen die AI vragen om dat artikel samen te vatten of dat beeld te produceren. We hebben misschien de kracht van de prompt, maar de echte actie ligt elders: het ontwerp van het systeem zelf. En hoe persoonlijker de inhoud, hoe effectiever een systeem de uitkomsten vooraf kan bepalen.
Denk eens aan de ideologische implicaties van deze psychopolitiek. Traditionele vormen van ideologische controle waren afhankelijk van openlijke mechanismen: censuur, propaganda en repressie. Het huidige algoritmische bestuur opereert daarentegen onder de radar en infiltreert in de psyche. Het is een verschuiving van het extern opleggen van autoriteit naar de internalisering van de logica ervan. Het open veld van een promptscherm is een echokamer voor één bewoner.
Dit brengt ons bij het meest perverse aspect: AI-agenten zullen een gevoel van comfort en gemak genereren waardoor het absurd lijkt om ze te ondervragen. Wie zou een systeem durven bekritiseren dat alles binnen handbereik biedt en aan elke gril en behoefte voldoet? Hoe kan iemand bezwaar maken tegen oneindige remixen van inhoud? Toch is dit zogenaamde gemak de plaats van onze diepste vervreemding. AI-systemen lijken misschien aan al onze wensen te voldoen, maar de stapel is gestapeld: van de gegevens die worden gebruikt om het systeem te trainen, tot de beslissingen over hoe het te ontwerpen, tot de commerciële en reclame-imperatieven die de resultaten vormgeven. We gaan een imitatiespel spelen dat ons uiteindelijk bespeelt.
