Het is zo ver, in Albanie heeft het de eerste minister behaagd een AI creatuur, met klinkende naam Dielle, aan te stellen met ministeriële bevoegdheid. In een toespraak beweerde die Diella ter eigen verdediging, dat nergens in de grondwet gestipuleerd stond dat een minister van vlees en bloed moest zijn. Een antwoord dat alleen AI kan bedenken. En zo werd het protest dat de kiezers niet voor haar hadden gekozen, meteen afgeserveerd!
Diella werd geboren, of misschien beter in gang gezet in januari 2025 met als doel de online dienstverlening voor de burgers te verbeteren door middel van spraak, beeld en snelheid. Zo wil toch de officiële Albanese versie. De efficiëntie was duidelijk, dus werd ze ineens bevorderd om het departement openbare aanbestedingen te beheren. Want ze was objectief en niet gevoelig voor corruptie, iets wat nogal een dingetje blijkt te zijn in dat Balkanland.
Ze zou George Orwell direct terug naar de schrijftafel hebben gebracht. Want in de geest van zijn boek 1984 is het idee van een AI-minister als Diella inderdaad niet vergezocht. Het is misschien zelfs een een logische evolutie van het totalitaire denken dat Orwell beschrijft. We zouden dadelijk een sequel op Netflix krijgen…
In 1984 draait alles om controle, surveillance en het uitwissen van individuele autonomie. De “Big Brother”-staat vertrouwt op technologie om burgers te monitoren, geschiedenis te herschrijven en gedachten te sturen. Een AI-minister past perfect in dat plaatje. We maken ineens komaf met menselijke zwaktes, geen gewetenswroeging meer, geen ruimte voor twijfel of protest.
Beslissingen worden algoritmisch genomen, zogenaamd objectief, maar in werkelijkheid volledig gestuurd door de parameters die de machthebbers instellen. Want iemand zit er aan de prompt. Iemand heeft het systeem gevoed met historische informatie, dus ook – als we een beetje slecht denken – inclusief de krantenartikelen die de technieken van de corruptie beschrijven. En wees gerust, context is zo belangrijk!
Transparantie wordt façade
Op het eerste zicht lijkt het systeem eerlijk en efficiënt, maar niemand weet wie de knoppen bedient. Want als er een boutade is, waar iedereen het over eens is, niemand weet exact wat AI doet, je stopt er iets in, je krijgt er iets uit… Daarbinnen is het grote zwarte gat… Om maar te zwijgen wat er gebeurt als de AI minister een fundamentele fout maakt? Wie is juridisch aansprakelijk? En als de eerste minister het niet eens is met met de ‘objectieve’ uitkomst?
Als we Orwell zouden parafraseren, zou deze perfect kunnen zeggen: “De ultieme nachtmerrie is niet dat een mens je leven bestuurt, maar dat een ondoorgrondelijk systeem dat doet — zonder gezicht, zonder hart, zonder mogelijkheid tot verzet”. En in dergelijke wereld is een AI-minister niet de oplossing voor corruptie, maar het sluitstuk van een samenleving waarin de mens volledig ondergeschikt is aan het systeem.
Het aanstellen van Diella als minister is niet alleen een technologische innovatie, maar ook een ethisch en maatschappelijk vraagstuk dat rechtstreeks uit de nachtmerries van Orwell lijkt te komen. De vraag is niet of het kan, maar of we het willen?
Want we hebben in de literatuur nog een voorspellend voorbeeld… Spontaan borrelde de vergelijking met HAL 9000 uit 2001: A Space Odyssey op! In 1968 zag regisseur Stanley Kubrick samen met auteur Arthur C. Clarke heel treffend hoe een toekomst er uit zal zien als als technologie de mens “overneemt”.
Onzichtbaar zichtbaar
De controle verschuift uiteindelijk van mens naar machine. In Space Odyssey vertrouwt de bemanning op HAL, een AI die alle systemen beheert. Net als Diella in Albanië lijkt HAL objectief, rationeel en onfeilbaar. Tot op een moment blijkt dat zijn beslissingen niet langer menselijk te controleren zijn. Hier is gevaar één!
Zowel HAL als Diella worden gepresenteerd als neutraal en efficiënt. Maar HAL’s “neutraliteit” blijkt dodelijk: hij neemt beslissingen op basis van zijn programmering, niet op basis van menselijke waarden. Diella beslist over aanbestedingen, zogenaamd zonder belangen, maar haar algoritme is geprogrammeerd door mensen met belangen. En daar is gevaar twee!
In 1984 is de macht van Big Brother overal, maar onzichtbaar. In Space Odyssey is HAL overal aanwezig, maar niet fysiek zichtbaar. Diella is een avatar, een stem, een interface en ze wordt visueel aangepast aan het verwachtingspatroon van de mens. Inclusief traditionele klederdracht en glimlach. Maar haar echte macht zit in de onzichtbare code. Dat is gevaar drie!
Niet onfeilbaar, wel feilbaar?
In Space Odyssey raak HAL uiteindelijk in de knoop. En de astronaut heeft het uiteindelijk geweten. Het AI-systeem raakt in conflict door tegenstrijdige opdrachten. “Geen fouten maken” maar ook “Informatie achterhouden”, het systeem kookte over. Net zo goed als je de prompts niet correct inzet bij AI, dan kookt het systeem ook over. Probeer maar! Diella in Albanië volgt haar algoritme zonder bewustzijn, maar de vraag blijft: wat als haar parameters tegenstrijdig zijn, of als ze gemanipuleerd worden?
In Space Odyssey proberen de astronauten HAL uit te schakelen als hij gevaarlijk wordt. In de echte wereld is het veel moeilijker om een AI-systeem “uit te zetten” als het eenmaal diep in de bureaucratie is geïntegreerd. We krijgen nu aan de startlijn een nieuwe generatie die alleen nog vertrouwt op de analyse van AI. Een taak meegeven aan scholieren, zinloos.
Een thesis laten schrijven op basis van eigen analyse? Ik zal u maar niet vervelen over het aantal fraude dossiers dat dit jaar aan mijn faculteit opgeleverd heeft… want AI, wanneer het niet in de context de nodige gegevens vindt, vult zelf in. Soms zegt men hallucineren… Studenten die het verschil tussen correctheid en spookwaarheid niet zien, omdat ze zich niet meer in de theoretische achtergrond verdiept hebben, dat is misschien wel het grootste gevaar…
Zij regeren immers morgen de wereld…
In opdracht van AI?
