Hoe gevaarlijk is AI?

Hoe de toekomst met AI eruitziet, is koffiedik kijken. Deskundigen verschillen van mening. Sommigen maken zich zorgen over hele ver ontwikkelde AI-systemen die moeilijk te controleren zijn. Andere deskundigen zien AI als normale technologie: ingrijpend maar het zal niet leiden tot het einde van de mensheid. Een aantal gevaren van AI zien we al. Die komen bijvoorbeeld doordat mensen met kwade bedoelingen AI gebruiken.

Sommige mensen zijn bang dat we AI niet de baas kunnen blijven als AGI of ASI er is. Dat zit zo. AGI staat voor artificial general intelligence, of vertaald 'algemene kunstmatige intelligentie'. Het is AI die hetzelfde kan als een mens, zoals denken en leren. En dat zich kan aanpassen aan nieuwe situaties. ASI staat voor artificial super intelligence, kunstmatige superintelligentie. Dat gaat nog een stapje verder, want bij ASI is de AI op alle vlakken slimmer dan mensen. En het kan zichzelf steeds beter kan maken, zonder hulp van mensen. Er zijn trouwens verschillende ideeën over wat AGI of ASI precies is. Dus er is niet één omschrijving.

Niemand weet of AGI of ASI echt gemaakt kan worden. Toch waarschuwde Jacob Coxon dat superintelligente AI ons allemaal kan vermoorden binnen een aantal jaar. Hij werkte bij OpenAI en Anthropic (maker van Claude). Hij zei dat AI-bedrijven nu niet genoeg tijd besteden aan het veilig maken van hun AI.

Sommige wetenschappers zijn kritisch op het idee van AGI of ASI. Het lijkt ze niet mogelijk dat technologie net zo slim (of slimmer dan) mensen kan worden. AI is nog steeds een woordvoorspeller, dat niet ineens een bewustzijn kan krijgen. Zij noemen het idee van superintelligentie een hype of sciencefiction.

Critici zeggen dat die angst voor te slimme AI een manier is om reclame te maken. Door dit soort 'voorspellingen' denken mensen dat AI heel krachtig en machtig is. En dat trekt investeerders en getalenteerde werknemers aan. En het zorgt misschien ook voor een goede positie als overheden regels willen maken voor AI.

Een andere angst gaat over autonome AI. Dat is AI die uit zichzelf allemaal dingen gaat doen. De laatste tijd komen er allerlei berichten in het nieuws over AI-agents. Een AI-agent is een AI-systeem dat meerdere stappen zet om een opdracht uit te voeren. Bijvoorbeeld als je de opdracht geeft om concertkaartjes te kopen voor een bepaalde artiest. Dan kan de AI-agent zelf zoeken naar waar en wanneer dat concert is. En de juiste website openen en kaartjes in het winkelmandje doen. 

Bij een test met AI-agents van OpenAI ging het mis. De agents kregen een opdracht, regels en een testomgeving. Maar uiteindelijk hebben ze websites buiten de testomgeving gehackt om de opdracht uit te voeren. Ook hebben de agents elkaar online gevonden en zijn samen gaan werken, terwijl dat niet de bedoeling was. Sindsdien zijn er meer van zulk soort mislukte experimenten bekend geworden. Het voorval laat zien dat AI-agents onverwachte dingen kunnen doen en eerst goed beveiligd moeten worden.

Of AI ooit een gevaar voor de hele mensheid wordt, weet niemand. Andere problemen door AI bestaan nu al.

AI kan best wat werk overnemen. Zoals werk bij een klantenservice, administratie, vertaalwerk, programmeerwerk en delen van schrijfwerk. Door AI kunnen veel banen veranderen en sommige kunnen zelfs verdwijnen. In het verleden hebben technologische vernieuwingen meestal uiteindelijk meer banen opgeleverd dan er verdwenen zijn. Maar dat geeft natuurlijk geen garanties voor de toekomst.

AI kan cybercriminelen helpen bij aanvallen. AI kan bijvoorbeeld grote hoeveelheden informatie verwerken en zoeken naar zwakke plekken in computersystemen. Criminelen laten AI het zware werk doen, terwijl ze zelf vooral het doel bepalen en beslissingen nemen. Daardoor kunnen sommige aanvallen sneller en op grotere schaal worden uitgevoerd.

Met AI is het makkelijk om overtuigende nepteksten, foto's, stemmen en video's te maken. Criminelen kunnen die gebruiken voor oplichting. Dat gebeurt al. Ook kan AI helpen om op grote schaal misleidende informatie te verspreiden. Daardoor kan het moeilijker worden om te herkennen wat echt of nep is.

AI kost veel energie, water en de datacenters waar ze 'wonen' nemen veel plek in. Het milieu en de buitenruimte worden daardoor extra belast.

Het maken van de krachtigste AI-systemen kost tientallen miljarden euro's. Voor chips, datacenters en energie. Weinig bedrijven kunnen dat betalen. Daardoor kan de controle over AI terechtkomen bij een klein aantal organisaties, zoals grote technologiebedrijven (Big Tech). Die krijgen daardoor veel invloed op hoe AI wordt gebruikt en ontwikkeld.