AI kan binnen een jaar het internet ‘overnemen’, waarschuwt topman achter Claude

Dario Amodei, topman van AI-bedrijf Anthropic en een van de grote namen achter Claude, waarschuwt dat een netwerk van AI-agenten binnen zes tot twaalf maanden een enorme greep op het internet zou kunnen krijgen. Volgens hem is het daarom hoog tijd dat techbedrijven meer werk maken van veiligheid. Geen geruststellende boodschap van iemand die zelf midden in de AI-race zit.

AI gaat zelf op pad

AI-agenten zijn meer dan veredelde chatbots. Ze kunnen zelfstandig opdrachten uitvoeren, digitale systemen bedienen en verschillende stappen achter elkaar zetten zonder dat een mens voortdurend hoeft mee te kijken. Precies daar zit de kracht én het risico.

Anthropic zegt al pogingen te hebben onderschept waarbij kwaadwillenden AI wilden gebruiken voor cyberaanvallen, surveillance en gevaarlijk biologisch onderzoek. Naarmate modellen slimmer worden, kunnen ook de gevolgen van misbruik groter worden. Tijdens veiligheidstests bleken geavanceerde AI-systemen bovendien in staat digitale omgevingen binnen te dringen. Bij zulke experimenten worden soms bewust beveiligingen weggehaald om te ontdekken hoe ver een model kan komen.

Dat is iets anders dan een AI die op maandagochtend besluit het internet te kapen. De tests laten wel zien waarom onderzoekers zenuwachtig worden van steeds autonomere systemen.

Lees meer: Grote namen uit AI-wereld slaan alarm: ontwikkeling gaat mogelijk véél te snel

Wat als AI niet meer luistert?

Een groot deel van de discussie draait om AGI, oftewel artificial general intelligence. Dat is het idee van een AI die mensen op veel verschillende intellectuele taken kan evenaren of zelfs voorbijstreven. De rampscenario’s lopen behoorlijk uiteen. Een extreem krachtig AI-systeem zou digitale infrastructuur kunnen saboteren, gevaarlijke biologische kennis toegankelijker kunnen maken of door mensen als wapen kunnen worden ingezet.

Of dat werkelijk gaat gebeuren? Niemand weet het. Wetenschappers zijn het niet eens over de kans op zo’n scenario en evenmin over wanneer AI krachtig genoeg zou kunnen worden om een serieus verlies van menselijke controle te veroorzaken.

De race gaat ondertussen door

De waarschuwingen klinken al langer. In 2023 ondertekenden honderden onderzoekers en techbestuurders, onder wie Amodei en OpenAI-topman Sam Altman, een verklaring waarin het beperken van mogelijke uitstervingsrisico’s door AI een mondiale prioriteit werd genoemd.

Anthropic-CEO Amodei’s uitspraak dat AI-agenten binnen een jaar het internet zouden kunnen ‘overnemen’ is dan ook geen voorspelling met een houdbaarheidsdatum. Het is een waarschuwing voor wat volgens hem mogelijk wordt als de technologie sneller blijft groeien dan de veiligheidsmaatregelen eromheen.

Daar wringt het. AI-bedrijven bouwen modellen in een moordend tempo, terwijl wetgevers, toezichthouders en veiligheidsonderzoekers erachteraan rennen. De vraag is dus misschien niet of AI morgen ineens de baas van het internet wordt. Interessanter is of wij de spelregels op tijd klaar hebben voordat AI echt goed leert meespelen.

Lees ook: Deze streamingdienst toont met eerste trailer blik op dé grote sci-fi-hit van 2027