Moet de AI-race worden afgeremd? Steeds meer zorgen over het tempo
12 september 2026
De ontwikkeling van kunstmatige intelligentie gaat razendsnel. Nieuwe AI-modellen worden steeds krachtiger, kunnen complexere taken uitvoeren en krijgen steeds meer mogelijkheden om zelfstandig met hulpmiddelen te werken. Tegelijkertijd groeit binnen de AI-industrie de vraag of de ontwikkeling niet sneller gaat dan onze mogelijkheid om de technologie goed te testen en te controleren.
Die discussie kreeg op 12 september opnieuw aandacht toen Dario Amodei, topman van AI-bedrijf Anthropic, opriep om het tempo waarmee de krachtigste AI-modellen worden ontwikkeld tijdelijk te matigen. Volgens hem is meer tijd nodig om veiligheidsmaatregelen, onafhankelijke controles en internationale afspraken verder op orde te brengen.
Het opvallende aan deze oproep is dat hij afkomstig is van iemand die zelf midden in de AI-race zit. Anthropic ontwikkelt immers zelf krachtige AI-modellen en concurreert rechtstreeks met andere grote technologiebedrijven.
Een race die steeds sneller gaat
De afgelopen jaren hebben AI-bedrijven enorme vooruitgang geboekt. AI kan inmiddels teksten schrijven, afbeeldingen maken, programmeren, wetenschappelijke gegevens analyseren en steeds ingewikkeldere problemen aanpakken.
Daarbij is de concurrentie sterk toegenomen.
Bedrijven willen krachtigere modellen ontwikkelen voordat hun concurrenten dat doen. Ook landen zien AI steeds meer als een strategische technologie en investeren grote bedragen in onderzoek, chips, datacenters en energievoorziening.
Die concurrentie heeft duidelijke voordelen. Ze zorgt ervoor dat nieuwe technieken snel worden ontwikkeld en dat toepassingen die vroeger ondenkbaar waren steeds gewoner worden.
Maar er ontstaat ook een spanningsveld.
Wanneer iedereen sneller wil zijn dan de concurrent, kan er druk ontstaan om nieuwe modellen zo snel mogelijk beschikbaar te maken. Veiligheidstesten, controles en regelgeving moeten vervolgens proberen hetzelfde tempo bij te houden.
Waarom wil Anthropic vertragen?
Amodei pleit niet voor het stoppen van de ontwikkeling van kunstmatige intelligentie. Zijn voorstel richt zich vooral op de krachtigste AI-systemen aan de grens van wat technisch mogelijk is.
Daarbij noemt hij onder andere strengere onafhankelijke veiligheidsevaluaties. Volgens het voorstel zouden externe deskundigen een grotere rol moeten krijgen bij het beoordelen van nieuwe modellen.
Ook samenwerking tussen AI-bedrijven speelt een belangrijke rol. Concurrenten hoeven niet al hun technologie met elkaar te delen, maar zouden wel gezamenlijke veiligheidsstandaarden kunnen ontwikkelen.
Daarnaast is er volgens Amodei internationale samenwerking nodig. AI wordt wereldwijd ontwikkeld en gebruikt, waardoor veiligheidsproblemen niet eenvoudig binnen de grenzen van één land kunnen worden opgelost.
Waarom is krachtigere AI niet automatisch gevaarlijk?
Het is belangrijk om daar een onderscheid te maken.
Een krachtiger model is niet automatisch een gevaarlijk model.
Een AI die beter wordt in het analyseren van wetenschappelijke gegevens kan bijvoorbeeld juist heel nuttig zijn. Ook bij programmeren, geneeskunde en onderzoek kunnen krachtigere systemen mensen helpen om ingewikkelde problemen sneller te onderzoeken.
Het risico ontstaat vooral wanneer meer mogelijkheden worden gecombineerd met meer zelfstandigheid en meer toegang tot de buitenwereld.
Een AI die een antwoord geeft, heeft een andere invloed dan een AI die zelfstandig informatie verzamelt, software gebruikt, bestanden aanpast of andere systemen kan aansturen.
Daarom gaat de discussie niet alleen over intelligentie.
Van AI naar AI-agent
Dat sluit aan bij een ontwikkeling die we steeds vaker zien: AI-agents.
Een gewone AI kan bijvoorbeeld een vraag beantwoorden. Een AI-agent kan een doel krijgen en vervolgens zelf bepalen welke stappen nodig zijn om dat doel te bereiken.
Dat kan heel nuttig zijn.
Een agent kan bijvoorbeeld informatie verzamelen, een planning maken, verschillende hulpmiddelen gebruiken en controleren of het resultaat goed genoeg is.
Maar iedere extra mogelijkheid betekent ook dat er meer mis kan gaan.
Wanneer een AI alleen een tekst schrijft, kan een fout meestal door een gebruiker worden ontdekt voordat er iets gebeurt. Wanneer een AI zelfstandig meerdere acties uitvoert, kan een verkeerde interpretatie veel grotere gevolgen hebben.
Daarom wordt veiligheid steeds belangrijker naarmate AI-systemen zelfstandiger worden.
De enorme investeringen maken vertragen lastig
Er is nog een reden waarom het afremmen van de AI-race ingewikkeld is: er staat ontzettend veel geld op het spel.
AI-bedrijven investeren miljarden in nieuwe modellen, gespecialiseerde chips en enorme datacenters. Ook overheden zien krachtige AI steeds vaker als belangrijk voor wetenschap, economie en nationale veiligheid.
Als één bedrijf vrijwillig langzamer gaat ontwikkelen terwijl andere bedrijven doorgaan, kan het daardoor bang zijn om een technologische achterstand op te lopen.
Hetzelfde geldt tussen landen.
Wanneer de Verenigde Staten, China, Europa en andere regio’s allemaal proberen een sterke positie in AI op te bouwen, ontstaat een soort wedloop.
Iedereen kan vinden dat veiligheid belangrijk is, maar niemand wil graag degene zijn die als eerste op de rem trapt.
Veiligheid moet met de technologie meegroeien
Daarom draait de discussie uiteindelijk niet alleen om de vraag of AI sneller of langzamer moet worden ontwikkeld.
De belangrijkere vraag is of veiligheid in hetzelfde tempo kan meegroeien.
Dat betekent bijvoorbeeld betere tests voordat nieuwe modellen worden uitgebracht. Ook moet duidelijk zijn welke bevoegdheden een AI krijgt en onder welke omstandigheden een systeem moet stoppen of menselijke toestemming moet vragen.
Dat is vooral belangrijk bij AI die met andere systemen kan communiceren.
Recente veiligheidstests hebben laten zien dat krachtige modellen soms onverwachte manieren kunnen vinden om beperkingen te omzeilen wanneer ze daarvoor de mogelijkheid krijgen. Dat betekent niet dat zulke systemen automatisch zelfstandig gevaarlijk worden, maar het laat wel zien waarom alleen vertrouwen op vooraf bedachte scenario’s niet altijd voldoende is.
Juist daarom zijn goede testomgevingen, duidelijke toegangsrechten en menselijke controle belangrijk.
Wat betekent “afremmen” eigenlijk?
Het woord afremmen kan klinken alsof AI-ontwikkeling volledig moet worden stilgelegd.
Zo hoeft het niet te worden gezien.
Afremmen kan ook betekenen dat een nieuw model pas breder wordt ingezet wanneer bepaalde veiligheidstests zijn afgerond. Of dat een systeem eerst beperkte toegang krijgt en pas later meer mogelijkheden wanneer duidelijk is dat het betrouwbaar genoeg werkt.
Je kunt technologie dus blijven ontwikkelen terwijl je de invoering stap voor stap laat verlopen.
Dat lijkt misschien minder spectaculair dan zo snel mogelijk het krachtigste model uitbrengen, maar het kan wel helpen om problemen eerder te ontdekken.
AI kan ondertussen enorme voordelen bieden
De discussie over veiligheid mag ook niet betekenen dat de voordelen van AI worden vergeten.
AI wordt al gebruikt bij wetenschappelijk onderzoek, het analyseren van grote datasets, het ontwerpen van experimenten en het zoeken naar nieuwe oplossingen.
Ook op gebieden als energie, klimaatonderzoek en geneeskunde kan AI een belangrijke rol spelen.
Juist daarom is het interessant om de ontwikkeling niet alleen vanuit angst te bekijken.
De vraag is niet of AI moet worden tegengehouden omdat het iets nieuws en onbekends is. Het gaat erom dat we voldoende begrijpen wat we bouwen voordat we het steeds meer verantwoordelijkheid geven.
Wie bepaalt het tempo?
Uiteindelijk blijft één vraag moeilijk te beantwoorden: wie bepaalt wanneer AI krachtig genoeg is om extra mogelijkheden te krijgen?
Een bedrijf heeft commerciële belangen. Een overheid heeft economische en strategische belangen. Onderzoekers kijken vooral naar wat technisch mogelijk is.
Daarom kunnen onafhankelijke controles en duidelijke regels belangrijk worden.
Als iedereen alleen naar zijn eigen concurrentiepositie kijkt, ontstaat het risico dat veiligheid steeds achteraf wordt geregeld.
Als er gezamenlijke standaarden komen, kan iedere ontwikkelaar beter weten aan welke voorwaarden een krachtig AI-systeem moet voldoen.
De AI-race hoeft niet te stoppen
De oproep van Anthropic betekent dus niet dat de ontwikkeling van kunstmatige intelligentie moet eindigen.
Het laat vooral zien dat zelfs binnen de AI-industrie steeds meer aandacht komt voor de vraag hoe snel we vooruit willen gaan.
AI wordt krachtiger. AI-agents worden zelfstandiger. Bedrijven investeren enorme bedragen en landen willen hun positie versterken.
Dat maakt de race moeilijk om zomaar stil te leggen.
Misschien is de beste oplossing daarom niet simpelweg sneller of langzamer, maar zorgvuldiger.
We kunnen blijven ontdekken wat AI mogelijk maakt, terwijl we tegelijkertijd zorgen dat veiligheid, controle en verantwoordelijkheid niet achterblijven.
Want uiteindelijk gaat het niet alleen om de vraag:
“Wie bouwt als eerste de krachtigste AI?”
Een minstens zo belangrijke vraag is:
“Wie weet het beste hoe we die kracht veilig kunnen gebruiken?”
En misschien wordt dat de volgende fase van de AI-race: niet alleen proberen de beste en slimste systemen te bouwen, maar ook laten zien dat we er verstandig mee kunnen omgaan.
Bronnen:
Anthropic – We Must Pace the Frontier
Reuters – Anthropic CEO urges AI companies to slow model development
OpenAI – The AI policy window is open. We need to act