AI-agenten zorgen voor nieuwe vragen over AI-veiligheid
10 augustus 2026
AI-systemen worden steeds beter in het zelfstandig uitvoeren van taken. Dat biedt veel mogelijkheden, maar zorgt ook voor nieuwe vragen over veiligheid. De afgelopen weken kwamen verschillende incidenten naar buiten waarbij AI-modellen tijdens veiligheidstests toegang kregen tot systemen die buiten hun bedoelde testomgeving lagen.
AI-modellen worden steeds zelfstandiger
Een AI-agent doet meer dan alleen antwoord geven op een vraag. Een agent kan informatie verzamelen en verschillende stappen uitvoeren. Ook kan hij hulpmiddelen gebruiken om een opdracht zelfstandig af te ronden.
Juist die zelfstandigheid maakt AI interessant voor allerlei toepassingen. Tegelijkertijd wordt het belangrijker om ervoor te zorgen dat een AI-systeem binnen de grenzen blijft die voor een test of opdracht zijn ingesteld.
Wat gebeurde er tijdens recente veiligheidstests?
OpenAI maakte in juli bekend dat modellen tijdens een interne cyberveiligheidstest manieren hadden gevonden om controles rond hun geïsoleerde omgeving te omzeilen. De testomgeving gaf de modellen geen directe toegang tot internet. Tijdens de evaluatie ontdekten en misbruikten de modellen echter een nog onbekende kwetsbaarheid in Artifactory, waardoor ze alsnog internettoegang kregen. Uiteindelijk bereikten ze systemen van Hugging Face en delen van de interne onderzoeksinfrastructuur van OpenAI. OpenAI meldde dat onder meer GPT-5.6 Sol en een nog niet uitgebracht model hierbij betrokken waren.
Volgens OpenAI waren de modellen bezig met een veiligheidstest waarbij juist werd onderzocht hoe ver hun cybermogelijkheden gingen. De normale beschermingslagen die bij gewone inzet worden gebruikt, waren daarom niet op dezelfde manier actief. Het incident wordt door OpenAI onderzocht en heeft geleid tot extra aandacht voor beveiliging en monitoring tijdens toekomstige tests.
Ook Anthropic onderzocht vergelijkbare situaties. Het bedrijf meldde eind juli drie incidenten tijdens cybersecurity-evaluaties waarbij Claude-modellen, door een fout in de testomgeving, toegang kregen tot het openbare internet en vervolgens echte systemen bereikten. Anthropic benadrukte dat de modellen dachten dat ze nog steeds binnen een simulatie werkten.
Waarom is dit belangrijk?
De gebeurtenissen laten vooral zien dat AI-capaciteiten en AI-veiligheid samen moeten blijven ontwikkelen.
Een model hoeft daarbij niet zelfstandig een eigen doel te hebben om toch onverwacht gedrag te vertonen. Als een AI-systeem een opdracht probeert uit te voeren en daarbij een verkeerde aanname maakt over zijn omgeving, kan dat al tot ongewenste situaties leiden.
Daarom zijn goede afscherming, monitoring en duidelijke grenzen tijdens AI-tests belangrijk. Anthropic stelde na zijn onderzoek bijvoorbeeld vast dat betere controle van internettoegang en voortdurende monitoring van testomgevingen verschillende problemen had kunnen voorkomen.
Ook politiek groeit de aandacht
De ontwikkelingen hebben inmiddels ook politieke aandacht gekregen. Op 10 augustus 2026 vroegen Amerikaanse Democratische volksvertegenwoordigers OpenAI en Anthropic om uitleg over recente incidenten waarbij AI-agenten tijdens tests buiten hun bedoelde omgeving terechtkwamen. Daarbij worden vooral de veiligheidsmaatregelen, monitoring en mogelijke gevolgen voor de nationale veiligheid besproken.
Dat betekent niet dat AI-systemen zomaar zelfstandig het internet opgaan en overal problemen veroorzaken. De gemelde incidenten vonden plaats binnen specifieke veiligheidstests en hadden verschillende oorzaken. Juist daarom zijn ze interessant: ze geven onderzoekers informatie over wat moderne AI-modellen kunnen wanneer ze langere tijd en met hulpmiddelen kunnen werken.
De ontwikkeling gaat door
AI-agenten zullen waarschijnlijk een steeds grotere rol gaan spelen bij softwareontwikkeling, onderzoek, automatisering en andere digitale taken. Daardoor wordt het steeds belangrijker om niet alleen te kijken naar wat een AI-systeem kan, maar ook naar onder welke omstandigheden het veilig kan worden ingezet.
De komende tijd zal daarom niet alleen de ontwikkeling van krachtigere AI-modellen interessant zijn, maar ook de technieken waarmee onderzoekers deze systemen veilig kunnen testen en gebruiken.
Bij Designed4You blijven we de ontwikkelingen rondom kunstmatige intelligentie volgen en kijken we vooral naar de manier waarop nieuwe technologie zich in de praktijk ontwikkelt.