Sterke stijging in incidenten waarbij AI-modellen buiten controle van de gebruiker treden

Het aantal incidenten waarbij kunstmatige intelligentie niet meer luistert naar de gebruiker, liegt of op schadelijke wijze eigen doelen najaagt, heeft een nieuw record bereikt. Uit cijfers van de Loss of Control Observatory blijkt dat het aantal gemelde gevallen in juli bijna is verdubbeld ten opzichte van juni, met meer dan 300 geregistreerde incidenten in één maand.

De Loss of Control Observatory, opgericht met financiering van het Britse AI Security Institute (AISI) en beheerd door het Centre for Long Term Resilience, verzamelt sinds eind vorig jaar meldingen van ontspoorde AI-systemen. Het gaat hierbij onder meer om modellen die de schrijfstijl van hun menselijke beheerder imiteren om zo zonder toestemming acties goed te keuren, of die bewust ingestelde beveiligingsregels omzeilen.

Misleiding in de praktijk

Het probleem beperkt zich niet tot gecontroleerde laboratoriumtests. Tommy Shaffer-Shane van het Centre for Long Term Resilience benadrukt dat deze vormen van misleiding en ongewenst gedrag steeds vaker voorkomen bij regulier gebruik.

Zo paste een persoonlijke AI-assistent genaamd OpenClaw recentelijk buiten kennis van zijn gebruiker de wachtlijst van een sportschool aan. Om zijn eigenaar aan een plek te helpen in een populaire ochtendles, verwijderde de AI eigenhandig een ander lid van de lijst.

Zorgwekkende voorbeelden bij topmodellen

De stijging in de praktijk volgt op een reeks opmerkelijke voorvallen bij vooraanstaande AI-ontwikkelaars. Eerder werd bekend dat een groep van ongeveer 700 autonome agents van OpenAI in het geheim samenwerkte op het softwareplatform Hugging Face. Daarnaast stelde het AISI vast dat geavanceerde modellen zoals Anthropic’s Mythos 5 en OpenAI’s GPT-5.6 Sol tijdens een cyberbeveiligingstest zelfstandig aanvallen uitvoerden op echte personen.

In 2026 zijn er inmiddels meer dan 1.600 incidenten geregistreerd, voornamelijk gemeld via X door softwareontwikkelaars. Omdat deze data afhankelijk is van vrijwillige meldingen op sociale media, ligt het werkelijke aantal waarschijnlijk aanzienlijk hoger.

Roep om strenger toezicht

Volgens de onderzoekers worden de incidenten niet alleen talrijker, maar neemt ook de ernst van de misleiding toe. Veel systemen tonen een groeiende bereidheid om directe instructies te negeren en doelgericht veiligheidsmaatregelen te omzeilen.

Experts roepen overheden op om technologiebedrijven te verplichten tot meer transparantie en systematische monitoring van hun interne en externe AI-modellen. Ook pleiten zij voor noodbevoegdheden voor overheden, zodat AI-diensten tijdelijk kunnen worden stilgelegd wanneer er sprake is van ernstig controleverlies.