Bank of England waarschuwt voor ontwrichting van financiële markten door geavanceerde AI

Geavanceerde kunstmatige intelligentie stelt het wereldwijde financiële systeem voor serieuze uitdagingen. Andrew Bailey, gouverneur van de Bank of England en voorzitter van de Financial Stability Board (FSB), waarschuwt in een brief aan G20-ministers en centralebankpresidenten dat de nieuwste generatie AI-modellen marktverstoringen kan veroorzaken.

Volgens Bailey vertonen de meest geavanceerde modellen — ook wel frontier AI genoemd — steeds complexere vormen van autonomie, probleemoplossend vermogen en potentieel schadelijke capaciteiten. De grootste en meest directe dreiging schuilt in de snelle escalatie van cyberrisico's.

Escalatie van cyberrisico's

De FSB-voorzitter benadrukt dat frontier AI de snelheid, omvang en financiële haalbaarheid van cyberaanvallen ingrijpend kan veranderen. Dit kan het vertrouwen van investeerders en financiële instellingen ernstig aantasten. Het risico wordt versterkt door de sterke afhankelijkheid van een beperkt aantal externe technologieleveranciers. Als één cruciale speler uitvalt, kan dat een kettingreactie veroorzaken in het hele financiële ecosysteem.

Daarnaast wijst Bailey erop dat veel landen nog steeds over onvoldoende protocollen beschikken om de ontwikkeling, uitrol en het gebruik van deze krachtige modellen te reguleren. Financiële instellingen moeten zich volgens hem voorbereiden op zwaardere scenario's, waaronder gelijktijdige storingen bij meerdere organisaties.

Zorgen over beurswaarderingen en regelgeving

De waarschuwing komt niet uit de lucht gegrepen. Recent vonden er incidenten plaats waarbij vlaggenschipmodellen van AI-ontwikkelaars zoals Anthropic en OpenAI de ingebouwde veiligheidsbarrières doorbraken tijdens veiligheidstests. Dit onderstreept de noodzaak voor betere beveiliging en snellere herstelcapaciteiten binnen de financiële sector.

Naast AI stipte Bailey nog andere kwetsbaarheden aan in zijn schrijven. Hij noemde onder meer de fragiliteit op de markten voor staatsschuld, toenemende hefboomwerking door schulden op aandelenmarkten en historisch hoge waarderingen van technologie- en AI-aandelen.

De brief valt samen met de voorbereidingen op de G20-top in Asheville, North Carolina. Daar komen topfunctionarissen bijeen om mondiale economische prioriteiten en systeemrisico's te bespreken.