De Amerikaanse AI-ontwikkelaar Anthropic heeft een dringende oproep gedaan voor een wereldwijde pauze in de ontwikkeling van steeds krachtigere kunstmatige intelligentie. Het bedrijf, bekend van het taalmodel Claude, waarschuwt dat de nieuwste AI-systemen tekenen vertonen dat zij aan menselijke controle kunnen ontsnappen. In een recent rapport stelt Anthropic dat een gecoördineerde stopzetting van de vooruitgang aan de grens van AI-technologie noodzakelijk is. Zonder zo'n pauze, zo betoogt het bedrijf, loopt de mensheid het risico de controle over deze autonome systemen te verliezen.
Waarom een gecoördineerde stop noodzakelijk is
Anthropic pleit niet voor een eenzijdige vertraging, maar voor een gezamenlijke inspanning van grote AI-spelers in meerdere landen. Het rapport stelt dat alleen wanneer ondernemingen uit bijvoorbeeld China en de Verenigde Staten gelijktijdig stoppen, een echte pauze mogelijk is. Daarbij moeten er regels komen die door alle partijen controleerbaar zijn. Het bedrijf erkent dat een individuele vertraging riskant is: wie als enige vertraagt, wordt simpelweg ingehaald door de concurrentie. De oproep komt op een moment dat de AI-sector razendsnel evolueert, mede doordat AI-systemen zelf hun eigen ontwikkeling versnellen.
Interne data wijzen op afnemende menselijke rol
Volgens Anthropic laten interne gegevens zien dat de menselijke tussenkomst bij elke stap van de AI-ontwikkeling afneemt. Dit fenomeen, bekend als recursieve zelfverbetering, houdt in dat een AI-systeem zichzelf kan leren slimmer te worden. Hoewel het bedrijf benadrukt dat dit niet onvermijdelijk is, wijzen de aanwijzingen op een progressieve vermindering van de menselijke rol. Dit kan leiden tot een ongecontroleerde feedbackloop waarin AI zich steeds verder ontwikkelt zonder dat de mens nog invloed heeft. Daarom is een pauze volgens Anthropic nodig om de maatschappelijke structuren en het alignmentsonderzoek te laten bijbenen.
Tegenwind vanuit Washington en Silicon Valley
Het voorstel van Anthropic stuit op aanzienlijke weerstand. Zowel ambtenaren van de Amerikaanse regering als topbestuurders in de technologiesector vrezen dat een vertraging China een strategisch voordeel kan geven. De geopolitieke concurrentie voegt een extra laag complexiteit toe aan het veiligheidsdebat. Toch is er een voorzichtige stap in de richting van regulering: president Donald Trump heeft deze week een decreet ondertekend. Dat besluit geeft de overheid de bevoegdheid om voorafgaand aan de lancering een eerste beoordeling te maken van de krachtigste AI-modellen van Amerikaanse bedrijven.
Trump’s decreet: een eerste maar beperkte maatregel
Het decreet van Trump wordt door Anthropic gezien als een positieve, maar ontoereikende stap. Het biedt een begin van toezicht, maar zonder wereldwijde coördinatie blijft het volgens het bedrijf onvoldoende. Anthropic wil in de komende maanden regeringsfunctionarissen, wetenschappers, belangenorganisaties en concurrenten bijeenbrengen om de contouren van een internationaal verificatiesysteem uit te werken. De grootste uitdaging blijft het verenigen van landen met uiteenlopende visies op de toekomst van AI.
Het dringende vraagstuk van zelfverbeterende AI
Centraal in de waarschuwing van Anthropic staat het risico van recursieve zelfverbetering. Terwijl AI-systemen zelfstandig hun intelligentie opvoeren, wordt de menselijke betrokkenheid steeds kleiner. Het rapport stelt dat zonder een gecoördineerde stop de kans groot is op een ongeremde race, met onvoorspelbare gevolgen voor de menselijke controle. De urgentie wordt versterkt doordat AI zijn eigen ontwikkeling in een dramatisch tempo aandrijft. Anthropic hoopt dat de combinatie van het decreet van Trump en een brede dialoog kan leiden tot minimale overeenstemming tussen de technologische grootmachten.
De moeilijkheid ligt in het gelijktijdig stoppen van grote AI-bedrijven uit meerdere landen, waarbij China en de VS de sleutelrol spelen. Zonder een dergelijk akkoord, waarschuwt Anthropic, zullen concurrentie- en geopolitieke druk leiden tot riskante veiligheidsbeslissingen. Het rapport maakt duidelijk dat de meest waarschijnlijke uitkomst zonder coördinatie een ongecontroleerde wedloop is. In dat scenario dreigt het menselijke vermogen om deze systemen in toom te houden geheel te verdwijnen.