ISO 42001 en vijandige AI: wat de norm werkelijk vereist
De meeste 42001-implementaties die ik beoordeel, behandelen vijandige AI als buiten scope. De norm doet dat niet.
Er zit een comfortabele aanname in hoe organisaties 42001:2023 benaderen. Vijandige AI is AI die door een tegenstander wordt ingezet om de systemen aan te vallen waarvan een organisatie afhankelijk is, en 42001 plaatst die dreiging binnen scope via de contextanalyse. De norm is voor het beheersen van de AI die je bouwt of inzet, luidt de aanname. Jouw modellen, jouw use-cases, jouw risico. Dus richt de implementatie zich naar binnen: een inventaris van AI-systemen, een impactbeoordeling per systeem, toezicht en eigenaarschap voor de systemen die je draait. Dat klopt allemaal, en het is allemaal onvolledig.
Want dezelfde norm, gelezen zoals hij geschreven staat, vereist ook dat je rekening houdt met AI die tegen je handelt. Dit volgt rechtstreeks uit de governance-implicaties van AI-versnelde dreigingen, en het is waar de meeste programma’s een blinde vlek hebben.
Wat de contextclausules werkelijk zeggen
42001:2023 opent, zoals alle managementsysteemnormen, met context. cl. 4.1 vereist dat de organisatie de externe en interne kwesties bepaalt die relevant zijn voor haar doel en die haar vermogen beïnvloeden om de beoogde resultaten van haar AI-managementsysteem te bereiken. cl. 4.2 vereist dat ze de belanghebbenden en hun relevante eisen bepaalt.
Lees die twee clausules zonder de naar-binnen-gerichte aanname en iets wordt duidelijk. Een externe kwestie die je AI-managementsysteem beïnvloedt, is niet alleen je eigen AI-gebruik. Als tegenstanders AI gebruiken om aanvallen te versnellen tegen de systemen waarvan je organisatie afhankelijk is, dan is dat een externe kwestie onder cl. 4.1 bij elke eerlijke lezing. Het beïnvloedt je vermogen om de resultaten te bereiken waarvoor je managementsysteem bestaat. Het weglaten is geen verdedigbare scopingbeslissing. Het is een omissie.
Dit is het vijandige gat. Interne AI-governance beantwoordt de vraag “hoe runnen we onze AI verantwoord”. Het beantwoordt niet “hoe verandert AI die tegen ons wordt ingezet onze risico-omgeving”. Beide vragen leven binnen 42001. In de implementaties die ik beoordeel, telt de eerste vraag doorgaans tientallen pagina’s documentatie en de tweede nul.
Van context naar risicobeoordeling
Het gat sluit niet bij de contextclausules. Het loopt rechtstreeks door naar cl. 6.1, de eis van risicobeoordeling. Als de contextanalyse onder cl. 4.1 vijandige AI erkent als externe kwestie, dan moet de risicobeoordeling die behandelen. Je kunt geen relevante externe factor benoemen en hem vervolgens uitsluiten van het risicoproces zonder de interne logica van de norm te breken.
In de praktijk betekent dit dat de risicobeoordeling moet meewegen hoe AI-versnelde dreigingen de waarschijnlijkheid en de snelheid veranderen van de risico’s die al op het register staan. Een kwetsbaarheid die voorheen langzaam genoeg zou zijn misbruikt om in de volgende reviewcyclus te onderscheppen, zit nu in een andere risicoklasse omdat het exploitatievenster is gecomprimeerd. Dat is een verandering in het risicobeeld, en 42001 vereist dat het wordt beoordeeld, gedocumenteerd en herzien.
Een AI-governanceprogramma dat intern modeltoezicht tot in detail documenteert maar niets zegt over vijandige AI, is geen grondige implementatie met één gat. Onder een schone lezing van cl. 4.1 en cl. 6.1 is het structureel onvolledig.
Waarom dit belangrijk is voor auditoren en implementeerders
Voor iedereen die 42001 implementeert of auditeert, verandert dit wat “klaar” betekent. Een conform AI-managementsysteem is niet een systeem dat elke interne AI-use-case heeft gecatalogiseerd en daar is gestopt. Het is een systeem waarvan de contextanalyse de dreigingsomgeving eerlijk weergeeft, inclusief het deel van die omgeving dat zelf AI-gedreven is, en waarvan de risicobeoordeling doorpakt op wat de context vaststelt.
Wanneer ik hiertegen auditeer, is de toets eenvoudig. Benoemt de contextanalyse vijandige AI als externe kwestie? Zo ja, behandelt de risicobeoordeling die dan ook daadwerkelijk? Als het antwoord op de eerste nee is, is de scope te smal getrokken. Als het antwoord op de eerste ja is maar de tweede nee, is het managementsysteem niet intern consistent.
Dit hangt rechtstreeks samen met hoe de managementreviewcadans moet werken, want een risico-omgeving die AI-snelheidsdreigingen omvat, kan niet op een jaarlijks schema worden herzien en zinvol blijven. Dat is het onderwerp van het volgende artikel, over hoe je de reviewcadans herijkt. Implementeer je 42001 of bereid je je voor op een audit en stopt je contextanalyse bij intern AI-gebruik, dan is dat het gat om te dichten vóór certificering, niet erna. iQomply ondersteunt o
Veelgestelde vragen
Gelezen zoals geschreven dekt hij beide. cl. 4.1 vereist dat de organisatie externe kwesties bepaalt die haar AI-managementsysteem beïnvloeden. Vijandige AI is bij elke eerlijke lezing een externe kwestie. De meeste implementaties richten zich alleen op intern AI-gebruik, waardoor de vijandige dimensie onbehandeld blijft.
Hij volgt uit de contextclausules, cl. 4.1 en cl. 4.2, en loopt door naar de eis van risicobeoordeling in cl. 6.1. Als de contextanalyse vijandige AI als relevant aanwijst, moet de risicobeoordeling die behandelen. De eis ligt besloten in de interne logica van de norm zelf, eerder dan dat hij als aparte clausule is geformuleerd.
De toets is of de contextanalyse vijandige AI als externe kwestie benoemt en of de risicobeoordeling die vervolgens behandelt. Laat de contextanalyse het weg, dan is de scope te smal getrokken. Benoemt ze het maar negeert het risicoproces het, dan is het managementsysteem niet intern consistent.
Niet automatisch, maar het is onvolledig. Een programma dat intern modeltoezicht grondig documenteert terwijl het vijandige AI negeert, heeft een structureel gat in zijn context- en risicoanalyse. Dat gat dichten vóór certificering is verdedigbaarder dan het ontdekken tijdens een opvolgingsaudit.
