AI Security Gevorderd

Naarmate organisaties kunstmatige intelligentie op grotere schaal inzetten, wordt het steeds belangrijker om grip te houden op de beveiliging, betrouwbaarheid en beheersbaarheid van AI-systemen. Zeker wanneer AI-modellen onderdeel worden van bedrijfskritische processen of zelfstandig beslissingen nemen en acties uitvoeren, ontstaan nieuwe risico's. Hoe organiseer je het eigenaarschap van AI-modellen? Welke maatregelen zijn nodig om autonome systemen onder controle te houden? En hoe toon je aan dat een AI-toepassing veilig en verantwoord functioneert?

In de tweedaagse training AI Security Gevorderd bouw je voort op de fundamenten uit AI Security Basis. Je volgt de volledige levenscyclus van een AI-model in productie en verdiept je in modelgovernance, agentische systemen, menselijk toezicht en de toetsbaarheid van AI-toepassingen. Daarnaast besteden we aandacht aan risico's in de AI-leveranciersketen en aan het herkennen, beoordelen en afhandelen van incidenten met AI-systemen.

Het programma bestaat uit de volgende onderwerpen:

1. Terugblik: de AI-keten en de vier bouwstenen

We beginnen met een terugblik op de belangrijkste concepten uit AI Security Basis. Je herhaalt hoe de AI-keten is opgebouwd en welke vier bouwstenen centraal staan bij het beveiligen van AI-systemen. Daarbij kijken we naar de samenhang tussen gegevens, modellen, toepassingen en de omgeving waarin AI wordt ingezet. Deze basis gebruiken we om de complexere beveiligings- en governancevraagstukken van AI-systemen in productie te onderzoeken.

2. Modelgovernance: grip op de volledige levenscyclus

Hoe houd je overzicht over de AI-modellen die binnen jouw organisatie worden ontwikkeld en gebruikt? Je leert hoe je een modelregister inricht en welke informatie nodig is om modellen gedurende hun volledige levenscyclus te beheren. We behandelen eigenaarschap, verantwoordelijkheden, registratie, wijzigingen en periodieke beoordeling. Ook besteden we aandacht aan het gecontroleerd uitfaseren van modellen wanneer deze niet langer geschikt, betrouwbaar of veilig zijn.

3. Agentische systemen: beveiliging van autonome AI

Agentische AI-systemen kunnen zelfstandig taken uitvoeren, externe hulpmiddelen gebruiken en acties ondernemen zonder dat iedere stap vooraf door een mens wordt goedgekeurd. Dat brengt andere beveiligingsrisico's met zich mee dan bij AI-toepassingen die uitsluitend informatie genereren. Je onderzoekt hoe je de bevoegdheden en handelingsruimte van AI-agenten begrenst, welke risico's ontstaan bij toegang tot systemen en gegevens en welke beheersmaatregelen nodig zijn om ongewenste acties te voorkomen.

4. Toezicht en menselijke tussenkomst

Wanneer kun je een AI-systeem zelfstandig laten functioneren en wanneer moet een mens kunnen ingrijpen? Je leert hoe je bepaalt waar menselijke controle noodzakelijk is en hoe je toezicht organiseert op AI-systemen die beslissingen nemen of handelingen uitvoeren. Daarbij besteden we aandacht aan verantwoordelijkheden, escalatiemogelijkheden en het tijdig signaleren van ongewenst gedrag. Zo leer je een passende balans te vinden tussen automatisering en menselijke controle.

5. Toetsen en aantoonbaarheid van AI-systemen

Hoe beoordeel je of een AI-toepassing voldoende wordt beheerst en hoe maak je dat aantoonbaar? Je leert welke informatie en welk bewijs nodig zijn om inzicht te krijgen in de werking, beveiliging en beheersmaatregelen van een AI-systeem. We bespreken hoe je de inrichting van governance en toezicht kunt toetsen en hoe je beoordeelt of maatregelen niet alleen zijn vastgelegd, maar ook daadwerkelijk functioneren. Daarmee ontwikkel je een basis voor het auditen en verantwoorden van AI-toepassingen.

6. Ketenrisico's: externe modellen en leveranciers

Veel AI-toepassingen maken gebruik van externe modellen, platforms en diensten. Hierdoor ontstaat een keten van afhankelijkheden die invloed heeft op de beveiliging en beheersbaarheid van het totale systeem. Je leert hoe je risico's bij externe AI-modellen en leveranciers identificeert en beoordeelt. Daarbij kijken we naar verantwoordelijkheden, afhankelijkheden, wijzigingen in externe modellen en de mogelijkheden om inzicht te krijgen in de beveiligingsmaatregelen van leveranciers.

7. Incidenten met AI-systemen

Wat doe je wanneer een AI-systeem onverwacht gedrag vertoont, ongeautoriseerde handelingen uitvoert of resultaten produceert die tot schade kunnen leiden? Je leert hoe je beveiligingsincidenten met AI-systemen herkent, beoordeelt en afhandelt. We bespreken hoe je de gevolgen beperkt, wanneer je een model of toepassing moet stilleggen en hoe je de oorzaak onderzoekt. Ook besteden we aandacht aan het vastleggen van incidenten en het vertalen van ervaringen naar verbeteringen in de beveiliging en governance.

Na afloop van de training beschik je over de kennis om AI-systemen gedurende hun volledige levenscyclus beter te beheersen. Je kunt governance en eigenaarschap organiseren, passende beveiligingsmaatregelen bepalen voor agentische systemen en onderbouwde keuzes maken over menselijk toezicht. Daarnaast kun je AI-toepassingen toetsen op beheersing en aantoonbaarheid, risico's in de leveranciersketen beoordelen en effectief reageren op incidenten. Zo draag je bij aan een veilige, controleerbare en verantwoorde inzet van AI binnen jouw organisatie.

De training AI Security Gevorderd is bedoeld voor security officers, risicomanagers en IT-architecten die werkzaam zijn binnen organisaties waar kunstmatige intelligentie een belangrijke rol speelt in de primaire bedrijfsprocessen.

De training is bijzonder geschikt voor professionals die verantwoordelijk zijn voor het beoordelen, beveiligen en beheersen van AI-systemen die zelf worden ontwikkeld of op grote schaal worden ingezet. Je wilt je verdiepen in modelgovernance, de risico's van autonome AI-systemen en het organiseren van effectief toezicht, zodat jouw organisatie AI op een veilige, controleerbare en verantwoorde manier kan inzetten.

Voor deze training heb je de training AI Security Basis gevolgd, of beschik je over vergelijkbare kennis en ervaring op het gebied van AI en informatiebeveiliging.

• Een modelregister inrichten en passende governance organiseren voor het beheer van AI-modellen gedurende hun volledige levenscyclus, van registratie en eigenaarschap tot uitfasering;
• De beveiligingsrisico's van agentische AI-systemen beoordelen en passende beheersmaatregelen selecteren om autonome beslissingen en handelingen te begrenzen;
• Bepalen wanneer menselijke tussenkomst noodzakelijk is en hoe je effectief toezicht organiseert op AI-systemen die zelfstandig beslissingen nemen of acties uitvoeren;
• AI-toepassingen systematisch toetsen op beveiliging, beheersing en aantoonbaarheid, en beoordelen of de getroffen maatregelen daadwerkelijk functioneren;
• Beveiligingsincidenten met AI-systemen herkennen, beoordelen en afhandelen, en passende maatregelen nemen om schade te beperken en herhaling te voorkomen.