Introductie in AI security

Kunstmatige intelligentie biedt organisaties nieuwe mogelijkheden, maar introduceert ook beveiligingsrisico's die niet altijd met traditionele maatregelen zijn af te dekken. Hoe voorkom je dat gevoelige informatie via AI-systemen wordt blootgesteld? Welke risico's ontstaan door manipulatie van data of prompts? En hoe zorg je ervoor dat AI-toepassingen niet alleen functioneel, maar ook veilig en beheersbaar zijn?

In deze tweedaagse training doorloop je de volledige AI-keten: van de data waarmee een model wordt ontwikkeld tot de applicatie waarin het wordt toegepast en de gebruikers die ermee werken. Per onderdeel onderzoeken we welke risico's kunnen ontstaan, welke beveiligingsmaatregelen beschikbaar zijn en hoe je verantwoordelijkheden binnen de organisatie organiseert.

Het programma bestaat uit de volgende onderwerpen:

1. Wat AI verandert

Wat maakt een AI-model anders dan een traditionele applicatie? Je leert hoe AI-systemen functioneren, waarom hun gedrag niet altijd volledig voorspelbaar is en welke gevolgen dit heeft voor informatiebeveiliging. We bespreken de belangrijkste verschillen tussen traditionele IT-beveiliging en het beveiligen van AI-toepassingen.

2. De AI-keten

Een AI-toepassing bestaat uit meer dan alleen een model. We bekijken de samenhang tussen data, modellen, applicaties en gebruikers. Je ontdekt waar in deze keten kwetsbaarheden kunnen ontstaan, hoe afhankelijkheden risico's beïnvloeden en waarom beveiliging over de volledige levenscyclus aandacht vraagt.

3. Nieuwe dreigingen

AI introduceert specifieke aanvalsmethoden en kwetsbaarheden. Je maakt kennis met dreigingen zoals datavergiftiging (data poisoning), promptinjectie, modeldiefstal en ongewenste of onbetrouwbare uitvoer. Aan de hand van praktijkvoorbeelden leer je hoe deze risico's ontstaan, welke gevolgen ze kunnen hebben en hoe je ze kunt beperken.

4. Bestaande beveiligingsmaatregelen

Veel bestaande principes van informatiebeveiliging blijven ook bij AI van toepassing. Denk aan toegangsbeheer, databeveiliging, monitoring en risicomanagement. We onderzoeken welke maatregelen direct bruikbaar zijn, waar aanvullende beveiliging nodig is en hoe je bestaande beveiligingsprocessen kunt uitbreiden voor AI-toepassingen.

5. Governance van AI

Wie is verantwoordelijk voor de veiligheid van een AI-model? Wie beoordeelt de risico's en wie besluit of een toepassing mag worden ingezet? Je leert hoe eigenaarschap, rollen en verantwoordelijkheden kunnen worden ingericht en hoe organisaties grip houden op de ontwikkeling, implementatie en het gebruik van AI.

6. Wet- en regelgeving en beveiligingskaders

AI-toepassingen moeten passen binnen bestaande beveiligingskaders en relevante wet- en regelgeving. We bespreken de relatie tussen ISO 27001, de Europese AI-verordening (AI Act) en eventuele sectorspecifieke eisen. Je krijgt inzicht in de belangrijkste verplichtingen en aandachtspunten en leert hoe deze kaders elkaar aanvullen.

7. Van pilot naar productie

Een succesvolle AI-pilot betekent niet automatisch dat een toepassing klaar is voor productie. We bespreken welke beveiligingsrisico's, verantwoordelijkheden en beheersmaatregelen vooraf moeten worden beoordeeld en vastgelegd. Je leert welke vragen je moet stellen om te bepalen of een AI-toepassing verantwoord in gebruik kan worden genomen en hoe je ook na ingebruikname controle houdt.

Na afloop van de training heb je een samenhangend beeld van AI Security en beschik je over de kennis om beveiligingsrisico's bij AI-toepassingen te herkennen, bespreekbaar te maken en mee te wegen in besluitvorming.

De training AI Security Basis is bedoeld voor professionals die betrokken zijn bij de ontwikkeling, implementatie, beveiliging of het beheer van AI-toepassingen binnen hun organisatie. De training biedt inzicht in de specifieke beveiligingsrisico's van AI en helpt deelnemers om deze risico's te herkennen, beoordelen en beheersen.

De training is bijzonder geschikt voor security officers, informatiebeveiligingsspecialisten, risicomanagers, IT- en enterprise-architecten en projectleiders die te maken krijgen met AI-initiatieven. Ook voor professionals die verantwoordelijk zijn voor governance, compliance of de veilige toepassing van nieuwe technologie biedt de training waardevolle inzichten.

Daarnaast is deze training een uitstekend vertrekpunt voor data- en AI-professionals die zich willen verdiepen in informatiebeveiliging. Je leert hoe beveiliging, risicomanagement en verantwoordelijkheden samenkomen bij het verantwoord inzetten van AI-systemen.

Voor deze training is geen specifieke voorkennis vereist. Enige ervaring met informatiebeveiliging of dataprojecten is aan te bevelen.

• Uitleggen waarom AI-systemen andere beveiligingsrisico's met zich meebrengen dan traditionele applicaties;
• De belangrijkste dreigingen tegen AI-systemen herkennen en passende beveiligingsmaatregelen benoemen;
• Rollen, verantwoordelijkheden en besluitvorming rondom de veilige inzet van AI binnen een organisatie organiseren;
• De belangrijkste beveiligingskaders en wet- en regelgeving, waaronder ISO 27001 en de Europese AI-verordening, herkennen en begrijpen welke eisen deze stellen aan AI-toepassingen;
• Beoordelen of een AI-toepassing voldoende veilig en beheersbaar is om verantwoord in productie te worden genomen.