Den här utbildningen ger dig kunskapen och verktygen för att bygga säkra AI-baserade applikationer från början. Du lär dig förstå de nya hoten, designa rätt skydd och integrera säkerhet som en självklar del av utvecklingsprocessen – så att innovation och ansvar går hand i hand.

AI och LLM-baserade system förändrar IT-landskapet i grunden. De fungerar inte som traditionella applikationer – de är dynamiska, datadrivna och introducerar helt nya typer av sårbarheter, från prompt injection och dataläckage till oförutsägbara beteenden. Samtidigt inför vi dessa lösningar i rekordfart, ofta utan tid för eftertanke.

Utbildningsmål

Den här kursen ger en grundlig och heltäckande förståelse för hur du utvecklar säkra AI- och LLM-baserade IT-system. Målet är att rusta utvecklare, arkitekter, testare och IT-ledare med rätt kunskap och praktiska verktyg för att hantera de nya risker som uppstår i generativa och datadrivna lösningar. Kursen är anpassad till moderna arbetssätt som CI/CD, DevOps och MLOps/LLMOps, och hjälper dig att göra säkerhet till en naturlig och integrerad del av hela livscykeln – från modellval och datakällor till drift och uppföljning.

Under en intensiv och innehållsrik dag varvar vi genomgångar, praktiska övningar och gruppdiskussioner. Du får konkreta exempel på hur du identifierar och hanterar nya typer av sårbarheter, såsom prompt injection, dataläckage, modellmanipulation och otillräcklig åtkomstkontroll. Vi går igenom hur du formulerar tydliga säkerhetskrav för AI-lösningar, bygger in skyddsmekanismer från början, automatiserar kontroller där det är möjligt och etablerar en hållbar säker utvecklingsprocess för AI-system. Stor vikt läggs vid hur du testar, verifierar och kontinuerligt övervakar säkerheten i system som är dynamiska och delvis oförutsägbara.

Efter kursen har du en tydlig förståelse för hur säkerhet i AI- och LLM-baserade system skiljer sig från traditionell applikationssäkerhet. Du får ökad kunskap om de hot som dessa system möter och hur du, från kravställning och design till test och förvaltning, systematiskt kan arbeta för att förebygga och minska riskerna.

Målgrupp

Denna kurs är riktad till yrkesverksamma inom mjukvaruutveckling, krav, implementation, testning, och projektledning som vill lära sig mer om säker utveckling inom AI och LLM-baserade system.

Förkunskaper

För att få mest möjliga ut av kursen bör deltagarna ha grundläggande förståelse för AI-system och erfarenhet av IT-systemutveckling.

Innehåll

• AI/LLM liknar inget annat
  Dessa system är helt väsensskilda från något vi någonsin har haft inom IT

• De vanligaste säkerhetshoten för LLM applikationer:
  Genomgång av den senaste OWASP Top 10 för LLM applikationer med exempel.
  
  
• Genererad kod och kodningsagenter
  Vilka är de vanligaste sårbarheterna som genererad kod innehåller.
  
  
• Verktyg för Säkerhetsanalys:
  Inkluderar både Statisk (SAST) och Dynamisk (DAST)
  Applikationssäkerhetsanalys.
  
  
• Hantering av Tredjepartsberoende:
  Metoder för att säkra externa bibliotek och verktyg.
  
  
• Hotmodellering:
  Systematiskt identifiera och motverka alla potentiella säkerhetshot.
  
  
• AI-Agenter
  Helt nya typer av sårbarheter och säkerhetshot
  
  
• De vanligaste säkerhetshoten för AI-Agenter:
  Genomgång av de idag vanligaste sårbarheterna med exempel.
  
  
• Hur man testar säkerhet för LLM applikationer
  Genomgång av en standard för testning av tillförlitlighet hos AI-system