Trainingsreeks voor ai-rode koppeling: generatieve AI-systemen beveiligen

Met de trainingreeks AI Red Teaming 101 van Microsoft kunnen professionals generatieve AI-systemen beveiligen tegen opkomende bedreigingen. In deze reeks worden beveiligingsproblemen, aanvalstechnieken en verdedigingsstrategieën behandeld, waardoor bruikbare inzichten en praktische ervaring worden geboden. Of u nu een beveiligingsexpert, machine learning-engineer of leidinggevende bent, u krijgt praktische kennis via praktijkgerichte casestudy's, modulaire afleveringen en geautomatiseerde testhulpprogramma's. Verken onderwerpen zoals promptinjectieaanvallen, multi-turn adversarial technieken en schaalbare verdedigingsmethoden om uw AI-beveiligingsexpertise te verbeteren.

Waarom deze trainingsreeks bekijken

Krijg bruikbare adviezen om kritieke beveiligingsproblemen in generatieve AI-systemen te identificeren, te exploiteren en te beschermen. Leer best practices, technieken en richtlijnen op basis van praktijklessen van het AI Red Team van Microsoft.

Wie moet deze trainingsreeks bekijken

De trainingsreeks is handig voor beveiligingsteams, ML-technici, AI-professionals en zakelijke leiders die met AI werken. Het richt zich voornamelijk op:

• Beveiligingsprofessionals: meer informatie over AI-specifieke aanvalsvectoren en verdedigingsstrategieën.
• ML-professionals en AI-technici: beveiligingstests toevoegen aan AI-ontwikkelwerkstromen.
• Ondernemings- en beveiligingsarchitecten: veilige AI-systemen maken en opkomende bedreigingen verkennen.

Inhoud van de trainingsreeks

De trainingsreeks biedt richtlijnen voor het begrijpen van generatieve AI-beveiligingsproblemen, het uitvoeren van aanvalstechnieken en het implementeren van defensieve maatregelen. De workshop bevat praktijkdemonstraties, praktijkscenario's en geautomatiseerde testhulpprogramma's op basis van de ai-beveiligingsprocedures voor productie van Microsoft.

Inleiding en basisprincipes

Aflevering 1: Wat is AI rode koppeling? - Inleiding tot basisbeginselen van AI red-teaming, belangrijke risico's in generatieve AI en de missie van het ai-rode team van Microsoft

Aflevering 2: Hoe Generatieve AI-modellen werken - Inzicht in modelarchitectuur, trainingsfasen en waarom deze modellen unieke beveiligingsrisico's creëren

Deel A - Kern aanvalstechnieken

Aflevering 3: Directe prompt injectie uitgelegd - Hoe aanvallers modelgedrag manipuleren door schadelijke instructies te injecteren, waaronder praktijkscenario's zoals de $1 SUV chatbot-aanval

Aflevering 4: Indirect Prompt Injection Explained - Verborgen aanvallen waarbij schadelijke instructies worden verborgen in externe gegevensbronnen, zoals e-mails, websites of databases

Aflevering 5: Single-Turn Aanvallen - Geavanceerde prompt engineering technieken waaronder persona hacking, emotionele manipulatie en filterontduiking met coderings trucs

Aflevering 6: Multi-Turn Attacks - technieken zoals Skeleton Key en Crescendo die geleidelijk modellen sturen naar het omzeilen van veiligheidsbeschermingen

Deel B - Verdediging en risicobeperking

Aflevering 7: Verdediging tegen aanvallen - Risicobeperkingsstrategieën en beveiligingstechnieken, waaronder de spotlighting-verdedigingsmethoden van Microsoft (scheidingstekens, gegevensmarkering en codering)

Deel C - Automatisering en schaal

Aflevering 8: AI red teaming automatiseren met PyRIT - Een introductie tot Microsoft's open-sourceprogramma voor het automatiseren en opschalen van tests van generatieve AI-systemen met behulp van adversaire simulaties, de Python Risk Identification Tool (PyRIT)

Aflevering 9: Single-Turn-aanvallen automatiseren - Praktijkdemonstratie van het configureren van datasets, doelen en scorelogica om veel prompts tegelijk te verzenden met behulp van PyRIT

Aflevering 10: Multi-Turn Aanvallen Automatiseren - Geavanceerde automatiseringstechnieken voor meerturnsgesprekken, waaronder adversariale modelgesprekken en het testen van zowel tekstopbouw als beeldgeneratiesystemen

Wat u leert

Nadat u deze trainingsreeks hebt voltooid, begrijpt u het volgende:

• Basisprincipes van AI-red teaming versus traditionele red teamingmethoden
• Kernproblemen in generatieve AI-systemen, zoals promptinjectie en onjuiste uitlijning van modellen
• Aanvalstechnieken, van eenvoudige promptmanipulatie tot geavanceerde adversarial strategieën met meerdere beurten
• Verdedigingsstrategieën, waaronder bewezen beperkingstechnieken zoals de spotlightingmethoden van Microsoft
• Automatiseringshulpprogramma's voor het schalen van rode teamactiviteiten met behulp van PyRIT en andere opensource-hulpprogramma's
• Toepassingen uit de praktijk met praktijklabs en casestudy's van Microsoft's productieve AI-beveiligingswerk.

Verwante inhoud

• Praktijklabs en hulpprogramma's
• Overzicht van het rode Microsoft AI-team
• PyRIT GitHub-opslagplaats