Die Rolle einer oder eines KI-Beauftragten umfasst unter anderem die kritische Prüfung von KI-Systemen auf Verzerrungen. Grundlage der Arbeit ist das Verständnis, wie Bias entsteht, wirkt und reduziert werden kann.

!Kursinhalt

!1. Grundlagen von Bias in KI-Systemen
*Ursprung in Daten, Modellen und Prozessen
*Typen von Verzerrungen
*Bezug zu Fairness und Diskriminierung

!2. Methoden zur Identifikation
*Analyse von Trainings- und Testdaten
*Vergleich von Ergebnissen über Gruppen
*Einsatz einfacher Prüfwerkzeuge

!3. Bewertung und Maßnahmen
*Priorisierung nach Wirkung und Risiko
*Datenseitige und modellseitige Anpassungen
*Organisatorische Maßnahmen

!4. Dokumentation und Nachweise
*Strukturierung von Analyse-Ergebnissen
*Bezug zu regulatorischen Anforderungen
*Kommunikation mit Fachbereichen und Audit

!Berufliche Relevanz

*Fundierte Prüfung sensibler KI-Systeme
*Schutz vor rechtlichen und reputativen Risiken
*Grundlage für verantwortungsvolle KI-Nutzung