Zielsetzung des Kurses
Der Kurs Design for AI-Explainability adressiert die Gestaltung erklärbarer KI-Systeme an der Schnittstelle von UX-Design, Data Science und Human-Computer-Interaction. Im Fokus stehen Methoden zur Darstellung von Modellentscheidungen, Transparenzanforderungen sowie Interaktionskonzepte für unterschiedliche Nutzergruppen. Behandelt werden normative Vorgaben, Modellinterpretation und visuelle Kommunikation von Unsicherheit. Ziel ist die strukturierte Konzeption von Oberflächen und Prozessen, die Nachvollziehbarkeit und Prüfbarkeit von KI-Ausgaben unterstützen.
Inhalte
Grundlagen der Erklärbarkeit in KI: Begriffsabgrenzungen, Nutzungsanforderungen, Erklärarten (global vs. lokal), typische Anwendungsfälle in Produktschnittstellen
Methoden der Modellinterpretation: Feature-Importance, Surrogatmodelle, Beispielbasierte Erklärungen, Gegenfaktische Erklärungen und deren Grenzen
Informationsarchitektur und UI-Patterns: Darstellung von Unsicherheit, Confidence- und Risikoindikatoren, Progressives Disclosure, Interaktionsmuster für Erklärungen
Daten- und Nutzungsbezug: Datenerhebung für Erklärbedarfe, Nutzersegmente und Rollen (Endnutzer, Fachexperten, Auditoren), Kontextanalyse und Aufgabenmodelle
Qualitätssicherung und Evaluation: Kriterienkataloge für Erklärqualität, Messung von Verständlichkeit und Nützlichkeit, Testdesign und Dokumentation
Regulatorische und ethische Rahmenbedingungen: Vorgaben aus Normen und Leitlinien, Nachvollziehbarkeit, Auditfähigkeit, Protokollierung und Logging
Lernziele
- Identifikation von Erklärbedarfen für unterschiedliche Nutzerrollen und Anwendungsszenarien
- Analyse von Modellen mithilfe gängiger Interpretationsmethoden einschließlich Grenzen und Annahmen
- Konzeption von UI-Flows und Informationsarchitekturen für erklärbare KI-Funktionen
- Erstellung von Darstellungen zu Unsicherheit, Risikoindikatoren und Datenherkunft in Prototypen
- Bewertung der Erklärqualität anhand definierter Kriterien sowie Durchführung eines Usability-Tests
- Integration von Dokumentations- und Logging-Anforderungen in Design- und Entwicklungsabläufe
Berufsperspektiven
Die Kursinhalte finden Anwendung in Berufsfeldern wie UX- und Product-Design mit Schwerpunkt auf KI-basierten Interfaces und erklärbaren Interaktionen. Typische Tätigkeitsfelder umfassen Data-Product-Management mit Verantwortung für Transparenzanforderungen und Auditfähigkeit. Der Kurs adressiert Inhalte für Tätigkeiten wie Human-AI-Interaction-Spezialistinnen und -Spezialisten, die Erklärkonzepte, Evaluation und Dokumentation umsetzen.
Zusammenfassung
Der Kurs Design for AI-Explainability behandelt die Gestaltung, Darstellung und Evaluation von Erklärungen in KI-gestützten Produkten. Im Rahmen dieser Weiterbildung werden Methoden der Modellinterpretation, UI-Patterns, Qualitätskriterien und regulatorische Anforderungen zusammengeführt. Die vermittelten Themen stehen in Bezug zu Tätigkeitsfeldern wie UX/Product-Design, Data-Product-Management und Human-AI-Interaction.