Willkommen bei D-SAFE
Digitale Gewalt ist oft unsichtbar: aber sie trifft.
Besonders Frauen sowie trans-, nicht-binäre und queere Menschen werden online zunehmend mit Deepfakes, Hassrede oder subtilen Formen von Diskriminierung konfrontiert. Das Projekt untersucht digitale Gewaltformen und technikvermittelte Diskriminierung im Kontext des Gewaltschutzes mit besonderem Fokus auf KI-gestützte Systeme und deren Auswirkungen am Arbeitsplatz. Ziel ist es, Wirkmechanismen sichtbar zu machen, empirisch zu erfassen und wirksame Schutzstrategien zu entwickeln. Mithilfe randomisierter kontrollierter Studien (RCTs) wird evidenzbasiert analysiert, wie Beschäftigte auf digitale Gewalt wie Deepfakes oder algorithmische Benachteiligung reagieren. Als zentraler Baustein entsteht der digitale Trainings-Hub D-SAFE, der Bürger:innen praxisnah für digitale Gewaltszenarien und algorithmische Verzerrungen sensibilisiert und konkrete Handlungsoptionen vermittelt.
News
Am 01.04.2026 ist das Forschungsprojekt D-SAFE gestartet: „Digitaler Gewaltschutz im Arbeitsumfeld: Entwicklung von Strategien zur Bekämpfung struktureller und algorithmischer Diskriminierung durch digitale Technologien“.
Das vom Ministerium für Soziales, Arbeit und Gesundheit Baden-Württemberg finanzierte Projekt unter der Leitung von Prof. Dr. Petra Nieken untersucht in den kommenden 36 Monaten, wie digitale Gewalt – etwa Deepfakes, geschlechtsbezogene Desinformation und algorithmische Benachteiligung in KI‑gestützten HR-Systemen – Beschäftigte am Arbeitsplatz betrifft und welche Schutz- und Interventionsstrategien wirksam sind.
Herzstück ist der digitale Trainings-Hub D-SAFE, über den Nutzer:innen interaktiv erleben können, wie algorithmische Verzerrungen entstehen – und welche Gegenmaßnahmen es gibt. Ziel ist mehr digitale Sicherheit und Fairness in der Arbeitswelt.
Forschungsschwerpunkte
Fokus 1: Digitale Gewalt
Deepfakes, Falschinformationen und gezielte Reputationsschädigung: Wie beeinflussen sie Wahrnehmung, Handlungsbereitschaft und Meldeverhalten am Arbeitsplatz – und wie reagieren Betroffene und Beobachtende?
Fokus 2: KI & Diskriminierung
KI-basierte HR-Systeme entscheiden zunehmend über Auswahl und Bewertung. Wie wirken verzerrte Trainingsdaten auf die Reproduktion von Gender-Stereotypen – und wie gehen Verantwortliche damit um?
Der Trainings-Hub D-SAFE
Als zentraler, öffentlich zugänglicher Baustein ermöglicht der Trainings-Hub Bürger:innen, interaktiv und niedrigschwellig zu erfahren, wie sich algorithmische Verzerrungen und digitale Gewalt im Alltag auswirken und welche Schutzmechanismen wirksam sind.
- Trainingssimulatoren zu Deepfakes, Identitätsdiebstahl und Falschinformationen
- Thematik handhabbar und erlebbar machen statt nur informieren
- Konkrete Handlungsoptionen und Training von Reaktionsverhalten
Der Trainings-Hub befindet sich derzeit im Aufbau: Weitere Inhalte und Materialien werden fortlaufend ergänzt.
