KI-Woche: Von Vorurteilen zu Verantwortung – Wie wir Risiken in KI-Systemen erkennen und begrenzen
Mitwirklabor Bahnhofsplatz 19, Hameln, DeutschlandKI-Modelle beeinflussen unseren Alltag zunehmend – doch mit ihrem Einsatz wachsen auch die Risiken. Der Vortrag beginnt mit der Frage, wie Verzerrungen (Bias) in Trainingsdaten entstehen und wie diese zu diskriminierenden Ergebnissen in KI-Systemen führen. Anschließend richtet sich der Blick auf Sicherheitsprobleme in generativen KI-Modellen. Diese können nicht nur unangemessene Inhalte erzeugen, sondern auch ungewollt sensible oder persönliche Informationen aus den Trainingsdaten wiedergeben. Anhand aktueller Forschungsergebnisse und Beispiele wird aufgezeigt,…