Projektdetails

StMWK-gefördertes Projekt AIEP: Ethische Fragen bei Künstlicher Intelligenz im Berufsalltag

Ein interdisziplinäres Team der Universität Passau entwickelt unter der Leitung von Ethik-Professorin Prof. Dr. Karoline Reinhardt ein Hochschulzertifikat, das Beschäftigte aus dem technisch-ingenieurwissenschaftlichen Bereich über ethische Herausforderungen beim Einsatz von KI weiterbilden soll. Beteiligt sind auch Unternehmen aus der Region Passau.

KI findet in immer mehr Bereichen des Berufslebens Anwendung: Bei Bewerbungen sieht sie Lebensläufe automatisiert durch, manche Firmen nutzen sie als Organisationstool für den Arbeitsalltag. Jedoch stellt die relativ neue Technologie immer mehr Unternehmen vor ethische Herausforderungen, etwa im Bereich Datenschutz.

Ein Team der Universität Passau unter Leitung von Prof. Dr. Karoline Reinhardt, Professur für Angewandte Ethik, erforscht im vom Bayerischen Staatsministerium für Wissenschaft und Kunst (StMWK) geförderten Projekt „AI Ethics In Practice“ (AIEP) die ethischen Probleme, die sich Technikerinnen und Technikern in Firmen beim Einsatz von KI bei Produktentwicklung und Technologien stellen. Auf Basis dieser Ergebnisse konzipieren die Forschenden eine Weiterbildung mit abschließendem Hochschulzertifikat an der Universität Passau.

Die ethischen Herausforderungen sind vielfältig: Eine KI lernt anhand von Daten aus der Wirklichkeit. So können sich bereits bestehende Diskriminierungen durch die Technologie verstärken, etwa wenn sie in Bewerbungsverfahren Personen aufgrund ihres Namens oder Geschlechts aussortiert.

„Häufig gibt es auch Probleme mit der Verantwortungszurechnung“, so Dr. Heiner Koch, wissenschaftlicher Mitarbeiter am Lehrstuhl für Angewandte Ethik und bei AIEP. Diese träten etwa beim autonomen Fahren auf, wenn KI-Produkte eingesetzt würden. Bei einem Unfall stelle sich hier die Frage, wer verantwortlich sei: Ist es „die Person, die das Auto verwendet, die Person, die das Auto produziert oder die Person, die die steuernde KI entwickelt hat?“.

Zudem treten auch die Fragen der sinnvollen Anwendung von KI in Unternehmen und des Datenschutzes auf: „Wo kommen die Daten her, mit denen die KI trainiert wird, welche Daten kann sie ausspielen, ohne dass es Datenschutzverletzungen gibt?“, gibt Dr. Koch Beispiele für einige zentrale Punkte.

Genau für diese Fragen entwickelt das Forschungsteam im Rahmen des Projekts eine Weiterbildung inklusive Hochschulzertifikat. Zielgruppe sind Technikerinnen und Techniker sowie Ingenieurinnen und Ingenieure in Unternehmen in der Region Passau. Die Weiterbildung soll über die reine Vermittlung von Inhalten hinausgehen. Es soll für die Teilnehmenden Möglichkeiten geben, die eigenen Erfahrungen und Problemstellungen aus der Praxis in der Gruppe zu diskutieren.

Neben Prof. Dr. Karoline Reinhardt und Dr. Heiner Koch sind an der Universität Passau noch Dr. Alexandra Schick und Mitarbeitende des Referats Karriere und Kompetenzen für den Aufbau der Strukturen im Bereich Wissenschaftliche Weiterbildung beteiligt. Prof. Dr. Werner Gamerith (Vize-Präsident für Transfer und interne Vernetzung) ist von Seiten der Hochschulleitung zuständig. Zudem sind die Lehrstühle für AI Engineering (Prof. Dr. Steffen Herbold), Psychologie mit Schwerpunkt Mensch-Maschine Interaktion (Prof. Dr. Susanne Mayr), KI im Strafrecht (Prof. Dr. Brian Valerius) und Katholische Theologie (Prof. Dr. Bernhard Bleyer) beteiligt. Aus der Region nehmen die Unternehmen Knorr-Bremse, Micro Epsilon, Sumida AG, ZF Group, Motorenfabrik Hatz GmbH, das Unternehmerforum Neuburger Gesprächskreis und TIBAY teil.

Gefördert wird das Projekt vom Bayerischen Staatsministerium für Wissenschaft und Kunst (StMWK) im Zeitraum von 01.07.2024 bis 31.06.2025 im Rahmen der Förderung des Ausbaus von Hochschulzertifikaten im technisch-ingenieurwissenschaftlichen Bereich zur Stärkung der akademischen Weiterbildung an bayerischen Universitäten und Hochschulen für angewandte Wissenschaften (digital.ING II).

Projektleitung an der Universität Passau	Prof. Dr. Karoline Reinhardt (Professur für Angewandte Ethik)
Laufzeit	01.07.2024 - 30.06.2025
Mittelgeber	BayStMWK - Bayerisches Staatsministerium für Wissenschaft und Kunst
Projektnummer	L.3-H2434.5.2.1/24/6