Das Institute for Ethics in Artificial Intelligence der Technische Universität München (TUM) hat mit der Arbeit begonnen. Bei der offiziellen Eröffnung wurden erste Forschungsprojekte vorgestellt. Alle haben eines gemeinsam: sie bewegen sich an der Schnittstelle von Ethik und Künstlicher Intelligenz (KI).
Seit 2012 erforscht die TUM mit dem im Rahmen der Exzellenzinitiative 2012 eingerichteten Munich Center for Technology in Society (MCTS) die Wechselwirkungen von Wissenschaft, Technologie und Gesellschaft. Als Teil des MCTS soll sich nun das TUM Institute for Ethics in Artificial Intelligence (IEAI) auf die ethischen Implikationen der Künstlichen Intelligenz konzentrieren. Das Institut wird von Facebook mit 6,5 Millionen Euro unterstützt. Laut der TUM seien an diese finanzielle Untersützung aber keine Auflagen oder Erwartungen des US-Konzerns gebunden.
Werte, Bedürfnisse und Erwartungen der Menschen
Mit dem IEAI will die TUM ihre Wissenschafts- und Technikdisziplinen mit den Geistes- und Gesellschaftswissenschaften zusammenbringen, um KI-basierte Technologien vertrauenswürdig und gesellschaftsfähig zu machen.
„Als Technische Universität können wir nur dann wirksam zum gesellschaftlichen Fortschritt beitragen, wenn wir unsere technologischen Innovationen auf die Werte, Bedürfnisse und Erwartungen der Menschen ausrichten.“
sagte Thomas Hofmann, der neue Präsident der TUM.
Deshalb kooperieren im IEAI Forschertalente aus Medizin, Natur- und Ingenieurwissenschaften gemeinsam mit den Sozial- und Ethikwissenschaften in interdisziplinären Teams. Das neue Institut, das über Fördermittel von rund 2,3 Millionen Euro verfügt, startet mit folgenden Forschungsprojekten:
Ethik des autonomen Fahrens
Theorien aus der Ethik sollen in Algorithmen übersetzt und in Programme integriert werden, um die Fahrtrichtung und die Geschwindigkeit autonomer Fahrzeuge an aktuelle Situationen anpassen, um zum Beispiel bei unvermeidbaren Kollision mit Menschen ethisch vertretbare Entscheidungen zu treffen. Die erweiterten Programme werden anhand von bekannten und neuen Szenarien im Simulator getestet und evaluiert.
KI-basierte Entscheidungshilfe bei ethischen Fragen im Klinikalltag
Dieses Projekt untersucht, ob es möglich und sinnvoll ist, mit Ansätzen des Maschinellen Lernens Ärzten Hilfestellung bei wichtigen Entscheidungen im Klinikalltag zu bieten, zum Beispiel bei der Entscheidung für oder gegen ein Medikament.
Die Dynamik von Hasskommentaren und Fake News verstehen
Negative Informationen wie „Hate Speech“ oder „Fake News“ breiten sich in den Sozialen Medien mitunter wie ein Flächenbrand aus. Dabei spielen vermutlich die jeweiligen KI-Algorithmen der Plattformen eine entscheidende Rolle. Deshalb sollen nun die Dynamiken solcher Meinungsbildung mathematisch modelliert werden, um diese besser zu verstehen und Fragen der Verantwortung für solche „Flächenbrände“ und mögliche Kontrollmechanismen zu erforschen.
KI-gestützte Ansprache von Tätern in Sozialen Medien
Das Projekt erforscht, ob sich mithilfe von KI-automatisierten, personalisierten Interventionen Täter dazu bewegen lassen, ihr Verhalten beim Verbreiten von „Fake News“ zu ändern. Untersucht werden ethische und psychologische Fragen sowie Themen des Datenschutzes und der Privatsphäre der Betroffenen.
Vertrauen in KI durch Regulation
Das Projekt untersucht Lösungsvorschläge für die Regulierung und die Zertifizierung von KI-basierten Programmen anhand ihrer gesellschaftlichen und technischen Handhabbarkeit. Daraus sollen konkrete Handlungsempfehlungen für Gesellschaft und Politik sowie Anforderungen an die Technik entwickelt werden, um der Gesellschaft mehr Kontrollmöglichkeiten und Vertrauen zu geben.
KI für am Menschen orientierte Industrie 4.0
Die beim Betrieb vernetzter Fertigungsanlagen (Industrie 4.0) erfassten Daten ermöglichen die Optimierung von Prozessabläufen in Echtzeit. Für Arbeitskräfte kann daraus jedoch ein Gefühl permanenter Überwachung entstehen. Das Projekt untersucht ethisch problematische Aspekte der Verwendung von KI und versucht, Algorithmen zu entwickeln, die die Produktionsprozesse für den arbeitenden Menschen mit seinen Stärken, Schwächen und Bedürfnissen optimieren, statt den Menschen den technischen Bedürfnissen der Produktionsprozesse unterzuordnen.
