BLOG
Deutscher Ethikrat veröffentlicht Stellungnahme zum Einsatz von KI
Erst im November 2022 hat die neue Version von ChatGPT des Unternehmens OpenAI für große Aufmerksamkeit gesorgt und die öffentliche Debatte über den Einsatz von KI und Maschinellen Lernens im alltäglichen Leben erneut angestoßen. Jetzt hat der Deutsche Ethikrat einen Bericht veröffentlicht, der den Einsatz von Künstlicher Intelligenz in verschiedenen gesellschaftlichen Bereichen betrachtet.
Auf 287 Seiten hat der Deutsche Ethikrat Stellung zum Einsatz von Künstlicher Intelligenz bezogen. Der Bericht „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ schlägt dabei Handlungsempfehlungen im Umgang mit KI vor. Dabei bezogen sich die Expert:innen konkret auf die Einsatzbereiche Medizin, Bildung, Öffentliche Kommunikation und Meinungsbildung sowie Öffentliche Verwaltung.
In der Einleitung erklären die Autor:innen, dass die ethische Betrachtung nicht nur abhängig von der Einschätzung der KI selbst sei, sondern davon welche Auswirkungen die Künstliche Intelligenz auf die Menschen hat, die sie unmittelbar nutzen oder von der Anwendung betroffen sind. Dafür formulierte das Gremium folgende Fragen:
„Welche – positiven wie auch negativen – Auswirkungen hat das Delegieren von Tätigkeiten, die zuvor Menschen vorbehalten waren, an Maschinen?“
„Werden menschliche Autorschaft und die Bedingungen für verantwortliches Handeln erweitert oder vermindert?“
„Wie wirkt sich der Einbezug digitaler Technologien und Künstlicher Intelligenz auf die Handlungsoptionen verschiedener Beteiligter und Betroffener aus?“
“Wessen Möglichkeiten werden durch den Einsatz erweitert, wessen Möglichkeiten vermindert?”
Quelle: Deutsche Ethikrat: “Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz”, 2023
MEDIZIN
Für die Medizin definiert der Ethikrat neun Handlungsempfehlungen. So heißt es u.a., dass insbesondere gerade medizinisches KIs sowohl durch ärztliche Fachgesellschaften als auch durch die zuständigen Zulassungsbehörden genaustens zertifiziert werden müssen. Insbesondere die Dokumentation und die Einhaltung des Datenschutzes, die Sorgfaltspflicht bei der Datenerhebung und -weitergabe sowie bei der Plausibilitätsprüfung werden vom Ethikrat hervorgehoben.
„Eine vollständige Ersetzung der ärztlichen Fachkraft durch ein KI-System gefährdet das Patientenwohl und ist auch nicht dadurch zu rechtfertigen, dass schon heute in bestimmten Versorgungsbereichen ein akuter Personalmangel besteht.“
Quelle: Deutsche Ethikrat: “Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz”, 2023
BILDUNG
Für den Bereich der schulische Bildung veröffentlicht der Ethikrat elf Handlungsempfehlungen. „Digitalisierung ist kein Selbstzweck“ schlussfolgern die Autoren und geben an, dass der Einsatz von KI-Lösungen kontrolliert und als ein Teilaspekt eingesetzt werden müsse. Dabei sei jeder Einsatz von Künstlicher Intelligenz in der schulischen Bildung durch Blick auf Chancen und Risiken abzuwägen. Sinnvoll wären bestimmte KI-Tools, die Lehrprozesse ergänzen und Fähigkeiten erweitern würden. Eine Handlungsempfehlung zielt zudem auf die notwendigen Kompetenzen der Lehrkräfte im Umgang mit KI-basierten Lösungen ab. Demnach müssten entsprechende Aus- und Weiterbildungen für die Lehrenden geschaffen werden.
ÖFFENTLICHE KOMMUNIKATION UND MEINUNGSBILDUNG
Für den dritten Bereich – die Öffentliche Kommunikation und Meinungsbildung – legt der Ethikrat zehn Empfehlungen vor. Unter anderem umfassen die Empfehlungen die Regulierung der Sozialen Medien, die im Kontext von KI-basierten Anwendungen rechtliche Vorgaben bedürfen. Auch sollen die Sozialen Medien und ihr Einfluss auf öffentliche Diskurse besser untersucht und wissenschaftlich eingeordnet werden. Darüber hinaus schlägt der Ethikrat vor, dass sogenannte Hinweisfunktionen entwickelt werden, um vor bestimmten Inhalten zu schützen. Abschließend empfehlen die Autor:innen eine öffentlich-rechtliche Alternative zu den privaten Sozialen Medien.
ÖFFENTLICHE VERWALTUNG
Für die Öffentliche Verwaltung leiten die Ethik-Expert:innen neun Empfehlungen ab. Demnach sind u.a., die Transparenz und Nachvollziehbarkeit der KI-basierten Lösungen von großer Bedeutung, um Menschen vor Diskriminierungen zu schützen. Auch im Bereich der öffentlichen Verwaltung müsse sichergestellt werden, dass die Personen, die KI-Anwendungen einsetzen und nutzen auch die dafür notwendigen Kompetenzen besitzen. Zudem sei ein öffentlicher Diskurs sinnvoll, um Arbeitsbereiche zu ermitteln, in denen eine KI-basierte Anwendung überhaupt sinnvoll erscheint.
Quelle: Deutscher Ethikrat: Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz, 2023.
.
ANSPRECHPERSON
Isabell Redelstorff
Mittelstand-Digital Zentrum Magdeburg.
