Debatte

Über die Chancen und Risiken von KI

Sie ist in aller Munde und wird künftig viele Bereiche des Lebens prägen: die künstliche Intelligenz (KI). Seit dem Bekanntwerden und der kostenlosen Nutzungsmöglichkeit des Chatbots ChatGPT ist das Thema vielen ein Begriff – doch nur wenige kennen sich wirklich aus. In den Debatten und der Berichterstattung über KI ist eine große Bandbreite von Botschaften zu hören und lesen: von Fantasien, dass künstliche Intelligenz der Menschheit viele lästige Arbeiten abnehmen und Freiräume schaffen kann, bis hin zu Untergangsszenarien, in denen KI-gesteuerte Roboter die Weltherrschaft übernehmen.

Sinnvoller, als sich in derartigen Gedankenspielen zu verlieren, ist es jedoch, genau hinzuschauen, wo und wie KI bereits jetzt in einzelnen Fachbereichen zum Einsatz kommt und wie wir dazu stehen. Wir haben daher vier Fachleute gefragt: Wo freuen Sie sich auf den Einsatz von KI? Und wo sehen Sie der Entwicklung mit Sorge entgegen?

„Im Vergleich zu bisherigen technologischen Entwicklungen verändert sich durch künstliche Intelligenz unser Zusammenleben nicht nur in einer bis dato nicht dagewesenen Geschwindigkeit, sondern auch in einer völlig anderen Dimension: Während im Zuge der Industriellen Revolution vor allem mechanische Kräfte des Menschen ersetzt wurden, werden durch künstliche Intelligenz auch kognitive Fähigkeiten übernommen. Dies bietet uns die Chance, uns von langweiligen, lästigen oder nicht erfüllenden Tätigkeiten wie etwa stumpfen Büroroutinen zu entlasten. Durch das frei gewordene Potenzial können wir uns wieder den ganz spezifisch menschlichen Tätigkeiten zuwenden: kreatives Schaffen, menschliche Nähe und Zuwendung wie etwa in der Pflege oder in der Bildung.

Neben diesem erfreulichen Potenzial drohen aber auch Risiken, die unser Glück und unsere Unabhängigkeit gefährden können. Wenn wir immer mehr kognitive und zwischenmenschliche Tätigkeiten an eine KI übertragen, laden wir damit nicht nur Arbeit an diese ab, sondern auch die Möglichkeit und Notwendigkeit, unsere spezifisch menschlichen Fähigkeiten zu entfalten. Zentral für ein glückliches Leben ist aber, dass wir Menschen all unsere Fähigkeiten vernünftig, bestmöglich und universal entfalten. Tun wir das nicht, so droht uns ein Leben in Abhängigkeit – von Technik oder auch von autoritären Mächten. Um diese Gefahr zu bannen, sollte KI uns bei der Entfaltung unserer Fähigkeiten helfen und uns nicht hemmen.“

„KI kann immer dann wunderbar helfen, wenn viele Daten vorliegen und man über deren Zusammenhänge wenig weiß. Hier ermöglichen die Algorithmen, uns auf mögliche Zusammenhänge hinzuweisen, die wir als Menschen in einem großen Datenmeer nicht sehen. Wo viele Texte, viele Pixel, viel Sprache neu gruppiert werden soll – sei es in juristischen oder kreativen Prozessen, im medizinischen oder wissenschaftlichen Umfeld –, kann KI uns unterstutzen. Nicht zuletzt ließe sich KI gut einsetzen, um Abweichungen in technischen Prozessen frühzeitig zu erkennen, beispielsweise um Cyberrisiken frühzeitig aufzuspüren oder um den Energieverbrauch gezielter steuern zu können.

KI ist aber nur so gut und so präzise, wie die zugrundeliegenden Daten (in Masse und Qualität) und die Güte der Lernprozesse es zulassen. Und KI wird im Zeitverlauf nicht immer besser, sie kann aus unterschiedlichen Gründen auch wieder schlechter werden, das heißt unpräziser in ihren Prognosen. KI kann nur halbwegs solide funktionieren bei exorbitant großen Datenmengen – diese sind oft überhaupt nicht verfügbar. Da KI immer nur Prognosen mit einer oft nicht mal bekannten Aussagewahrscheinlichkeit macht, ist nie gesichert, ob das Ergebnis korrekt ist. Eines der größten Probleme aber ist der ökologische Fußabdruck: Der Ressourcenverbrauch an Energie und Wasser ist unvorstellbar groß: Der CO₂-Fußabdruck allein eines halbwegs ordentlichen Lernprozesses ist größer als der für die Produktion und gesamte Lebensdauer mehrerer Verbrenner-Autos.“

„Der Einsatz von intelligenten Systemen ist in der Pflege längst keine Zukunftsmusik mehr. Um eine gute und bezahlbare Pflegeversorgung sicherzustellen, wird die künstliche Intelligenz zukünftig die Mitarbeitenden entlasten – allein aufgrund des Personalmangels und der demografischen Entwicklung in Bayern. Schon heute wird das Personal durch den Einsatz von Servicerobotern bei körperlich anstrengenden Arbeiten unterstützt. In den kommenden Jahren ist mit einer erheblichen Ausweitung der eingesetzten Technik und Robotik zu rechnen, die Systeme werden selbstständiger und flexibler in der Anwendung. Durch die Digitalisierung der Medizin, des Gesundheitswesens und der sozialen Arbeit haben sich darüber hinaus zahlreiche Anwendungsmöglichkeiten für den Einsatz von künstlicher Intelligenz ergeben. Von intelligenten Spracherkennungssystemen, die Dokumentationsprozesse erleichtern, über die optimierte Behandlungsplanung bis zu automatisierten Touren: In vielen Bereichen werden KI-gestützte Programme Hintergrundarbeiten beschleunigen.

Der Einsatz von künstlicher Intelligenz ist nicht mehr wegzudenken, aber die Musik machen immer noch unsere Mitarbeitenden selbst. Der persönliche Kontakt mit unseren Bewohnern ist für uns als Caritas ein elementarer Bestandteil der konsequenten Bewohnerorientierung. Robotik und künstliche Intelligenz können im Hintergrund wirken, ersetzen aber nicht die emotionale Ebene und den persönlichen Kontakt. Zu jedem Zeitpunkt ist transparent zu machen, wo und wie künstliche Intelligenz eingesetzt wird, damit klar ist, wo sie den Willen des Menschen beeinflusst.“

„Ich würde Ihre Frage gerne zum Anlass nehmen, darüber nachzudenken, ob das überhaupt die richtige Frage ist. Mache ich meine Freude stark, dann gerate ich schnell unter Verdacht, eine naive Technikgläubige zu sein. Runzle ich sorgenvoll die Stirn, eilt mir der Ruf der ewigen Bedenkenträgerin voraus. Und in der Zwischenzeit entwickeln – meist amerikanische oder chinesische – Tech-Konzerne Anwendungen nach dem Prinzip „Anything goes“, die wir dann mit europäischer Gesetzgebung mühsam zu regulieren versuchen. Viel spannender, als uns in der ewigen Schleife von Utopie und Dystopie zu bewegen, finde ich die Frage, wie wir diese Technologien und ihre Entwicklung gestalten.

Welches Menschenbild steckt dahinter? Welche ethischen Standards etablieren wir bereits bei Konzeption und Programmierung? Folgen wir dem Prinzip „Ethics by Design“ (hierbei werden ethische Maßstäbe bereits zu Beginn der technischen Entwicklung von Anwendungen oder Geschäftsprozessen mitgedacht) oder lassen wir zu, dass die Daten, mit denen die KI trainiert wird, Diskriminierungen verstärkt? Gibt es einen interdisziplinären Innovationsmarkt für KI-Entwicklung in Europa? Wofür wird die KI eingesetzt und wie unterstützen wir Menschen allen Alters darin, souverän mit technologischen Entwicklungen umzugehen? Gerade wenn es um die Frage von Kompetenzen geht, konnten wir mit Studien zeigen, dass sich in der Bevölkerung nur wenige als Expertinnen oder Experten im Hinblick auf Einsatzbereiche, Problemstellungen und Chancen von KI einschätzen. Hier liegt also ein weites Feld vor uns, das wir angehen sollten. Und darauf freue ich mich!“