Die TRANSFER im Gespräch mit KI-Experte Carsten Ullrich, Professor an der Steinbeis-Hochschule
Standpunkte zur künstlichen Intelligenz scheint es nur in Extremen zu geben, gemäßigte Sichtweisen zu finden ist schwierig: Die einen sehen sie als das Allheilmittel des 21. Jahrhunderts, die die natürliche menschliche Intelligenz in den kommenden Jahrzehnten überholen wird. Die anderen sehen in ihr die Büchse der Pandora, deren Beherrschung wir längst verloren haben, ohne dass es uns bewusst ist. Dass ein Abwägen von Chancen und Risiken möglich ist, zeigt Professor Dr.-Ing. Carsten Ullrich im Gespräch mit der TRANSFER. Er ist KI-Experte bei CENTOGENE, einem Unternehmen für Diagnose und Therapieentwicklung für seltene Krankheiten, und lehrt an der Steinbeis-Hochschule. Carsten Ullrich macht deutlich, wie hilfreich der Einsatz der KI in vielen Bereichen ist, zeigt aber auch noch klar vorhandene Grenzen auf.
Herr Professor Ullrich, Sie beschäftigen sich seit mehr als 15 Jahren mit dem Thema der künstlichen Intelligenz: Welche Entwicklungen auf diesem Gebiet würden Sie als Meilensteine bezeichnen?
Meilensteine gibt es viele, man könnte bis auf Leibniz zurückgehen, als zum ersten Mal realisiert wurde, dass man mit Maschinen nicht nur numerisch rechnen, sondern auch Logik oder Denkprozesse formalisieren kann. In den 40er-, 50er-Jahren des letzten Jahrhunderts, als die ersten Computer aufkamen, die semi-elektrisch Berechnungen mit Zahlen durchführten, erkannten fähige Köpfe: Vielleicht kann man damit sehr viel mehr machen. Gerade in dieser Frühzeit der KI wurden schon sehr schnell sehr beeindruckende Ergebnisse erzeugt: KI-Programme, die mathematische Beweise führen konnten, erste Übersetzungsprogramme und das alles in den 1960ern, wo es noch gar keine Rechner im heutigen Sinne gab.
Seitdem werden immer wieder neue Möglichkeiten umgesetzt, Dinge vom Computer berechnen zu lassen, ihn zu intelligentem Verhalten zu bringen. In den letzten Jahren wurden die Verfahren des maschinellen Lernens noch einmal wesentlich besser: Bedingt durch die dank des Internets zur Verfügung stehenden massenhaften Daten, aber auch durch die Fähigkeiten, massive parallele Berechnungen durchführen zu können. Damit konnte man diese Algorithmen auf den riesigen Datenmengen laufen und die Muster daraus erkennen lassen.
Auch die letzten 15 Jahre hatten zahlreiche Meilensteine. Nehmen Sie das Spiel GO, das Computer besser spielen als jeder Mensch – vor fünf Jahren noch eigentlich nicht denkbar. Oder die erst vor Kurzem von der Google Tochter AlphaFold vorgelegte Proteinberechnung. Das war ein Problem, das lange Zeit als ungelöst galt. Die Faltung von allen bekannten Proteinen ist nicht nur ein Meilenstein der KI, sondern auch im entsprechenden Gebiet, hier der Life Sciences. Das Problem bei allen Meilensteinen: Sobald sie erreicht werden, hält man das nicht mehr für KI, sondern für Standard. Und so wird die Latte dann permanent höher gelegt.
Sie sind Professor für künstliche Intelligenz an der Steinbeis-Hochschule. Was sind hier Ihre Schwerpunkte?
Ich war in meiner beruflichen Laufbahn immer im Bereich der KI-Anwendung tätig und mir ging es dabei immer um die Frage: Wie kann ich KI nutzen, um dem Menschen Dinge leichter zu machen? Dabei ging es mir in meinen ersten Arbeiten zu adaptiven Lernsystemen für Schüler und Studenten unter Nutzung der KI-Verfahren, dabei ging es mir bei meinen Tätigkeiten in Shanghai mit KI in der Fernlehre. Und auch bei meiner Tätigkeit am Deutschen Forschungszentrum für Künstliche Intelligenz habe ich Assistenzsysteme für die Industrie 4.0 entwickelt, um Arbeitern in den Umgebungen dort Hilfestellung zu bieten. Dieses Thema führe ich nun auch bei Steinbeis weiter. Meine zentrale Leitfrage ist: Wo kann KI in die Anwendung gebracht werden, damit die Menschen bei ihren Tätigkeiten unterstützt werden, monotone Arbeiten automatisiert werden können und man mehr Zeit hat, sich auf die wichtigen Dinge zu konzentrieren. Das geht über die Algorithmen hinaus. Denn wenn ich ein technisches System in eine Organisation bringe, stellt sich auch die Frage, wie man das am besten macht. Eigentlich muss man die KI-Systeme mit den Mitarbeitern zusammen entwickeln, um auf die Ängste und Erwartungen eingehen zu können. Erst dann wird man fähig sein, KI erfolgreich in die Anwendung zu bringen. Man will ja nicht KI um der KI selbst willen platzieren, sondern den Geschäftsprozess verbessern oder verändern.
Welche Möglichkeiten bietet KI den Unternehmen, aber auch der Gesellschaft und welche Risiken bringt sie mit sich?
Mir geht es zentral immer darum, wie ich eine neue Technologie einsetze und was ich mit ihr erreichen möchte. Für mich soll KI für den Menschen Erleichterung bringen oder seine Handlungsspielräume erweitern. Hier hat KI ein enormes Potenzial, vergleichbar mit den Auswirkungen früherer industrieller Revolutionen, und das ist das Potenzial, das es zu heben gilt.
Natürlich bringt jede Technologie gewisse Risiken mit sich. Die Bedenken, die man immer wieder hört, sind, dass Technologien weniger menschliche Tätigkeiten erforderlich machen und die Handlungsspielräume immer weiter eingeschränkt werden. Aber letztendlich geht es darum, wie man das Gesamtsystem gestaltet. Ich kann eine KI bauen, die mir den optimalen Belegungsplan für ein Hospital berechnet. Dabei stellt sich aber sofort die Frage: Was ist denn optimal? Definiere ich als „optimal“, dass jeder Patient möglichst schnell einen Pfleger hat, der sich viel um ihn kümmern kann? Oder definiere ich „optimal“ als die Mindestanzahl an Mitarbeitern, die ich brauche, um die Mindestanzahl an Pflegestunden durchführen zu können? Hier gibt es immer eine Zielsetzung für ein KI-System und die kommt nicht von dem System selbst, sondern von dem Menschen, der ein KI-System in die Anwendung bringt. Die KI berechnet dann für die gegebene Zielsetzung die beste Lösung, aber sie hat selbst keine Ethik: Die kommt von außen. Natürlich besteht die Gefahr, dass Zielsetzungen durch eine KI realisiert werden, die sich nicht mit dem Allgemeinwohl decken. Aber das ist ein Risiko, das in jeder Technologieanwendung, auch in der normalen Automatisierung, steckt. KI löst ein spezifisches Problem auf quasi übermenschliche Art und Weise, schneller, genauer. Aber sie löst genau das Problem, das von den Menschen definiert wurde. Dessen muss man sich immer bewusst sein.
Nicht wenige stehen dem breiten Einsatz von KI-Anwendungen skeptisch gegenüber, wie berechtigt ist Ihrer Meinung nach diese Haltung? Wie kann man dieser Skepsis entgegenwirken?
Es ist aus meiner Sicht notwendig, das Wissen über KI in der Gesellschaft zu verbessern. Wir müssen den Leuten klar machen, dass nicht die KI die beste Lösung definiert, sondern die beste Lösung von Menschen vorgegeben wird. Eine KI wird nie selbstständig entscheiden, Zehntausende von Arbeitsplätzen zu rationalisieren, diese Entscheidung kommt immer von außen. Eine KI wird für ein gewisses Ziel entwickelt und für dieses Ziel eingesetzt. Und das muss eben auch unseren Wertvorstellungen entsprechen.
Wenn ich in Unternehmen KI-Systeme in die Anwendung bringen möchte, dann ist es für die Akzeptanz außerdem wichtig, dass ich von Anfang an die späteren Nutzer des Tools in den Entwicklungsprozess miteinbeziehe: dass man sich deren Ängste anhört, deren Befürchtungen, aber auch deren Erwartungen. Die Erwartungen können manchmal viel zu hoch sein, dann muss man das im Dialog miteinander klären. Und dann muss man auch die spezifischen Ängste ansprechen und zeigen, wie das System diesen Ängsten vorbeugt. Wenn eine bestimmte Befürchtung besteht, kann man das Gesamtsystem so ausrichten, dass diese Befürchtung entkräftet wird. Außerdem kann man KI-Systeme so bauen, dass sie neue Möglichkeiten und Handlungsspielräume für Mitarbeiter eröffnen. Das ist nicht einfach, erfordert auch viel Diskussion mit sämtlichen Gruppen, die das KI-System nutzen. Aber nur so ist es meines Erachtens möglich, KI oder Technologie im Allgemeinen auch in die Anwendung zu bringen.
Neben Ihrer Tätigkeit an der Steinbeis-Hochschule setzen Sie als Senior Director Artificial Intelligence bei der CENTOGENE GmbH KI-Methoden für die Diagnostik und Therapieentwicklung von seltenen Krankheiten ein: Wo liegen hier die Vorteile der KI und welche Hürden gilt es noch zu überwinden?
Heute dauert es im Durchschnitt mehr als acht Jahre bis jemand, der an einer seltenen Erkrankung leidet, korrekt diagnostiziert wird. Acht Jahre einer Odyssee, wo der Patient von Arzt zu Arzt geht, weil keiner die Symptome interpretieren kann. Wenn ein Arzt hier die Möglichkeit hat uns als Unternehmen eine Blutprobe zu schicken und zwei Wochen später die Diagnose zurückbekommt, ist das enorm hilfreich. Wir analysieren die Blutprobe und informieren den Arzt über eine gefundene Mutation und damit eine erkannte oder auch ausgeschlossene seltene Krankheit. Über das weitere Vorgehen entscheidet dann der Arzt, der von uns auch die Information bekommt, wie wir an die Diagnose gekommen sind: Welche Variante, welche Mutation identifiziert wurde und welche Forschungsartikel relevant sind. So kann der Arzt unsere Diagnose nachvollziehen. Für die schnelle Verbesserung der Diagnoseprozesse setzen wir KI ein. Das fängt mit solch trivialen Punkten an, dass uns die meisten Ärzte die Patientenakten noch auf Papier schicken und wir sie scannen. Dann analysieren wir die Wörter hinter den Buchstaben – häufig bei handschriftlichem Text, für dessen Digitalisierung setzen wir eine KI-Anwendung ein. Eine weitere Anwendung versucht im gescannten Text einzelne zentrale Inhalte, wie den Patientennamen oder die Symptome, zu erkennen und mit Vorschlägen den manuellen Prozess der Dateneingabe durch unsere Mitarbeiter zu vereinfachen.
Noch spannender ist der KI-Einsatz bei den Daten, die wir über die Jahre bei CENTOGENE sammeln durften. Viele unserer Kunden stimmen zu, dass wir die Daten über die Diagnose hinaus auswerten dürfen, weil wir nur so Fortschritte in der Entwicklung von neuen Diagnosemöglichkeiten und Medikamenten machen können. Wir konnten seit 2007 Daten zu ungefähr 600.000 Patienten mit seltenen Erkrankungen sammeln. Wir setzen bei CENTOGENE verschiedenste KI-Methoden ein, alle mit dem Ziel, die Diagnose zu verbessern oder in der Zukunft neue Therapien zu ermöglichen. Und das ist eigentlich ein Traumberuf: Man kann das, was man so liebt – die KI – mit der Möglichkeit verbinden, Menschen zu helfen.
Und sehr viel Freude bereitet es, wenn die Innovationen, die wir interdisziplinär umsetzen, ausgezeichnet werden. So haben wir vor ein paar Wochen für eine KI-basierte Plattform zur Untersuchung des Metaboloms, das heißt, des Stoffwechsels, den Health-i Award verliehen bekommen, einen Preis des Handelsblatts und der Techniker Krankenkasse für Innovation. Mit der Plattform konnten wir die Suche nach Biomarkern von Monaten auf Tage verkürzen – ein hervorragendes Beispiel dafür, welche Disruption KI auslösen kann.
Datenschutz spielt bei uns die größte Rolle und stellt gleichzeitig eine der Hürden in unserem Bereich dar. Je nachdem, welche Art von Freigabe der Datennutzung der Patient gibt, können wir manche Daten nutzen und manche eben nicht. Das steht grundsätzlich vor jedem anderen Prozess. Je mehr Daten man hat, desto stabilere Ergebnisse findet man. Daher ist die Möglichkeit Daten zu nutzen für uns von extrem wichtigem Belang. Ich unterhielt mich neulich mit einer Unternehmenspartnerin, die sagte: „Datenschutz ist für Gesunde.“ Das ist zwar sehr überspitzt, trifft aber meines Erachtens den Kern. Wenn mein Kind an einer seltenen Krankheit leidet und man ist zu keiner Diagnose fähig oder es gibt keine Therapie, dann ist man über jede Datenspende dankbar, die es erlaubt ein Medikament zu entwickeln. Deswegen ist meine Bitte an jeden nochmals darüber nachzudenken, seine Daten für die Entwicklung im medizinischen Bereich freizugeben. Zentral ist doch, dass neue Behandlungs- und Diagnosemöglichkeiten entstehen. Die momentanen Hürden bei der Datennutzung verlangsamen letztendlich gewisse Prozesse massivst. Aber wenn es um Menschenleben geht, finde ich, muss man gucken, was die höchste Priorität hat. Wir haben von vielen seltenen Krankheiten ein oder zwei Patienten und das ist natürlich extrem wenig. Dieses Problem stellt uns tagtäglich vor Herausforderungen.
Daneben ist auch die starke Reglementierung im Medizinbereich sehr fordernd. Natürlich hat das alles seinen Sinn, aber die Notwendigkeit des Umfangs der Formalitäten für die Anerkennung eines Medizinprodukts ist für mich teilweise fraglich. Wenn ich mir darüber hinaus die Ideen der EU zur Reglementierung von KI-Systemen ansehe, sehe ich einen deutlichen Wettbewerbsnachteil gegenüber China und den USA. Dabei stellt sich für mich dann doch die Frage nach dem Ziel. Die Berücksichtigung gesellschaftlicher Aspekte ist sicherlich wichtig, aber wie lassen sich die anderen Ziele dazu dann bewerten und welchen Fokus setzt man?
Zum Schluss brennt uns natürlich die eine Frage, die in der Wissenschaft harmlos mit „Singularität“ beschrieben wird, auf der Zunge: Glauben Sie, dass die künstliche die menschliche Intelligenz überholen wird?
Die Gefahr sehe ich nicht, lassen Sie mich versuchen zu erklären, warum. Was ist heute mit KI möglich? Wenn ich ein Problem gut genug spezifisch zuschneide, kann ich eine KI bauen, die besser ist als jeder Mensch. Ich hatte vorhin das Beispiel des GO-Spiels erwähnt. Das Problem ist, dass ich als Mensch immer den Maßstab der menschlichen Intelligenz nehme und damit KI-Systeme bewerte. Diese Sicht der menschlichen Intelligenz projiziere ich auf eine künstliche Intelligenz. Gehen wir nochmals zurück zum GO-Spiel, das die KI momentan besser spielt als der Mensch, und erweitern wir das GO-Brett von 19 x 19 auf 20 x 20 Felder. Der Mensch kommt damit natürlich klar, er kann seine Kompetenzen auf die veränderten Bedingungen anpassen. Die KI hingegen schlägt fehl. Sie muss sich komplett neu trainieren, weil sie nur dieses eine, ganz spezifische Problem lösen kann. Und das ist mit jeder KI-Lösung so. Eine KI-Lösung kann nur Probleme in dem Rahmen lösen, der von den Menschen gegeben wurde. Und sie kann diesen Rahmen nicht selbstständig erweitern. Wir als Menschen setzen uns ständig neue Ziele und probieren uns dahin zu entwickeln. KI ist ein Algorithmus, der programmiert wurde, und in dem Rahmen bewegt sie sich. Aber eine KI kommt nie auf die Idee, ihren Algorithmus zu erweitern. Und bisher gibt es keine Ansätze in der Forschung zur Intelligenz, wie man das prinzipiell lösen kann. Wenn man das einmal verstanden hat, sieht man, wieviel Zukunftsmusik auch in den Medien über die KI verbreitet wird. KI ist trotz übermenschlicher Leistungen im Vergleich zur natürlichen Intelligenz sehr eingeschränkt.
Kontakt
Prof. Dr.-Ing. Carsten Ullrich (Interviewpartner)
Professor für künstliche Intelligenz an der Steinbeis-Hochschule (Berlin)
www.steinbeis-hochschule.de
Senior Director Artificial Intelligence
CENTOGENE GmbH (Rostock)