Logo Certo
reale und digitale Hand
Foto: Adobe Stock

KI in Krisenzeiten„Jetzt schlägt die Stunde menschlichen Handelns und Entscheidens“

Certo hat schon vor einiger Zeit mit dem KI-Experten Dr. Henning Beck über Möglichkeiten und Grenzen künstlicher Intelligenz gesprochen. Er sagt: Gerade in unvorhersehbaren Zeiten wie der Coronavirus-Krise sollten sich Menschen mehr denn je auf ihren Verstand denn auf Algorithmen verlassen.

Herr Dr. Beck, die künstliche Intelligenz ist perfekt in der Muster­erkennung: Sie wertet Texte und Bilder aus, findet Fehler und Über­ein­stimmungen, liefert aus gigantischen Daten­mengen Entscheidungs­vorlagen. Bei aller vermeintlichen Genialität: Was fehlt ihr, was wir Menschen haben?
Sie erkennt nicht Ursache-Wirkung-Beziehungen, kann Regeln nur befolgen, nicht proaktiv und gestaltend ändern, sie passt sich oft zu sehr an einen Datensatz an und abstrahiert nicht, sie bildet keine Denk­konzepte aus, die sich auf völlig fremde Sach­verhalte über­tragen lassen. Kurz gesagt: Sie versteht nicht, was sie tut. Im Grunde existiert künstliche Intelligenz überhaupt nicht, bloß gute Muster­erkennung und mathematische Modelle.

Dr. Henning Beck

Dr. Henning Beck ist Neuro­wissenschaftler und Deutscher Science-Slam-Meister. Der Autor mehrerer Bücher (u. a. „Das neue Lernen heißt Verstehen“) beschäftigt sich intensiv mit der biologischen Intelligenz – und wo ihre Stärken im Vergleich zur künstlichen Intelligenz liegen.

Foto: Hans Scherhaufer

In welchen konkreten Situationen ist menschliches Denken der Algorithmik über­legen?
Immer dann, wenn wenige Daten vorliegen und Entscheidungen in einem nicht messbaren oder unsicheren Umfeld getroffen werden müssen, sind Menschen besser. Ein tolles Beispiel ist die Partnerwahl: Sie können nicht zwei Millionen potenzielle Partnerinnen und Partner „testen“, bevor sie die richtige oder den richtigen auswählen. Ihre Daten­lage ist also immer schlecht. Und selbst wenn sie heiraten: Wann ist eine Heirat erfolg­reich? Das können sie nicht objektiv messen. Doch wenn es nichts zu messen gibt, gibt es auch nichts zu optimieren. Genau dann stößt eine Optimierungs­maschine – und nichts anderes ist KI – ans Limit.

Eine Stärke der künstlichen Intelligenz ist ihre Schnelligkeit: Lange bevor die Welt­gesund­heits­organisation WHO am 9. Januar 2020 erstmals vom Ausbruch einer grippe­ähnlichen Erkrankung berichtete, hatte die kanadische Gesundheits­plattform BlueDot vor Viren unbekannter Herkunft gewarnt. Dafür verwendete sie einen Algorithmus auf der Basis von künstlicher Intelligenz. Hätte man in diesem Fall besser auf die KI hören sollen?
Anstatt auf eine KI hätte man auch auf den chinesischen Arzt Li Wenliang hören können, der schon Ende Dezember 2019 vor Covid-19 warnte – und zwar ganz ohne KI, sondern bloß mit gesundem Menschen­verstand. Dann wäre man noch ein paar Wochen schneller gewesen. BlueDot ist eine clevere Kombination von Daten­analyse und menschlicher Interpretation. Erst die menschliche Begutachtung von Software-Output ermöglicht es, sinn­volle Entscheidungen zu treffen. So kann ein Computer­system durchaus die mögliche Ausbreitungs­route eines Virus prognostizieren – doch ob das plausibel ist und welche Maßnahmen man ergreifen könnte, müssen Menschen entscheiden. Wenn sie das nicht tun, funktioniert das Computer­system nicht.

Immer dann, wenn wenige Daten vorliegen und Entscheidungen in einem nicht messbaren oder unsicheren Umfeld getroffen werden müssen, sind Menschen besser.

In Zeiten der Coronavirus-Krise suchen Medizin und Forschung weltweit nach raschen Lösungen – sei es durch KI-unter­stützte bild­gebende Verfahren, um die Erkrankung der Lunge fest­zu­stellen, oder durch das KI-basierte Testen der Wirksamkeit von Medikamenten, die sonst bei anderen schweren Erkrankungen zum Einsatz kommen. Bloß fehlen dafür Big Data. Ein Kern­problem der KI, wenn die Zeit der größte Feind ist?
Eigentlich ist dies die große Stärke von KI: per Computer­simulation mögliche Wirkstoffe screenen, mit selbst­lernenden Computer­systemen die Erkennung von Covid-19-Erkrankten verbessern, mögliche Seuchen­verläufe computer­optimiert modellieren. Doch selbst­lernende Computer­systeme haben den Nach­teil, dass sie auf Daten angewiesen sind, die mitunter noch gar nicht vorliegen. Dann schlägt die Stunde des Menschen: anhand von wenigen Daten schwerwiegende Entscheidungen zu treffen und dafür die Verantwortung zu übernehmen.

In kontrollierten Studien etwa zur Wirkung von Medikamenten lässt sich die enorme Hilfe durch KI gut bemessen. Ein Einsatz im Livebetrieb, wie er jetzt nötig wäre, ist dagegen neu. Die Grenzen der glor­reichen Algorithmik scheinen aktuell so sichtbar wie nie …
Viele vermeintliche KI-Systeme sind in der Medizin erst mit großem Getöse ausgerollt und dann still und heimlich wieder eingestellt worden, weil die Maschine doch nicht so gut war wie erhofft. Gerade bei medizinischen Fragen kommt das Problem der Nach­voll­zieh­barkeit hinzu: Ein Analyse­tool gibt einen Output und bewertet eine CT-Aufnahme, doch man erfährt nie, wie und warum sie das tat. Soll man trotzdem ohne plausible Begründung der Maschine darüber entscheiden, ob man eine Chemo­therapie einleitet? Wer übernimmt am Ende die Verantwortung dafür? Will man sich wirklich nur auf die Statistik verlassen? Das fällt Menschen sehr schwer.

Stichwort „Predictive Analytics“ – also die Verwendung von Daten, um zukünftige Ereignisse vorher­zu­sagen – und Muster­erkennung: Ein Großteil des menschlichen Konsums wird von KI-Systemen ausgewertet. Wie hilfreich ist dies in der jetzigen Situation, in der Menschen bedingt durch die Coronavirus-Pandemie anders handeln als gewohnt?
„Predictive Analytics“ schaut immer nur zurück, doch wirklich „vorher­sagend“, wie es der Name nahelegt, war diese Technik nie. Beispiel: Weil ein Großteil des menschlichen Konsums von Computer­systemen ausgewertet wird und die Liefer­ketten entsprechend optimiert werden, fehlte zu Beginn des ersten Lockdowns das Klopapier. Hätte man sich proaktiv überlegt, wie sich Menschen in Krisen­situationen verhalten, hätte man das schon weitaus früher antizipieren können – und dann viel Geld gemacht. Dazu muss man aber als Mensch denken, nicht als Maschine. Ein Discounter hat das übrigens mal getan, als er sich über­legte, dass eine Grippe­saison auf dem Höhe­punkt vermutlich ein guter Zeitpunkt für Desinfektions­mittel sei. Timing ist alles, gerade in der Wirtschaft.

Sie meinen also: Jetzt zählen Small-Data- und nicht Big-Data-Entscheidungen?
Definitiv. Denn zum einen gibt es in vielen Bereichen nicht genügend Datenmaterial. Zum anderen steigt mit zunehmender Datenmenge auch der Energie­bedarf exponentiell an. In den letzten Jahren verdoppelte sich der Energie­umsatz der besten KI-Systeme alle vier Monate. So frisst künstliche Intelligenz ihre eigene Entwicklung auf und wird in dieser Form bald in einer Sackgasse enden. Statt unseren Hunger auf Daten­mengen zu vergrößern, sollten wir erkennen, wie wir auch in unsicherem Umfeld clever entscheiden. Wir erleben in dieser epochalen Zeit das Ende vieler Regeln, wie wir sie kannten. Noch vor einem Jahr war dieses Land ein anderes. Jetzt schlägt die Stunde menschlichen Handelns und Entscheidens. Es entscheidet über Erfolg oder Nieder­gang einer ganzen Gesellschaft. In solchen Momenten brauchen wir mutige, visionäre, proaktive, unternehmerische Entscheidungen. Wir ändern die Regeln, stellen neue auf, erkennen, was sinnvolles Handeln ist, passen uns schnell an. All das kann KI in einer wandelbaren Zeit wie jetzt nicht, sie ist in vielerlei Hinsicht praktisch nutzlos.

Veröffentlicht am

Das könnte Sie auch interessieren

Certo durchsuchen...