Wie Mythen und Metaphern unser Bild von KI prägen

Künstliche Intelligenz
© Adobe Stock

Alle reden über KI – doch wie sie genau funktioniert, bleibt vielen verborgen. Gerade deshalb gewinnen Metaphern, Mythen und Narrative an Einfluss: Sie machen die Technologie greifbar, können aber auch vereinfachen oder täuschen. Im Interview erklärt KU-Philosoph Norbert Paulo, warum der Blick auf unsere Sprache über KI so wichtig ist und welche Fragen dazu auch beim STS-Talk am 15. Juni diskutiert werden.

Herr Paulo, wenn wir über Künstliche Intelligenz diskutieren, geht es meist um Leistungsfähigkeit, Anwendungen oder Risiken. Sie richten den Blick auf etwas anderes: auf die Sprache, mit der wir über KI sprechen. Warum lohnt sich dieser Perspektivwechsel?

Norbert Paulo: Wenn wir ehrlich sind, haben wir das Problem, dass die meisten von uns KI nicht verstehen. Auf der technischen und mathematischen Ebene ist uns nicht klar, wie sie funktioniert. Wir sind also darauf angewiesen, uns dem Phänomen auf andere Weise anzunähern. Leider kann man KI auch nicht sehen. Wir können uns daher kein Bild von ihr machen. Daher nutzen wir andere kulturelle Techniken des Verstehens, beispielsweise Metaphern, Romane oder Filme. In Ingolstadt greifen wir deshalb auf Frankenstein zurück. Da wir die Technik jedoch nur sehr begrenzt verstehen, sind wir auch anfällig für die Narrative der KI-Industrie.
 

Was sind denn aktuell die häufigsten Metaphern und Narrative, wenn über KI gesprochen wird? Und was sagen Sie über unseren Blick auf die KI aus?

Ein prägnantes Beispiel ist die Rede von der KI als „Black Box“. Damit ist gemeint, dass es prinzipiell unergründlich ist, wie die KI arbeitet. Die KI-Unternehmen erreichen damit, dass KI-Systeme uns geheimnisvoll erscheinen, wodurch wiederum der Eindruck entsteht, die Technologie sei außergewöhnlich und übermenschlich. Jedenfalls schirmt die Rede von der KI als „Black Box“ Kritik sehr effektiv ab. In Wahrheit wissen Entwickler sehr viel über Trainingsdaten, Modellarchitekturen, Optimierungsverfahren und die Einsatzbedingungen von KI-Systemen. Die Behauptung, niemand könne verstehen, wie KI funktioniert, verschleiert die Tatsache, dass die Unternehmen und ihre Entwickler sehr wohl über die Funktionsweise von KI Bescheid wissen. Den Unternehmen dürfte es aber lieber sein, unter Verweis auf die „Black Box” Informationen zurückzuhalten.
 

Prof. Dr. Norbert Paulo
© Christian Klenk Prof. Dr. Norbert Paulo

Wo helfen Metaphern beim Verständnis von KI? Und wo sind sie eher kontraproduktiv, indem sie falsche Vorstellungen vermitteln oder gar Ängste schüren?

Interessant ist die gebräuchlich gewordene Metapher der „neuronalen Netze“ für die Funktionsweise subsymbolischer KI, also für eine Form Künstlicher Intelligenz, die nicht über ausdrücklich formulierte Regeln funktioniert, sondern durch das Lernen aus vielen Beispielen. Ein „neuronales Netz“ lernt beispielsweise, Katzen auf Bildern zu erkennen. Dabei speichert es jedoch keine Regel wie „Wenn ein Bild Schnurrhaare, vier Beine und spitze Ohren zeigt, dann ist es eine Katze“. Stattdessen werden Millionen von Gewichten so angepasst, dass bestimmte Aktivierungsmuster entstehen. Dieses Wissen ist verteilt und nicht als explizite Regel formuliert. Die Metapher ist natürlich an das menschliche Gehirn angelehnt. Das klingt so, als würde diese Metapher eine gewisse Orientierung bieten und aufzeigen, wie KI-Systeme funktionieren. Tatsächlich bezweifle ich aber, dass viele Menschen verstehen, wie das Gehirn funktioniert, wie das menschliche neuronale Netz lernt und wie es zu Entscheidungen führt. Für die meisten ist die Metapher der „neuronalen Netze“ schon deshalb nicht aufschlussreich. Hinzu kommt, dass sich auch die Neurowissenschaft aufgrund der Komplexität des Gehirns sehr schwertut, angemessene Begriffe und Beschreibungen seiner Funktionsweise zu finden. Oft hat man auf Analogien zum Computer zurückgegriffen und Begriffe aus der Informatik und der Informationstheorie genutzt, um das Gehirn zu beschreiben. Und nun nutzen wir diese neurowissenschaftlichen Computeranalogien, um KI zu verstehen – das entbehrt nicht einer gewissen Ironie.
 

Welche Folgen kann es haben, wenn öffentliche Debatten über KI von schiefen oder verkürzten Bildern geprägt sind?

Da es für die meisten von uns sehr schwer ist, KI zu verstehen, die mächtige KI-Industrie aber viel mehr versteht und weiß, als sie uns sagt, besteht die große Gefahr, dass die Öffentlichkeit von wenigen Mächtigen getäuscht werden. Sie müssen lediglich ein paar Metaphern etablieren und Narrative entwickeln, die plausibel klingen.


Beim STS-Talk am 15. Juni wollen Sie mit Gästen über Narrative und Metaphern im Kontext von KI diskutieren. Wenn das Publikum nach dem Abend nur eine Einsicht mitnehmen würde – welche sollte das sein?

Wir wollen darüber sprechen, welche Bilder man sich von KI machen kann, welche Erscheinungsform wir ihr geben sollten und welche Rolle Kunst und Kultur in der Entwicklung und im Verständnis von Technik spielen. Wenn der Abend eine Erkenntnis bringt, dann vielleicht jene, dass KI keine rein mathematisch-technische, sondern eine kulturelle Angelegenheit ist. Gerade weil wir KI nicht sehen und be-"greifen“ können, müssen wir uns ihr kulturell annähern. 

Fragen von Christian Klenk.


6. STS-Talk am 15. Juni

Beim STS-Talk „Mythen, Metaphern, Maschinen: Wie wir über Künstliche Intelligenz sprechen“ am Montag 15. Juni, diskutieren Prof. Dr. Michaela Honauer, KI-Design-Forscherin an der Technischen Hochschule Nürnberg, die Philosophin Leonie Möck von der Universität Wien, die zu KI-Narrativen forscht, Gerfried Stocker, künstlerischer Leiter des Technikkultur-Festivals Ars Electronica in Linz sowie Prof. Dr. Norbert Paulo, Inhaber der Stiftungsprofessur für Philosophie und Ethik der Digitalisierung an der Katholischen Universität Eichstätt-Ingolstadt. Die Veranstaltung ist Teil der Ringvorlesung „Zukünfte erfinden: Von Frankenstein zur Künstlichen Intelligenz“ und findet im Georgianum in Ingolstadt (Hohe-Schul-Straße 5) in Raum GEOG-101 statt. Beginn ist um 16 Uhr. Es besteht die Möglichkeit per Zoom teilzunehmen (Kontakt via frankenstein@ku.de).