„Dave, ich fürchte, ich kann das nicht tun.“ Mit diesen Worten weigert sich die KI HAL 9000 in Stanley Kubricks Science-Fiction-Klassiker „2001: Odyssee im Weltraum“ von 1968, die Luftschleuse zu öffnen und versucht stattdessen, die Astronauten zu töten – um die Mission nicht zu gefährden. Was vor über 50 Jahren noch pure Fiktion war, beschäftigt heute Philosophen und Ethiker weltweit: Wer trägt die Verantwortung, wenn Maschinen Entscheidungen treffen? Und können Computer wirklich denken?

Nils Musmann aus Dorsten kennt diese Fragen gut. Er ist in Barkenberg aufgewachsen und schreibt derzeit seine Masterarbeit in Philosophie zum Thema KI, Arbeitswelt und Ethik an der Universität Bonn. Wir haben uns mit dem kritischen Denker über seine Forschung unterhalten.

Von Barkenberg nach Bonn

Geboren in Haltern am See, aufgewachsen in Barkenberg – Nils Musmann ist ein echter Dorstener. Nach seinem Abitur zog es ihn nach Würzburg, wo er Philosophie und Europäische Ethnologie im Bachelor studierte. Heute forscht er in Bonn unter anderem bei den renommierten Professoren Markus Gabriel und Aimee Van Wynsberghe zu einem Thema, das aktueller nicht sein könnte: dem Einfluss künstlicher Intelligenz auf unsere Arbeitswelt und die damit verbundenen ethischen Fragen.

„KI kann nicht denken und KI tut nie das, was ihr wollt“

Musmanns These ist provokant und klar: „KI kann nicht denken und KI tut nie das, was ihr wollt“, erklärt der Philosoph. Für ihn ist es wichtig, zwischen der Idee der Künstlichen Intelligenz und der tatsächlichen Technologie zu unterscheiden. „Was wir heute haben, sind Large Language Models – komplexe Wahrscheinlichkeitsrechnungen, aber keine echte Intelligenz.“

Diese Unterscheidung ist für Musmann zentral. Denn während das Marketing der Tech-Konzerne oft eine allgemeine künstliche Intelligenz (AGI) suggeriert, die alles kann, sind die aktuellen Systeme hochspezialisiert. „Das Marketing nutzt oft die AGI-Idee zur Wertsteigerung“, kritisiert der Dorstener.

Die unsichtbare Arbeit hinter der KI

Besonders interessant ist Musmanns Blick auf die menschliche Arbeit, die hinter KI-Systemen steckt: „Wenn Nutzer am Computer Captchas lösen, kategorisieren sie Daten für KI-Systeme. Es wird nicht überprüft, ob der Nutzer ein Roboter ist, sondern das Dataset für die KI wird trainiert.“

Diese sogenannte „Microwork“ findet oft in schlecht bezahlten Klickfarmen statt, wo Menschen monotone und psychisch belastende Arbeit verrichten. „KI versteckt menschliche Arbeit und macht sie unsichtbar“, so Musmann.

Verantwortung in Zeiten der Automatisierung

Ein zentrales Problem sieht der Philosoph in der Verantwortungsdiffusion: „Da KI keinen freien Willen besitzt, stellt sich die Frage, wer für die Konsequenzen ihrer Handlungen verantwortlich ist.“ Als Beispiel nennt er KI-Waffensysteme, die auf bestimmte Tarnmuster reagieren: „Wenn jedoch gegnerische Soldaten oder sogar Unschuldige diese Muster tragen, kann es zu fatalen Fehlern kommen. Die Verantwortung wird dann oft auf die Maschine geschoben.“

Auch in der Medizin sieht Musmann Risiken: Eine KI zur Krebserkennung erreichte zwar eine Genauigkeit von 95 Prozent, erkannte Krebs aber nicht anhand medizinischer Merkmale, sondern anhand des Alters der Fotografien. „Menschliche Kontrolle bei KI-Diagnosen ist unerlässlich“, warnt er. Doch war dies einer der ersten Versuche durch KI Unregelmäßigkeiten in Fotografien zu erkennen.

Machtverhältnisse am Arbeitsplatz

Historische Beispiele wie der automatische Webstuhl zeigen für Musmann, wie Technologie Machtverhältnisse verändert: „Der Webstuhl ermöglichte die Produktion von mehr Stoffen zu geringeren Kosten, führte aber zu schlechterer Qualität und Entmachtung der Weberinnen.“

Ein kleiner Exkurs in der Geschichte: Die Einführung des mechanischen Webstuhls ab Anfang des 19. Jahrhunderts führte zunächst zu Arbeitslosigkeit und Protesten unter Handwebern, wie etwa 1816, als rund 2000 Weber versuchten, Maschinenwebereien zu zerstören. Fabrikbesitzer reagierten mit Schutzmaßnahmen wie hohen Mauern und sogar Kanonen. Langfristig jedoch sank durch den Einsatz der Maschinen die Produktionskosten, was den Export ankurbelte und mehr industrielle Arbeitsplätze schuf – wenn auch meist schlecht bezahlt. Zwischen 1803 und 1857 stieg die Zahl der mechanischen Webstühle in England von etwa 2.400 auf 250.000.

Ähnlich sieht er die Entwicklung bei KI: „Es ist nicht wichtig, ob die KI das wirklich kann oder nicht. Die Drohung der KI reicht, dass du dir denkst, oh vielleicht können die mich wirklich ersetzen, vielleicht brauche ich doch keine Gehaltserhöhung.“

Flut der Missinformation durch KI

Besonders kritisch sieht Musmann den Einsatz zur Verbreitung von Missinformation: „KI kann riesige Mengen an Inhalten für sehr wenig Geld produzieren. Das Internet wird mit Missinformation geflutet.“ Diese Strategie des „Information Overload“ führe dazu, dass Menschen Schwierigkeiten haben, Fakten von Fiktion zu unterscheiden weil sie einfach mit Informationen überflutet werden.

Fazit: Technik als Werkzeug, nicht als Ersatz

Musmanns Botschaft ist klar: „Technik ist ein Hilfsmittel, aber kein Ersatz für menschliche Beziehungen.“ Der Dorstener Philosoph plädiert für einen bewussten Umgang mit KI – weder naive Technikgläubigkeit noch pauschale Ablehnung, sondern kritische Reflexion und menschliche Kontrolle.

Wenn HAL 9000 heute leben würde, würde er vermutlich zustimmen: Nicht die Maschine trägt die Verantwortung, sondern die Menschen, die sie programmieren und einsetzen. Eine Erkenntnis, die umso wichtiger wird, je mehr KI in unseren Alltag eindringt.

Das Gespräch mit Nils Musmann führten wir in Wulfen. Seine Masterarbeit will er noch dieses Jahr abschließen.