Ein seltsames Menschbild
Künstliche Intelligenz und der DAU

DAU = Dümmster Anzunehmender User (a la GAU) … Der Schatten der Technik ist das, was gefährlich ist und nicht dazugehören darf. Das ist vor allem das Menschenbild. Künstliche Intelligenz (KI), eine Stufe der Technik, muss in unser Menschenbild passen. Passt das?

 

Immer wenn ich mit dem PC nicht zurechtkam – und das war sehr oft so – rief ich einen Mitarbeiter zu Hilfe. Und er bezeichnete mich einmal scherzhaft als DAU. Da hatte ich mein Fett weg. Den Ausdruck vergesse ich nie. Vor kurzem las ich die Kritik eines US-Krimis von Margaret Millar aus den 50er Jahren. Das Buch, wenn auch sehr psychologisch und stilistisch gut, mache große Schwierigkeiten, so meinte der Rezensent, wegen der Behandlung der Fälle ohne Handy, das wirke heute unverständlich. Vom Handy zur KI! In ein paar Jahren wäre ein gutes Buch, in dem KI nicht vorkommt, irrelevant. Ein Buch für mich, den DAU, oder?

 

Cartoon von Jan Tomaschoff www.humorverwaltung.de mit seiner Erlaubnis, gescannt aus der philosophischen Zeitschrift "Der blaue Reiter" von S. Reusch

Cartoon von Jan Tomaschoff www.humorverwaltung.de mit seiner Erlaubnis, gescannt aus der philosophischen Zeitschrift „Der blaue Reiter“ von S. Reusch

Wer die digitalen Zusammenhänge der Technik nicht versteht, gehört eher ins Kuriositätenkabinett, auf jeden Fall nicht in „unsere“ digitale Welt. Er ist eine Mischung aus unbewusstem Verweigerer und Auslaufmodell, also ein DAU, schrullig und Technik-Depp. Seltsam. Deppen von seinem Schlag übernehmen die Verantwortung für unsere von Technik geprägte Welt. Wieso Depp? Sogar die Politik – der Computer Chaos Club hält viele ihrer Vertreter für DAUs – bastelt an einer Welt mit digital getunten Bedingungen, versteht sie aber kaum. Passt die Zukunft dieser „schönen neuen Welt“ (Aldous Huxley) in unser Menschenbild?

Einerseits ja, andererseits nein. Etwa Gebrauchsanleitungen für kompliziertere Geräte sind so kompliziert geschrieben, dass einem der Kopf – und vielleicht später auch das Gerät – raucht. KI ist mehr als nur kompliziert, und doch sollten wir Bürger mitentscheiden, wieviel davon, wo und mit welchen Risiken es so etwas geben sollte. Schaffen wir das wirklich? Oder nur die Experten? Dann wird aus Demokratie eine Expertokratie, oder?

Was ist eigentlich ein Menschenbild? Es wird tausendfach benützt, fast könnte man sagen abgenützt. Es ist schlicht und einfach, das, was einem vor Augen schwebt, wenn man den Ausdruck „Mensch“ gebraucht. Beispiel: Was fällt einem ein, wenn man sagt: „Ein Computer ist auch nur ein Mensch“? Oder: Menschen haben Rechte? Testen wir diesen Begriff.

Künstliche Intelligenz umfasst – was Techniker schon lange erträumt haben – Systeme und Geräte, die nicht nur durch Informatik optimiert werden, sondern deren Erfahrungen in die praktische Anwendung umgesetzt werden. Es wäre doch schön, wenn mein PC das Wort „Querzeit“ endlich (100mal geschrieben) als richtig erkennt und nicht als Fehler unterschlängelt. Wichtige Beispiele sind:

  • Roboter in der industriellen Produktion
  • Chirurgische Geräte für Diagnose- und Operationsunterstützung
  • Technische Hilfe in der Krankenpflege
  • Autonome Fahrzeuge
  • Sprachassistenten wie Alexa (von Amazon), Siri, Cortana, Google Assistant, Bixby und andere, die ausgesprochene Wünsche speichern und ausführen. (Zur Zeit Diskussion über internationalen Datenschutz)
  • Militärische Nutzung für die automatische Steuerung von Geschützen, Drohnen, Kampffliegern, Raketen usw.
  • Erlernen ausgefallener – z.B. nach Schlaganfall – Fähigkeiten wie Sprache oder Bewegung durch Chips (brain-computer[machine]-interface)

Technik soll die menschliche Arbeit verbessern, d.h. leichter machen, aber auch optimieren. Dazu gehört Dreierlei: 1) die Unterschiede und Besonderheiten von natürlicher und künstlicher Intelligenz verstehen, 2) die Ziele der Verbesserung sowie die dazu notwendigen Zwischenziele kennen als auch rechtfertigen können und 3) planen, ob die Technik mitsamt verbesserter digitaler Aufrüstung diese Ziele erreichen kann. Würde ein DAU solche Ziele verstehen oder sogar unterstützen?

Stanislaw Lem war (2006 gestorben) ein polnischer Philosoph und (!) Science-Fiction-Autor. Eines seiner nicht-philosophischen Bücher ist „Der Unbesiegbare“ 1967 in dt. Übersetzung. Es erzählt von einem schwerbewaffneten Raumkreuzer auf dem Flug zum Planeten Regis III. Dort wird ein kürzlich ausgesandtes Raumschiff bei seiner Suche nach Zeichen des Lebens vermisst. Die Besatzung findet es zerstört und wird dabei von einem Schwarm intelligenter künstlicher Insekten angegriffen.

Versuche, den Insektenschwarm zu besiegen, scheitern trotz hervorragender Ausrüstung. Der neue Kommandant des Raumschiffs – der alte gibt auf – hat ebenfalls keinen Erfolg. Das unbesiegbare, einmalig gut ausgerüstete Raumschiff, wurde von der KI besiegt, weil die Insekten das Flugobjekt lahmlegten. KI besiegt KI? War ein möglicher Grund für diesen bedrohlichen Angriff, dass die KI der Insekten über Jahrmillionen eine „Evolution selbstorganisierter Maschinen“ durchgemacht hat und die künstlichen Insekten dann eine Art Leben geworden sind? Muss man, so verstehe ich Lem, mit KI leben?

Was ist Leben überhaupt? Lems Science-Fiction war vom Philosophen Aristoteles gar nicht so weit entfernt. Beide meinen: „Lebewesen […] werden nicht gemacht, sondern wachsen aus sich selbst und haben keinen ihnen äußeren Zweck, sondern sind Selbstzweck“ (M.G. Weiß). Ich war beinahe böse, als ich merkte, dass mein Auto cleverer war als ich (aber das war der Autobauer). Leben ist deswegen noch lange nicht identisch mit den Funktionen, die früher Menschen übernommen haben.

Geräte mit KI sind eher keine Lebewesen, weil sie kein Selbstzweck sind. Sie optimieren Fähigkeiten, indem sie die ständig verbessern. Wer trägt eigentlich die Verantwortung, wenn ein automatisch gesteuertes Auto einen Radfahrer überfährt, um dem entgegenkommenden Auto auszuweichen? Der Programmierer? Verantwor­tung tragen bedeutet, eine Herausforderung erkennen und darauf Antwort geben

In der Debatte über solche Probleme – sollte es überhaupt eine Debatte geben – werden meist wirtschaftliche Ziele genannt, Gewinn an Humanität spielt keine Rolle. Stimmt da etwas nicht, die Zielsetzungen beispielsweise? Sind die „unser“ Problem? Folgende Elemente des Menschenbildes sind gemeint:

 

Das Fundament der KI

Selbst wenn es simpel klingt: Fundament der KI ist das gefährdete Vertrauen.

Wenn unsere Welt auf Technisierung baut, gefährdet sie das Fundament des Vertrauens. Der Soziologe Niklas Luhmann definierte Vertrauen als ein Medium, das Unverständnis in komplexen Situationen reduziert. Je mehr Technik, desto mehr Komplexitäts- und Fremdheitserleben, es sei denn, man verstünde diese moderne Welt. Komplexitäts- und Fremdheitserleben führen zu Fehlern – wie etwa zu den wiederholten Abstürzen der Boeing 737 MAX 8 (so heißt der Flugzeugtyp). Die sind

  • skill-based (z.B. fehlende Praxiserfahrung),
  • rule-based (z.B. Regeln bei Auftreten [seltener] Probleme) und/oder
  • knowledge-based (fehlender Durchblick).

Soziologisch gesehen könnte und müsste man das spezifizieren. Aber vor lauter Technikgläubigkeit vergessen wir gern, dass nur Vertrauen das Komplexitäts- und Fremdheitserleben reduziert. Boeing versichert, dass KI eingebaut ist. Aber weiß er, dass die Piloten in der Boeing für ein wichtiges digitales Gerät nicht trainiert wurden? Was blockiert unser Vertrauen in die digital aufgerüstete Welt? Sehr pauschal gesagt: die „Erosion des Vertrauens“ (Rothmund). Vertrauen wird durch Kontrolle ersetzt, aber man kann ihr nicht mehr vertrauen – á la Lenin: Wer kontrolliert die Kontrolleure? Alles geht in die Brüche, wenn Vertrauen in die Brüche geht.

Ein Beispiel: Kann man selbstfahrenden Bussen nach den bisherigen Tesla-Tests vertrauen? Autonomes Fahren scheint problematisch, weitere Tests sind dringend nötig. Wann aber reichen sie aus? Und wann bzw. warum vertraut man ihnen?

 

Überraschung: Der Mensch sieht sich im Spiegel als Roboter. (Roboter.TIF)

Überraschung: Der Mensch sieht sich im Spiegel als Roboter. (Roboter.TIF)

Mein Chef, der Algorithmus

Eine seltsame Verdrehung. Der Grundbaustein der digitalen Technik – und dann natürlich auch der KI – ist das Ende der Autonomie. Der Algorithmus gibt Anweisungen, ist gleichsam mein Chef, nicht ich bin mein Chef. Auch nicht im Privaten? KI stellt die Welt auf den Kopf. Ohne Beziehung können wir nicht leben, ohne Technik auch nicht. Es kommt auf das Mischungs­verhältnis an. Gut zu wissen. Wieviel KI lassen wir zu?

Die Bedingung des Menschseins heißt Beziehung, die beinahe ein Plastikwort geworden ist. Beziehung hat ein Geschmäckle, schlimm ist der Ausdruck „Kuschelpolitik“. Aber Beziehung ist mehr. Das ICH (Franz Josef) wird ein ICH erst durch das DU (Johanna u.a.), meine Konturen werden vom Du mitgestaltet. So seltsam das in unserer biologischen, von Genen verwöhnten Zeit auch klingt: Gene sind in vielen Situationen nicht so wichtig wie Interaktion, d.h. z.B. Beziehung – etwa mit Partnern und Freuden/innen.

Ein Hinweis auf den KI-Einsatz im Krankenhaus: Vieles wird technisch erledigt. Umso mehr wird die Erwartung der Patienten unterlaufen. Behandlung wird erwartet, aber im Wort „Behandlung“ steckt auch das In-die-HAND-nehmen. Ohne Hand (Symbol der Zuwendung) ist Behandlung reine Technik, und Behandlung ein Scherz.

Technik orientiert sich an den sachlichen Zusammenhängen, je mehr Technik, je mehr Sachlichkeit. Von einem inzwischen verpönten (NS-Sympathisant) Psychotherapeuten C.G. Jung las ich eine Traumdeutung. Nacht für Nacht träumte ein Ingenieur (das war natürlich noch vor der KI) von Menschen, mit denen er keinen Kontakt mehr hatte, von schönen und auch belastenden Situationen usw. Jung interpretierte das so: Die zugeschüttete Welt mit ihren Beziehungen und ihren Bedeutungen durfte nicht mitleben. Der Ingenieur war nur und total Ingenieur. Ein interessante Romantitel von Ian McEwan: „Maschinen wie wir“. Unser Problem?

In den Sozialgesetzbüchern des Bundes (SGB 1-12) wird immer wieder besonders bei Benachteiligten und Menschen unter dem Existenzminimum vom Recht auf soziale Teilhabe geschrieben. In-Beziehung-Stehen gilt hier als Bedingung des Lebens und soll deshalb auch finanziell unterstützt werden. Bedeutet die grenzenlose Stärkung der Technik schleichender Verlust der Beziehung?

 

KI und Reparaturethik

Ein großer Denkfehler ist das Konzept der Technik, das sich selbst repariert und damit quasi unvergänglich wird.

Ich verstehe die Computer-Ethik nicht. Sie kritisiert die KI, versucht aber die Schwachstellen der Technik mit Technik zu reparieren. Sind wir so weit, dass die Ethik eine reine Reparaturethik wird und man dem Bannkreis der Technik nicht entkommen kann? Manchmal glaube ich, wir sind so weit.

Technik im Flugzeug wurde früher zum Problem, wenn Piloten in die automatisierten Vorgänge eingriffen und sie korrigierten. Bei der Boeing 737 MAX 8 wurde nicht genügend (bzw. überhaupt nicht) darüber aufgeklärt, dass ein KI-Baustein eingebaut war und wie verhängnisvoll der Eingriff der Piloten in die Steuerung der KI (Ausgleich der Flugzeugneigung) werden kann. Anscheinend hat das alte Problem überlebt, ist nur folgenreicher geworden.

Die New Yorker Professorin Amy Webb beklagte den Abzug der Öffentlichkeit von der Diskussion über die KI und überließ das den Unternehmen. Sie bezeichnete sie als „G-Mafia“ („G“ für Generation 5 und folgende) – also Unternehmen wie „Google, Microsoft, Apple, Facebook, IBM und Amazon“. Die eigentlich Betroffenen können gar nicht mitentscheiden? Zusammenleben der Menschen wird irreal.

 

KI, die neue Weltanschauung

Wenn Technik eine Art Weltanschauung ist, hat sie den Gipfel der Komplexität erreicht. Sie gibt vor, das Ziel der Entwicklung zu kennen, auch zu wissen, was passiert, wenn man auf Technik verzichtet, wer die Opfer sind usw. Wird unsere digitale Welt eine Art Weltanschauung?

KI glaubt, eine traumhaft schöne Welt zu vertreten. Arbeit und moralische Entscheidungen, die Kummer machen (etwa: Fährt das Auto den Radfahrer tot oder kollidiert es mit dem entgegenkommenden Wagen?), treffen die Maschinen. Der Mensch liegt in der Hängematte und genießt das dolce far niente (süßes Nichtstun).

Wollen wir das? Ja, aber die Konsequenzen nicht.

  • Wollen wir wirklich keine Arbeit? Arbeit, wenn sie uns gefällt, ist sinnstiftend. Ich war fast ein Jahr arbeitslos. Das war eine schlimme Zeit, auch für meine Frau.
  • Wie bei Weltanschauungen, Mythen usw. sind Diskurse und Befragungen nicht erwünscht. Duldet KI rationale Fragen? Ist sie Konkurrenz des natürlichen Lebens oder eher ein neuer Religionsersatz?
  • Sinnlichkeit sei ein Schnittstellenproblem, meinen einige Informatiker. KI hat den sog. Sexroboter, ein Schnittstellenproblem, geschaffen. Aber wissen ihre Schöpfer – und wenn ja woher – was Sinnlichkeit ist? Aus der Zeitschrift PARDON? Sinnlichkeit wurde zum technischen Geschäft, zur Ruine der Gegenseitigkeit, zur Schwächung des bedingungslosen Akzeptiertseins.
  • KI ist potenzierte Intelligenz. Woher kommt dieser Intelligenzfanatismus? Aus ihrer Überschätzung. Da ist ja auch noch der Körper. Wenn der Körper des Anderen weg ist, wer sagt mir dann, dass sie/er mich liebt, fragt Arno Geiger. Weiß das die Intelligenz? Oder braucht die Intelligenz den Körper?

 

Was sagt uns das?

Das sagt uns viel. Hinter den Fakten zeigt sich das Bild vom Menschen, also das, was die technische Entwicklung aus den Menschen macht.

  1. Sie bringen das Vertrauen in die Entwicklung der Lebenswelt in Gefahr.
  2. Der Mensch und seine Schwächen werden nicht akzeptiert, sondern durch KI retuschiert.
  3. Beziehungsfähigkeit wird immer mehr durch Sachlichkeit ersetzt.
  4. Je mehr Technik, Informatik und KI eine Liga bilden, desto mehr entsteht eine sich selbst reparierende und verlängernde Größe.
  5. KI wird zu einer Art Weltanschauung, die sich einer vernünftigen Begründung und gemeinsamen Entscheidung der Betroffenen entzieht.

Das alles sagt uns auch: Wehret den Anfängen! Der Bundestag hat eine heftige Debatte über die digitale 5G-Ausstattung losgetreten. 5G ist schneller als seine Vorgänger. Schön. Auch Tesla jubelte: 5G sei die Voraussetzung für das autonome Fahren. Ein harmloser Anfang, aber problemgeladene Konsequenzen.

Das hatten wir schon einmal in einem katastrophalen Zusammenhang. Für die Euthanasieaktion T4 im Nationalsozialismus hat man aufgelistet, welche Kinderheime Zug-Anschluss hatten. Kein guter Vergleich. Aber es geht hier nur um die Folgen einer harmlos beginnenden Strategie. Verwandte sollten das kranke Kind besuchen können. Aber gedacht war das für den Abtransport zur Tötung, stellte sich heraus. Protest kam auch aus Münster. Hitler selbst hat auf seinem Briefpapier die Aktion T4 gestoppt.

Bei der KI könnte das ähnlich sein. Erst fängt es ganz harmlos an, aber dann … Man sollte Probleme frühzeitig erkennen und in Schranken halten.

…………………..

Das Cartoon im Beitragsbild stammt von Jan Tomaschoff und erschien in dem Journal für Philosophie „Der Blaue Reiter“.  Einer Verwendung des Cartoons in meinem Artikel wurde von dem Karikaturisten zugestimmt. Vielen Dank! Ich verweise hiermit noch auf die beiden Links www.humorverwaltung.de und www.toonpool.de.

Franz Josef Illhardt

Franz Josef Illhardt