ZWISCHENRUF betreffend Technologien (wie KI)

Aus dem Umzugsloch von IF-Blog heraus melde ich mich doch mal. Anlass ist die eigenartige Einigkeit von ELON MUSK, SAM ALTMAN und DARIO AMODEI bei der Bewertung der Situation der KI. Alle drei empfehlen, dass man das Tempo ENTWICKLUNG der KI zumindest drosseln sollte, weil die Existenz der Menschheit sonst durch KI bedroht werden könnte (oder gar schon ist)!

Folgendes kann man in der SZ von heute auf der Titelseite lesen (ich zitiere nur einen kurzen Auszug):

---

… Open AI gibt es nur deshalb, weil Elon Musk ein Gegengewicht zum damaligen Technologieführer Google etablieren wollte, dem er unterstellte, mit seiner KI-Forschung die Vernichtung der Menschheit zu riskieren. Heute wirft Musk dem Open-AI-Chef Sam Altman vor, das ursprünglich als Non-Profit-Organisation gegründete Unternehmen zweckentfremdet und von ihm gestohlen zu haben. Anthropic wiederum gibt es nur, weil dessen Gründer Dario Amodei bei Open AI aussteigen wollte, mangels Vertrauen in die Ehrlichkeit Altmans, wie er öffentlich bekundet hat. Über Anthropic wiederum hat Musk gesagt, das Unternehmen sei „misanthropisch und böse“. …

---

Dass drei so extreme Typen und Konkurrenten jetzt einig sind, ist unwahrscheinlich. Und ich rätsele herum, was die großen DREI so antreibt:

• Echte Sorge um die Menschheit
  also

• Altruismus / Idealismus?
  oder ist das Ganze nur ein

• genialer Marketingtrick?
  um zum Beispiel die Position der eigenen Unternehmen durch Einfluß auf eine Regulierung (die eh zu erwarten ist) zu stärken?
  Nach dem Motte „Wenn Du eine Entwicklung nicht stoppen kannst, dann setz dich an ihre Spitze?“

Meine Bewertung

KI (AI) mag zwar eine „rocket science“ sein, aber sie ist kein Hexenwerk, sondern „nur“ eine neue Technologie. Meine Gedanken dazu erkläre ich am Beispiel einer der „alten“ Technologien DAMPFMASCHINE, EISENBAHN, AUTOMOBIL oder ATOMKRAFT.

Folgen wir meinem Gedankenkonstrukt:

• Was wäre passiert wenn, die europäischen Protagonisten der Automobil-Technologie (Benz, Citroen, Porsche, Renault und von FIAT und Volvo ) beschlossen hätten, die Entwicklung des Automobils mit mehr Verantwortung maßvoller und so auch langsamer und überlegter voran zu treiben? Und nicht nur die Machbarkeit als (masslose) Beschränkung zu akzeptieren?

Ich sehe mindestens drei Möglichkeiten:

i) Die Welt hätte sich vielleicht anders entwickelt:

• Wir hätten uns Millionen von Verkehrstoten und Verletzten erspart. 
• Die Klimakatastrophe hätte vielleicht vermieden werden können? 
• Weniger Boden wäre versiegelt worden.
• Vielleicht wäre die Menschheit nicht so fett (und faul) geworden?
• …

ii) Oder

• Die Zivilisation hätte sich anders entwickelt.
• Wohlstand und unser Leben wären so (wie von uns erlebt) nicht möglich gewesen?
• Unser Leben hätte sich auf (unvorhersagbare) Art und Weise ganz anders entwickelt.
• …

iii) Vielleicht wäre auch nichts passiert.

• Weil die Dampfmaschine, die Eisenbahn und die Autos von anderen Leuten entwickelt und gebaut worden wären und dann nur die Strukturen sich verändert und
• andere Völker den Wohlstand abbekommen hätten, der jetzt bei uns verschwindet.
• …

Ja, wenn das Wörtlein „wenn“ nicht wäre …
Das war ein Spruch aus meiner Kindheit und hat mir geholfen, die Komplexität der Welt besser zu verstehen.

So habe ich zwei Empfehlungen:

Empfehlungen

Die erste  Empfehlung ist eine Allgemeine:

1. Vergesst die TUGENDEN nicht:

---

Im Prinzip ist es egal „welche“ Tugenden wir uns aussuchen. Ich schlage vor, die Tugenden der antiken Griechen zu verwenden, die der Stoiker. ​Denn Tugend ist – laut der STOA – das  höchstes Gut (die Arete).

Ein gelingendes Leben (die Eudaimonia) verlangt nach vier Kardinaltugenden:

Die sind in der Stoa beschrieben und hoch aktuell:

• ​Weisheit (praktische Urteilskraft)
• Tapferkeit (Mut und Standhaftigkeit)
• Gerechtigkeit (Fairness und Gemeinwohl)
• ​Mäßigung (Selbstbeherrschung)

Das in aller Kürze. Aber es ist umso wichtiger! Dies gilt für Individuen und Gemeinschaften. Denn die Tugenden machen ein faires ZUSAMMEN der Menschen (unsere Gesellschaft) erst möglich. Das sollte auch „die Politik“ bedenken. Denn eine rein arithmetische und kaufmännische Betrachtung hilft nichts. Viel mehr geht es um KULTUR und WERTE. Und auch um EMOTIONEN.

Wir lernen das zurzeit im Kampf gegen die AfD.

Zum Inhalt der Stoa und ihrer Anwendung werde ich noch ausführliche Artikel schreiben.

Aber nicht vergessen:

Tugenden müssen gelebt werden. Handeln ist wichtiger als Reden!

Diese erste Empfehlung ist wichtig für alles menschliche Denken und Handeln.

---

2. Die zweite Empfehlung betrifft Technologien, die ja erste Zivilisation ermöglichen:

---

Wir müssen autonom bleiben, bzw. es wieder werden!

Das gilt auch besonders für die Digitalisierung. Die technische Autonomie kann man mit den oben erwähnten Tugenden der STOA gut begründen. Ihr folgend ergeben sich für Anwendung auf die Digitalisierung (Technologie) als Prinzip:

• Weisheit = bewusste Technologieentscheidungen (am Beispiel „Default ist Cloud“).
• Tapferkeit = den unbequemen Weg gehen (wenn alle Microsoft und Co. kaufen).
• Gerechtigkeit = Open Source (als Beitrag zum Gemeinwohl).
• Mäßigung = nur bauen, was man wirklich braucht.

Sie folgt aus der ersten Empfehlung.

---

Das wars. Ich beende meinen Zwischenruf mit zwei Zitaten!

Denn das Titelbild des Artikels heisst ART OF LIfE. Mein Freund Jolly Kunjappu (ein grosser Naturphilosoph) hat es geschaffen.

Er schreibt dazu:

---

 

---

JOLLY geht es um den Menschen. Ein anderes Zitat erwähne ich auch gerne, wenn es um Technik geht. Es wird regelmäßig auf meiner Seite www.duerre.de angezeigt:

» Jeder Zuwachs an Technik bedingt, wenn damit ein Zuwachs und nicht eine Schmälerung des menschlichen Glücks verbunden sein soll, einen entsprechenden Zuwachs an Weisheit.«

Bertrand Russell (1872 – 1970)

Anmerkung:

---

Das Gedankenexperiment von der „Teekanne im All“ (oft als Russells Teekanne bekannt), das in der SRF-Reihe Filosofix anschaulich als animierter Kurzfilm umgesetzt wurde, geht direkt auf Bertrand Russell zurück. Er hat diese Metapher 1952 in einem (damals unveröffentlichten) Artikel mit dem Titel Is „There a God?“ formuliert, um das Prinzip der Beweislast (burden of proof) zu veranschaulichen.

P.S.
Ich hätte noch einen Nachtrag:

Am Mittag des Tages (Montag, den 14. Juli) war dieselbe Frage

Gefährdet KI die Menschheit?

das Thema des Tagesgespräch in BR 2 (im Rundfunk).

Unter anderem stellte ein – wie ich meine – schlauer Bürger die Frage, wie die KI das eigentlich machen könnte, die Menschheit komplett auszurotten? Uns alle umbringen?

Dem schlauen Bürger würde ich sagen, er könne ja Gemini oder eine andere KI einfach mal fragen, wie sie es machen würden, wenn sie die Menschheit ausrotten wollten.

Seine Frage könnte ich vielleicht in dem Sinne beantworten, dass ich mir gut vorstellen kann, wie die KI allen Fortschritt unserer Zivilisation ruiniert. Wie Finanzen, Versorgung, Mobilität … .

Die physischen Folgen für die Menschheit wären dann klar. Der einzig mögliche Schutz bestände in der totalen Unabhängigkeit von digitalten Strukturen. Das bedeutet aber auch, dass man auch Abschied von Zivilisation und Fortschritt nehmen müsste.

Man müsste leben wie die amish people. Das wollen aber die meisten von uns nicht.

Ich traue mich aber nicht, die obige Frage des „schlauen Bürger“ selber zu stellen und würde dies auch niemand empfehlen. Aus zwei Gründen:

1. Man sollte niemand in Versuchung bringen
   (auch nicht die KI)!
2. Das Stellen der Frage
   Wie kann man die Menschheit ausrotten?
   könnte von den Organen für Staatssicherheit oder ausländischen Geheimdiensten missverstanden und man dann des Terrorismus verdächtigt werden.

Aber die iFrage ist gut und mit JA zu beantworten.

Zweifelsfrei kann KI die Menschheit vernichten. Das könnte nicht nur der Mensch.  Sondern auch andere Katastrophen, wie massive Erdbeben, starke Vulkanausbrüche, Sonnenstürme (die statistisch gesehen eh überfällig sind),  Einschläge grosser Kometen (galaktische Unfälle), Epidemien – oder ein (wieder vom Menschen generierte) ein mit ABC-Waffen geführter Weltkrieg.

Das führt mich dann aber wieder auf einen anderen Gedanken.

Könnte KI nicht auf die Idee kommen, dass Krieg an sich Unsinn ist? Und dann beschließen, Frieden zu schaffen.

Und macht dies den Mächtigen Sorgen? Weil man dann kein Geld mehr verdienen kann?

Dumm wäre es dann nur, wenn die KI auf den Gedanken käme, man müsse erst die Menschheit ausrotten, um Frieden schaffen zu können. 🙂

RMD

PS. 1
Noch ein – für mich wichtiger – Gedanke ist mir drei Tage nach Schreiben dieses Artikels gekommen.

Hier notiere ich ihn:

Die rasante Entwicklung der ATOM-Technik hat auch – wie ich meine zurecht – viele Kritiker gehabt. Das betraf die Nutzung sowohl im zivilen wie im militärischen Bereich. Trotzdem wurde „Little Boy“ auf Hiroshima und Nagasaki abgeworfen. Und zivile nukleare Katastrophen mit schlimmen Folgen gab es mehr als genug.

Das war auch eine Technologie, bei der viele Menschen Angst vor dem Ende der Menschheit hatten und haben. Wahrscheinlich zu recht.

Aber: Haben die Ängste etwas bewirkt?

Ich meine: Leider nicht. Nur kurzfristig, aber nicht langfristig. Wir haben uns leider an die Gefahr gewöhnt.

---