Thread by @freejsf

Kennt Ihr den Büroklammer-Maximierer? Das ist das Gedankenmodell des schwedischen Philosophen Nick Bostrom, in dem gefragt wird, was wäre, wenn die Menschheit eine selbstständig handelnde künstliche Superintelligenz erschaffen würde, die den Auftrag erhält,
🧵

möglichst effizient Büroklammern zu herzustellen - und zwar um jeden Preis: den Büroklammer-Maximierer eben.

Diese Künstliche-Intelligenz würde alle Ressourcen, darauf verwenden neue und bessere Methoden zu finden und anzuwenden, um immer mehr und immer schneller Büroklammern

herzustellen.

Wären dem Maximierer dabei Menschheit, Natur oder was auch immer im Weg, würde er, versuchen diese Hindernisse zu überwinden – und im Zweifelsfall dabei eben Menschheit und Natur zerstören, um immer noch mehr Büroklammern herzustellen.

Erscheint widersinnig, denn natürlich würde die Menschheit eine Sicherung einbauen, um eine solche Entität rechtzeitig abzuschalten … oder … ODER?
Außerdem hält sich die Künstliche-Intelligenz trotz aller Fortschritte im Moment doch noch vornehm zurück, was das

Auslöschen der Menschheit angeht, von daher: schönes Gedankenexperiment, aber Quatsch?

Es gibt aber auch die Theorie, die besagt, dass wir, die die Menscheit auslöschenden, autonom agierenden Entitäten längst geschaffen haben,

es aber keine AIs sind die in Computern agieren, sondern juristische Personen aka Konzerne.

Ein Konzern hat nur ein Ziel, auf das er programmiert ist: seinen Profit zu maximieren. Menschen, Natur und sogar Staaten müssen sich diesem Ziel unterordnen.
Stößt der Konzern

auf Hindernisse, zum Beispiel in Form von Gesetzen, verwendet er all seine Möglichkeiten darauf diese Hindernisse zu beseitigen oder zu umgehen.
Und ein Konzern hat eine Menge Möglichkeiten, weil die Menschheit irgendwann mal dachte, es sei eine super Idee,

wenn Konzerne eine juristische Person wären, die Anwälte anheuern und die Menschheit bspw in Form eines demokratischen Staates verklagen können.

Aber so weit müssen Konzerne nur selten gehen. Viel effizienter als zu klagen ist es doch, einfach direkt an die Gesetzgeber

heranzutreten und beim Schreiben neuer Gesetze involviert zu sein. Konzerne haben je nach Größe einen deutlich direkteren Draht zur politischen Gesetzgebung als die Menschen, die diese Gesetzgebung gewählt haben.

Und so kommt es, dass kaum ein relevantes Gesetz verabschiedet, wird in dem nicht große Passagen direkt von Konzernen verfasst wurden.

Warum machen Menschen da mit? Der Büroklammern-Maximierer ist ein Computer, aber Konzerne gehören ja Menschen und sind denen untergeordnet.

Menschen sind Individuen, ja, aber Menschen sind eben auch Gruppenwesen. Wir können ohne Gruppen nur schlecht existieren, wir ordnen uns gerne in Gruppengefüge ein, wir folgen Gruppenregeln und im Zweifelsfall ordnen die meisten Menschen sich innerhalb einer Gruppe ein und

unter, und zwar auch dann, wenn sie erkennen, dass die Regeln und Ziele der Gruppe sich in eine Richtung entwickeln, die eigentlich dem widerspricht was sie als Individuum für richtig halten.
Konzerne simulieren Gruppen zu sein.

Sie agieren selbstständig und ihre menschlichen Diener und Dienerinnen und Hohepriester und Hohepriesterinnen helfen ihnen dabei ihr einziges Ziel zu verfolgen: Den Profit zu maximieren. Um jeden Preis und sei es das Ende der Lebensgrundlagen auf diesem Planeten.

Ich glaube, dass diese Theorie stimmt, denn anders lässt sich nicht erklären, wie im Angesicht der hell-aufleuchtenden Klimakatastrophe das EU-Parlament heute Atomkraft und Gas als klimafreundlich einstufen konnte.

Die Büroklammern-Maximierer haben die Macht, sie reißen uns in den Abgrund und die Menschheit hilft ihnen dabei so gut sie kann.
Wir könnten sie aufhalten ...

Aber die Arbeitsplätze.
/threadende

ah ... hier noch das Spiel zum thread. Danke @_Chorge

decisionproblem.com/paperclips/

#Taxonomie

und hier gehts zum 34C3 Talk, dem ich diese Ideen ursprünglich mal entnommen habe:

antipope.org/charlie/blog-s…

Holy Moly! Ist der Thread explodiert.

hi,
ich bin jörg, mache Games und rante über Politik.
Kauft meine Games @TtDoTGame und @Beholder_Game und passend zum Thema das sehr sehr gute @FermiGame von @_Chorge