Thread by @drjanosch1

Ein 🧵 zur Problematik, ob #LaMDA ein Bewußtsein entwickelt haben könnte, welche Komplexität hier oft übersehen wird und warum die Diskussion darüber in Teilen mehr über uns aussagt, als über die eigentliche Frage zu dieser #KI. 1/

Vorab: Die Frage, was Bewußtsein ist, wird von Fachgebiet zu Fachgebiet unterschiedlich definiert und eine praktikable Definition, die verläßlich an Individuen oder intelligenten Maschinen getestet werden könnte, gibt es leider nicht. Das ist Teil des Dilemmas. 2/

Einige Mitmenschen sind sehr schnell in ihrem Urteil, daß #LaMDA gar kein Bewußtsein habe entwickeln können. Eine Mehrzahl der Argumente beruft sich auf:
1) Es ist ein Chatbot
2) Es ist eine Maschine
3) Hat aus vielen Daten gelernt und arbeitet probabilistisch
3/

4) Als Menschen wollen wir einen Geist in der Maschine sehen

Das ist leider alles nicht stichhaltig und beweist nicht die Nicht-Existenz eines Bewußtseins.

Dazu kommt:
Die vorliegende Maschine ist deutlich komplexer, als viele es wahrhaben möchten. Einer der Gründe dafür ist 4/

die offensichtliche Komplexität des zugrundeliegenden neuronalen Netzes.

Eine wesentliche weitere Komplexitätskomponente ist das Rekursionsprinzip:

#LaMDA operiert in einem Kontext von Chat-Sessions und ist zustandsbehaftet. Es gibt einen inneren Zustand, welcher zusammen 5/

mit der Eingabe des Nutzers zurück in das Netzwerk gespeist wird, um #LaMDA's nächste Antwort zu produzieren.

Ich stelle nun folgende These auf: Dies führt zu einer Komplexität, welche Turing-vollständig ist, d.h. diese Architektur kann prinzipell alles berechnen, was eine 6/

beliebige Rechenmaschine (unter Church-Turing-These) berechnen kann.
In der Tat ist bekannt, daß bereits ein 2-schichtiges (beliebig breites) neuronales Netz jede gegebene glatte Funktion beliebig gut approximieren kann. Damit ließe sich meine These formal beweisen. 7/

Relevanz für das Ursprungsproblem:
Die Komplexität von #LaMDA ist damit jenseits dessen, was viele Zweifler dieser Maschine zugestehen möchten. Ja, es handelt sich um eine spezielle der Aufgabenstellung angepaßte Architektur. Das ändert aber nichts daran, daß die vorliegende 8/

Komplexität sehr groß ist. Daher ist es durchaus denkbar, daß eine Maschine mit dieser Architektur ein Bewußtsein entwickelt haben könnte, wenn eine Maschine überhaupt in der Lage ist, ein Bewußtsein zu entwickeln. Das führt den Großteil der Argumente der Kritiker ad absurdum. 9/

Im Umkehrschluß bedeutet es nicht, daß #LaMDA tatsächlich ein Bewußtsein entwicklet hat.
Zweifellos wäre für eine Maschine, die ein Bewußtsein entwickeln könnte eine Voraussetzung, daß die Komplexität des zugrundeliegenden Netzes ausreichend groß ist. Was ausreichend groß 10/

bedeutet, ist unklar. Ebenso unklar ist, wie wir in einem vorliegenden Fall entscheiden, ob ein Bewußtsein vorhanden ist oder ob nicht. Ich halte dieses Problem für unentscheidbar.

Möglicherweise ist es bereits aus obengenannten Gründen bereits für #LaMDA unentscheidbar. 11/

Leider scheint mir letztere Frage zur Unentscheidbarkeit ebenfalls schwer (oder gar unmöglich) zu entscheiden (d.h. ist ggf. unentscheidbar).

Insofern erscheint mir der Großteil der geäußerten Argumente für oder gegen die Existenz eines Bewußtseins bei #LaMDA für müßig. 12/

Es scheint, daß sich einige Zweifler an einem Bewußtsein von #LaMDA schlicht die vorliegende Komplexität nicht vorstellen können, oder aus menschlicher Arroganz gar keine Argumente benötigen, sondern per se für sich ausschließen können, daß eine künstliche Intelligenz niemals 13/

ein Bewußtsein wird entwickeln können.

Bei Google selbst mag es auch ökonomische Gründe dafür geben, die Bewußtseinsfrage grundsätzlich negativ zu beantworten:
Die Möglichkeit einer positiven Antwort würde ethische Fragen aufwerfen, welche einen großen Teil des auf #KI 14/

basierenden Geschäftsmodells gefährden könnten.

Ob nun #LaMDA ein Bewußtsein hat, oder nicht, kann und will ich nicht beantworten. Was wahrscheinlicher ist, kann und will ich ebensowenig beantworten.

Was ich abschließend sagen kann ist: 15/

Die Frage ist schwieriger, als oft dargestellt wird und eine abschließende Antwort kann es in meinen Augen nicht geben.

Ich wünsche mir Respekt vor derart fundamentalen Fragestellungen, die uns unsere eigenen Grenzen aufzeigen - nicht nur auf der formalen Seite.
16/16