Thread by @pavel23

Weiß nicht, wer hier dümmer ist: Die KI, die Menschen (korrekt) als Primaten identifiziert oder Leute, die “Primaten” mit “Affen” gleichsetzen und glauben, die “KI” würde wegen der Hautfarbe Schwarze mit Affen verwechseln. spiegel.de/netzwelt/faceb… nytimes.com/2021/09/03/tec…

Verwechselung wegen Hautfarbe ist zwar möglich, aber im Gegensatz zu Menschen “interessiert” ein neuronales Netz die Hautfarbe nicht allzu sehr, es sei denn, man trainiert es darauf. Allgemein sind es vor allem Kontraste und Muster, an denen sich trainierte Netze orientieren.

Im HSV-Farbraum haben Schwarze und Weisse zudem praktisch die gleiche (rote) Hautfarbe (H 0-17) aufgrund der Blutgefäße, die Helligkeit V spielt keine Rolle, und Farbsättigung von Haut liegt bei 15-170, abhängig von der Beleuchtung und individueller Hautbeschaffenheit.

Generell kristallieren sich beim Training von Modellen Ähnlichkeiten heraus, etwa zwischen Hunden, Katzen und Bären, und Menschen ähneln halt Affen. Je nach Perspektive kann ein neuronales Netz Hunde mit Bären und Katzen und Menschen mit Affen verwechseln. Ist nicht ungewöhnlich.

Ein weiteres Problem ist, dass die meisten Menschen Sprache nicht präzise benutzen und “Primaten” synonym mit “Affen” setzen. Wenn man etwa nach “Primaten” googelt und sich die Bildsuchergebnisse ansieht: Nur Affenbilder zu sehen.

Das hat mit der Klassifizierung von Trainingdaten zu tun, die von Menschen vorgenommen wird, und wenn die Klasse „Primaten” nur Affenbilder enthält, ist das falsch, aber wenn sie korrekterweise auch Menschen enthält, sind Menschen und Affen halt Primaten und Leute regen sich auf.

Ob der vorliegende Fall wirklich skandalös ist, hängt davon ab, ob die KI darauf trainiert ist, nur Affen als Primaten zu klassifizieren, was ich vermute, und wie häufig die KI Menschen als Primaten identifiziert und ob es einen Zusammenhang mit der Hautfarbe gibt.

Aus diesem einen, anekdotischen Fall lässt nicht wirklich viel schließen, außer, dass KIs dieselben Probleme haben wie Menschen, die mit demselben Wort verschiedene Dinge meinen und etwa unter Demokratie, Faschismus und Sozialismus sehr verschiedene Dinge verstehen können.

So sind in meinem Sprachgebrauch Faschismus und Nazionalsozialismus zwei verschiedene Dinge, seit ich weiß, dass Hitler den Faschismus verachtet hat, weil Faschismus nicht rassistisch war, während Rassimus Grundlage des Nationalsozialismus ist.

Nationalsozialismus mit Faschismus in einen Topf zu werfen ist nicht nur aus meiner Sicht eine Verharmlosung des Nationalsozialismus, die den rassistischen Wesenskern und den Holocaust eher banalisiert - auch seriöse Wissenschaftler monieren das und plädieren dafür, …

…sich vom der Verwendung Begriff des “Faschismus” zu verabschieden, weil er substanzlos und missverständlich geworden und eigentlich ein “Strohmann” ist: Ein Begriff, der von den Gegnern und Siegern mit einer Bedeutung versehen wurde, die er bei Faschisten nie hatte,…

…und Leute wie Hitler als Faschisten bezeichnet, die nie Faschisten waren. Würden wir eine KI mit Daten aus dem Internet darauf trainieren, Leute als “Faschisten” zu klassifizieren, würde die KI wohl die marxistische Definition übernehmen und würde Hitler als “Faschisten” …

…klassifizieren. Würde man eine KI dagegen mit historischem Archivmaterial und den Reden und Schriften von Faschisten und Nazis trainieren, könnte sie aus Reden und Schriften zeitgenössischer Politiker aussagekräftigere Ähnlichkeiten mit den originalen Nazis…

…und Faschisten errechnen als eine KI, die von Twitter und Facebook gelernt hat, wer als Faschist oder Nazi bezeichnet wird. Die interessante Frage ist: Wollen wir KIs haben, die vorherrschende Vor- und Fehlurteile bestätigen, oder wollen wir KIs, die es besser wissen?

Beides dürfte Akzeptanzprobleme machen, aber wird wohl vorerst darauf hinauslaufen, dass KIs verbreitete Vor- und Fehlurteile übernehmen, weil diese im Trainingsmaterial enthalten sind und wir nicht wissen, wie es anders gehen könnte.

Im Fall der “Primaten” wird Facebook wohl bestenfalls mit einer Krücke versuchen, eine Wiederholung zu vermeiden, etwa die Kategorie “Primaten” ganz sperren für die Vorschlagsgenerierung, denn wirklich lösen lässt sich Problem derzeit nicht.

Heutige “KIs” basieren weitgehend auf statistischen Methoden, und eine Statistik über Trainingsmaterial wird die Zusammenhänge reproduzieren, die im Trainingsmaterial enthalten sind - das ist schließlich Sinn und Zweck des Trainings.

Wollen wir eine KI “sauber” trainieren, können wir nicht das “dreckige” Internet nehmen, sondern müssen wie bei der Schulung von Kindern quasi ein Curriculum mit kuratiertem und zensierten Material erstellen. Eine solche KI hätte aber Probleme, das breite Internet zu verstehen.

Heutige „KIs“ ähneln eher isolierten Autisten, die statt Schulunterricht in jüngstem Alter einfach das Internet und einen Haufen Bücher vorgesetzt kriegen und Kommunikation primär aus Kommentaren und Diskussionen im Internet kennen. Was soll da schon schiefgehen?

Beim derzeitigen Stand der Technik ist der aktuell erfolgreichste Ansatz, das Problem mit Menge zu erschlagen. Während GPT-2 etwa noch “too dangerous to release” war, zeigt GPT-3 mit bis zu 175 Mrd. Parametern (ca. 800 GB) und Trainingskosten in Millionenhöhe bemerkenswerte…

…Kunststücke im Umgang mit natürlicher Sprache, etwa Übersetzen und Generieren von Texten. GPT-3 wird zu 80% mit dem „Common Crawl“ trainiert, rund 410 Mrd. Token (Worte), dazu 70 Mrd. Token Bücher und 3 Mrd. Token Wikipedia und 19 Mrd. Token aus Reddit-Posts mit Score >= 3.

Das „Curriculum“ für GPT-3 ist also zu 86% „Internet“ und 14% Bücher, ca. 700.000. Und man kann mit GPT-3 z.B. auch rassistische Texte generieren, weshalb es auch keinen einfachen öffentlichen Zugang gibt, sondern lauter spezialisierte Anwendungen und Apps, die die API benutzen.

Wir werden uns bis auf weiteres darauf einstellen müssen, dass „KIs“ letzlich menschliche Äußerungen im Internet reproduzieren, einschließlich all des Unsinn und der Vielzahl von Fehlwahrnehmungem, Fehlklassifikationen und Fehlschlüssen der unfreiwilligen menschlichen „Trainer“.

Das Training von KIs wird ähnlich sensibel und politisch sein wie die Bildung von Kindern, und je höher entwickelt KIs sein werden, umso mehr werden Fehlfunktionen von KIs psychischen Problemen und mentalen Ausfällen von Menschen ähneln.

Die mediale Empörung über den Facebook-Fall halte ich für dumm und an der Sache vorbei, und Facebooks Reaktion („eindeutig inakzeptabler Fehler“) ist PR-Bullshit, der mich zweifeln lässt, dass sich bei Facebook irgendjemand kompetentes ernsthaft mit dem Problem beschäftigt hat.