Thread by @Valio_ch

Ein Kommentar zu #DataLand: Wie ungünstig designte #KünstlicheIntelligenz bei #SocialMedia reale ungünstige Auswirkungen haben kann

Thread 1/

Gerade heute hat sich wieder ein ehemaliger YouTube-Entwickler kritisch zum Algorithmus und dessen Auswirkungen geäussert. Es hat Flache-Erde-Bewegungen aktiv gefördert und wohl BokoHaram beim Aufruf der Tötung von Geographie-Lehrern unterstützt
threadreaderapp.com/thread/1064527…

2/

#Facebook hat zwar den ägyptischen Frühling verursacht, aber auch die entstehende Polarisierung befeuert, durch die Maximierung auf emotionale Posts. Soweit, dass mehrere Menschen starben.

pbs.org/video/the-face…

3/

Auch im vorher genannten Beitrag erwähnt:
Analog dazu auch die Fälle der Tötung von Muslimen durch extreme Buddhisten. Es kursiert die These, dass dies auch durch SocialMedia über Algorithmen-befördertes emotionales Hochschaukeln radikalisierten.

theconversation.com/mob-violence-s…
/4

Das Problem ist, dass die emotionalsten Beiträge am höchsten gerated werden Der ehemalige Google-Ethikrt @TristanHarris nennt dies einen #raceToTheBottom.


/5

Was uns emotional anspricht erhält am meisten Aufmerksamkeit. Algorithmisch unterstützt. Die Optimierung ist auf unsere Aufmerksamkeit ausgerichtet. Mehr Aufmerksamkeit = Mehr Werbeanzeigen für den Betreiber der SocialMedia-Site

ted.com/talks/tristan_…

/6

Diese Aufmerksamkeits-Maximierung kann natürlich sehr weit führen. Es gibt natürlich auch entsprechende Abhängigkeits-Symptome bei einer Nutzung, welche die anderen Lebensbereiche beeinträchtigt, d.h. Sucht. Dazu gibt es auch diagnostische Intrumente.

de.wikipedia.org/wiki/Handyabh%…

/7

Es gab auch einige Studien, die davon ausgehen, dass eine starke Facebook-Nutzung einen Zusammenhang mit depressiven Symptomen aufweist. Eine berühmte ist gar durch Facebook direkt unterstüzt worden.

psychologytoday.com/intl/blog/fulf…

/8

Wobei das natürlich auch wohl Zusammenhänge mit der Verminderung von Schlaf, realer sozialer Kontakte und ggf. geringerer Bewegung einhergeht. Es ist bekannt, dass diese 3 Faktoren mit Depression korrelieren.

de.wikipedia.org/wiki/Depression

/9

...und natürlich mit starker Nutzung von Computern. Der Schlafentzug kann bei SocialMedia wohl durch die Aufmerksamkeits-Maximierung, die ggf. emotionalen Effekte, als aber auch durch das Blaulicht gefördert werden: es reduziert die Produktion von Schlaf-Hormenen im Gehirn

/10

Diese Probleme sind eigentlich nicht wirklich neu.
Dieser Vortrag des Soziologen @EdelWax führt die Gedanken zu fehlgeleiteter Maximierung etwa schon 2016 aus; inkl Alternativen: @Couchsurfing hat ein sinnvolleres Maximierungs-Ziel ggü. Facebook

nxhx.org/maximizing/

/11

Das Thema findet (in einer ganzheitlichen Betrachtung) auch zunehmend Beachtung. Nicht zuletzt dank der Arbeit von @TristanHarris & co. unter dem Label "@HumaneTech_". Die Frage ist natürlich ob sich so ein "BioLabel" durchsetzen wird...

humanetech.com

/12

Auch Beiträge am diesjährigen World Usability Day (Welt-Benuterfreundlichkeits-Tag) haben unter dem Motto #DesignForGoodOrEvil fehlgeleitete Metriken und ethisch heikle Business-Ansätzen Erwähnung gefunden.

/13

Grundsätzlich sind beim Design von IT-Systemen natürlich viele unvorhersehbare Konsequenzen denkbar. Facebook hat wohl nie vorsätzlich Menschen schaden wollen; es waren wohl stets unbeabsichtigte Kollateralschäden.

/14

Ich denke kulturell bräuchte es aber auch eine Art von hypokratischem Eid in der IT-Branche. Bis sich so etwas etabliert wird es wohl lange dauern, aber uns auch einen grossen Schritt weiter bringen...

(Thread-Ende zu Metriken und ihren Auswirkungen wegen #DataLand)

/15

PS: Das war eine sehr verkürzte, spontan entstandene Darstellung mit einer kleinen Auswahl an Quellen. Mehr gerne auf Anfrage.

Ich wollte mich ja auch nicht den ganzen Abend mit dem Verfassen von Twitter-Literatur beschäftigen. 😉

/16