Profile picture
Pat Mächler @Valio_ch
, 16 tweets, 7 min read Read on Twitter
Ein Kommentar zu #DataLand: Wie ungünstig designte #KünstlicheIntelligenz bei #SocialMedia reale ungünstige Auswirkungen haben kann

Thread 1/
Gerade heute hat sich wieder ein ehemaliger YouTube-Entwickler kritisch zum Algorithmus und dessen Auswirkungen geäussert. Es hat Flache-Erde-Bewegungen aktiv gefördert und wohl BokoHaram beim Aufruf der Tötung von Geographie-Lehrern unterstützt
threadreaderapp.com/thread/1064527…

2/
#Facebook hat zwar den ägyptischen Frühling verursacht, aber auch die entstehende Polarisierung befeuert, durch die Maximierung auf emotionale Posts. Soweit, dass mehrere Menschen starben.

pbs.org/video/the-face…

3/
Auch im vorher genannten Beitrag erwähnt:
Analog dazu auch die Fälle der Tötung von Muslimen durch extreme Buddhisten. Es kursiert die These, dass dies auch durch SocialMedia über Algorithmen-befördertes emotionales Hochschaukeln radikalisierten.

theconversation.com/mob-violence-s…
/4
Das Problem ist, dass die emotionalsten Beiträge am höchsten gerated werden Der ehemalige Google-Ethikrt @TristanHarris nennt dies einen #raceToTheBottom.


/5
Was uns emotional anspricht erhält am meisten Aufmerksamkeit. Algorithmisch unterstützt. Die Optimierung ist auf unsere Aufmerksamkeit ausgerichtet. Mehr Aufmerksamkeit = Mehr Werbeanzeigen für den Betreiber der SocialMedia-Site

ted.com/talks/tristan_…

/6
Diese Aufmerksamkeits-Maximierung kann natürlich sehr weit führen. Es gibt natürlich auch entsprechende Abhängigkeits-Symptome bei einer Nutzung, welche die anderen Lebensbereiche beeinträchtigt, d.h. Sucht. Dazu gibt es auch diagnostische Intrumente.

de.wikipedia.org/wiki/Handyabh%…

/7
Es gab auch einige Studien, die davon ausgehen, dass eine starke Facebook-Nutzung einen Zusammenhang mit depressiven Symptomen aufweist. Eine berühmte ist gar durch Facebook direkt unterstüzt worden.

psychologytoday.com/intl/blog/fulf…

/8
Wobei das natürlich auch wohl Zusammenhänge mit der Verminderung von Schlaf, realer sozialer Kontakte und ggf. geringerer Bewegung einhergeht. Es ist bekannt, dass diese 3 Faktoren mit Depression korrelieren.

de.wikipedia.org/wiki/Depression

/9
...und natürlich mit starker Nutzung von Computern. Der Schlafentzug kann bei SocialMedia wohl durch die Aufmerksamkeits-Maximierung, die ggf. emotionalen Effekte, als aber auch durch das Blaulicht gefördert werden: es reduziert die Produktion von Schlaf-Hormenen im Gehirn

/10
Diese Probleme sind eigentlich nicht wirklich neu.
Dieser Vortrag des Soziologen @EdelWax führt die Gedanken zu fehlgeleiteter Maximierung etwa schon 2016 aus; inkl Alternativen: @Couchsurfing hat ein sinnvolleres Maximierungs-Ziel ggü. Facebook

nxhx.org/maximizing/

/11
Das Thema findet (in einer ganzheitlichen Betrachtung) auch zunehmend Beachtung. Nicht zuletzt dank der Arbeit von @TristanHarris & co. unter dem Label "@HumaneTech_". Die Frage ist natürlich ob sich so ein "BioLabel" durchsetzen wird...

humanetech.com

/12
Auch Beiträge am diesjährigen World Usability Day (Welt-Benuterfreundlichkeits-Tag) haben unter dem Motto #DesignForGoodOrEvil fehlgeleitete Metriken und ethisch heikle Business-Ansätzen Erwähnung gefunden.

/13
Grundsätzlich sind beim Design von IT-Systemen natürlich viele unvorhersehbare Konsequenzen denkbar. Facebook hat wohl nie vorsätzlich Menschen schaden wollen; es waren wohl stets unbeabsichtigte Kollateralschäden.

/14
Ich denke kulturell bräuchte es aber auch eine Art von hypokratischem Eid in der IT-Branche. Bis sich so etwas etabliert wird es wohl lange dauern, aber uns auch einen grossen Schritt weiter bringen...

(Thread-Ende zu Metriken und ihren Auswirkungen wegen #DataLand)

/15
PS: Das war eine sehr verkürzte, spontan entstandene Darstellung mit einer kleinen Auswahl an Quellen. Mehr gerne auf Anfrage.

Ich wollte mich ja auch nicht den ganzen Abend mit dem Verfassen von Twitter-Literatur beschäftigen. 😉

/16
Missing some Tweet in this thread?
You can try to force a refresh.

Like this thread? Get email updates or save it to PDF!

Subscribe to Pat Mächler
Profile picture

Get real-time email alerts when new unrolls are available from this author!

This content may be removed anytime!

Twitter may remove this content at anytime, convert it as a PDF, save and print for later use!

Try unrolling a thread yourself!

how to unroll video

1) Follow Thread Reader App on Twitter so you can easily mention us!

2) Go to a Twitter thread (series of Tweets by the same owner) and mention us with a keyword "unroll" @threadreaderapp unroll

You can practice here first or read more on our help page!

Did Thread Reader help you today?

Support us! We are indie developers!


This site is made by just three indie developers on a laptop doing marketing, support and development! Read more about the story.

Become a Premium Member and get exclusive features!

Premium member ($30.00/year)

Too expensive? Make a small donation by buying us coffee ($5) or help with server cost ($10)

Donate via Paypal Become our Patreon

Thank you for your support!