SedaG Profile picture
15 Mar, 19 tweets, 3 min read
Ein Jahr nach Beginn der Pandemie erleben wir in Deutschland eine extrem verflachte Debatte über Apps (z.B. #LucaApp oder #ImmunityPassports), die bei der Bekämpfung der Corona-Krise helfen sollen. Problem: Diese Form der Debatte ist nicht hilfreich.
Aktuell konzentiert sich die Debatte auf "Datensicherheit".
Aber ist das die einzige relevante Frage?
Was sind die Fragen, die Journalist*innen, Politiker*Innen und die Zivilgesellschaft stellen sollten, wenn es darum geht, das Gemeinwohl nicht aus dem Blick zu verlieren?
Ob etwas dem Gemeinwohl zuträglich ist, hängt nicht nur von guter Datensicherheit ab, sondern muss sich zuerst mit der Frage beschäftigen, ob diese Apps tatsächlich dem Zweck dienen, zu dem sie eingesetzt werden.
Ob eine Systemlandschaft aus Apps, die komplett in privaten Händen liegt - mit ihrer ganz eigenen Regulierung und ihrer eigenen technischen Strukturen - , überhaupt dem Gemeinwohl voll entsprechen kannn, ist eine ganz andere Frage.
Apps, Smartphones und die zugehörige Infrastruktur funktionieren auf ganz spezifische Weise. Das bringt es mit sich, dass Maßnahmen der öffentlichen Gesundheit ("Public Health"), die auf Apps basieren, zwangsläufig jenseits der Kontrolle der Behörden stattfinden.
Mit massiven Konsequenzen für die Zukunft von Public Health!
Also: Wenn etwa Public Health-Maßnahmen via Apps durchgeführt werden, wer muss dann nachweisen, dass die jeweilige App wirklich tut, was sie soll - und nur das? Sind hier nur die Behörden in der Pflicht oder auch die privaten Anbieter?
Nach welchen Kriterien wird der Erfolg oder Misserfolg der App bestimmt und wer ist dafür verantwortlich? Wie kann festgestellt werden, ob die App das gesteckte Ziel erreicht?
Verlassen wir uns auf unternehmerische "Benutzungsmetriken" oder brauchen wir andere Formen der öffentlichen Evaluierung? Wer ist für die Entfernung der App und ihrer Infrastruktur verantwortlich , wenn sie nicht mehr gebraucht wird?
Da das App-Ökosystem vor allem als Überwachungskapitalismus umgesetzt ist, stellt sich die Frage, wie der Einsatz dieser Apps begrenzt und wie das langsame Ausbauen um immer neue Funktionen durch Firmen und Regierungen verhindert werden kann.
Welche Rechenschaftspflichten müssen etabliert werden und welche Mechanismen können einschreiten, wenn Regierungen oder Unternehmen ihre Kompetenzen überschreiten oder anderen Schaden verursachen?
Welche finanziellen und vertraglichen Strukturen können sicherstellen, dass diese Apps nicht den Zwängen zweifelhafter Geschäftsmodelle oder Investoreninteressen unterworfen sind, sondern dem Gemeinwohl, wenn Entwicklung und Betrieb der App an Dritte ausgelagert wird?
Wie können wir sicherstellen, dass Privacy By Design nicht nur eine Worthülse ist- von einigen Technologieanbietern gern genutzt -, sondern tatsächlich von Expert*innen kontrolliert wird, die dem Gemeinwohl verpflichtet sind?
Wie stellen wir sicher, dass die Überprüfung der Apps Perspektiven der Epidemiologie, des Gesundheitssektors, der Soziologie, der Zivilgesellschaft & insb. von marginalisierten Bevölkerungsgruppen einschließt und dabei die besonderen Eigenheiten der App-Ökosysteme berücksichtigt?
Die Apps sollen der gesamten Bevölkerung Dienstleistungen anbieten, ohne neues Personal im Gesundheitssektor einstellen zu müssen. Die Supportlücke wird durch Call Center geschlossen.
Aber wie verhindern wir, dass diese Apps das Gesundheitssystem auf Call Center und Selbsthilfe reduzieren?
Wie stellen wir für diese Apps sicher, dass die Öffentlichkeit mehr ist als nur Rohdatenlieferantin? Dass klar ist, wer für ihren Einsatz verantwortlich ist und wer zur Rechenschaft gezogen werden kann - falls doch irgendwas schief geht?
Und am wichtigsten: Wie stellen wir sicher, dass die Apps nicht für PR-Zwecke benutzt werden und auch nicht, damit die Behörden die Verantwortung auf Einzelne oder Unternehmen abwälzen, denn die Verantwortung für das öffentliche Gesundheitswesen liegt aus guten Gründen bei ihnen.
Diese lange Liste ist nur der Anfang. Hoffentlich legt sie einen Grundstein für die Debatte, die wir haben sollten, während Regierungen und Unternehmen die Pandemie nutzen, um Formen der Zusammenarbeit zu etablieren, die nachhaltig zu Lasten des Gesundheitssystems gehen können.

• • •

Missing some Tweet in this thread? You can try to force a refresh
 

Keep Current with SedaG

SedaG Profile picture

Stay in touch and get notified when new unrolls are available from this author!

Read all threads

This Thread may be Removed Anytime!

PDF

Twitter may remove this content at anytime! Save it as PDF for later use!

Try unrolling a thread yourself!

how to unroll video
  1. Follow @ThreadReaderApp to mention us!

  2. From a Twitter thread mention us with a keyword "unroll"
@threadreaderapp unroll

Practice here first or read more on our help page!

More from @sedyst

15 Mar
One year into the pandemic, in Germany we are encountering debate around apps (see #LucaApp or #ImmunityPassports) that promise to solve the Corona crisis. The current debate forgets important questions for public interest 1/x
Currently the debate is all about "data privacy". But, is that all that is at stake?
Are there other questions that journalists, politicians and civil society could be asking that could ensure these apps serve the public interest? 2/x
Serving the public interest does not begin and end with good data security and privacy but needs to start with whether the apps serve the purpose they are designed for and do so effectively. 3/x
Read 17 tweets
24 Oct 20
"part of what we in an American university have to consider now, what it is for us to have been made custodians of those principles [of free speech] even as we are made to watch when they are dissolved in an infernal public private partnership." Fred Moten
"it is that this ought not to drive us to defend an abstract principle of free speech, which is only ever concretized, and usually at the same moment dishonestly and disgustingly sacralized, in exclusion."
"instead and in refusal of that, lets claim and eruptively assert our fugitive speech, which is fueled by the realization of the conditions we live in"
Read 5 tweets
4 Oct 20
For those interested in the political economy of AI this report has a lot of teasers. Many of them are aligned with some recent papers that talked about the concentration of research in the hands of a few (corporations and their research collaborators).
Report claims OpenAI and Deepmind, but also other big players in the industry are important players in research but do not/cannot publish their code (I hope all our colleagues who now do ethics at these companies consider these structural issues!)
Tools are an important but of expanding infrastructural power of these companies into research institutions, and the report claims Facebook is outpacing Google.
Read 10 tweets
25 Aug 20
When Alex Irpan of Google writes about compute as the way forward for AI, you wonder how much of this is AI pulling on compute vs. compute (and the investment into chips) pulling on AI.
The whole article is as much about economics as about AI, in fact it conflates the two 1/x
It starts with artificial general intelligence being equated with "economically valuable work":

"artificial general intelligence (AGI) [is] an AI system that matches or exceeds humans at almost all (95%+) economically valuable work

2/x
According to Irpan, economics determines also how AI will spread:
"We also don’t have to build AI systems that learn like humans do. If they’re capable of doing most human-level tasks, economics is going to do the rest, whether or not those systems are made in our own image."
3/x
Read 7 tweets
22 May 20
This WP article has highlighted important problems with Gapple's contact tracing efforts & quotes some of my mentors in tech policy. But, from my vantage point, it creates (unintentionally) a false dichotomy between national sovereignty and Gapple (1/x)
washingtonpost.com/technology/202…
My gut response to the first Gapple announcement was not only lack of sovereignty but also democratic process. Sovereignty is not sufficient give the complexity of the relationship between governments & Gapple (2/x)

radicalai.org/e5-seda-gurses
To this day most app initiatives are techno-centric and top down and have side-stepped health authorities as well as civil society. Governments across Europe got pushback for this, and some changed course, e.g., Germany, Belgium and the Netherlands. (3/x)
Read 15 tweets
29 Apr 20
"Watched and still dying"
"I never imagined I would experience more loved ones dying in similar isolation and uncertainty [as AIDS] in my lifetime."
From the wise @Combsthepoet
odbproject.org/2020/04/26/wat…
"I have spoken with several social justice organizers and survivors who confirmed the stigma that accompanied not only the patients, but family members, friends and anyone who came into contact with someone suspected of having HIV or AIDS."
"We have since discovered much more about HIV and AIDS, but not without failed experiments, constant tracking of people living with the virus, and lots of government mistakes, most prominently from the White House."
Read 18 tweets

Did Thread Reader help you today?

Support us! We are indie developers!


This site is made by just two indie developers on a laptop doing marketing, support and development! Read more about the story.

Become a Premium Member ($3/month or $30/year) and get exclusive features!

Become Premium

Too expensive? Make a small donation by buying us coffee ($5) or help with server cost ($10)

Donate via Paypal Become our Patreon

Thank you for your support!

Follow Us on Twitter!