Auf EU Ebene wird übrigens gerade die verpflichtende #Chatkontrolle vorbereitet: Hersteller müssen auf Smartphones verdachtsunabhängig eure Nachrichten scannen. Erkennt die KI eine Straftat, wird eine eine Anzeige beim BKA gegen euch gestellt. Klingt gruselig? #Thread
Was nach Science-Fiction klingt, soll Realität werden. Die Idee dahinter ist, kinderpornographische Inhalte zu bekämpfen. In der Praxis ist die Fehlerquote der KI‘s aber bei ca. 80%. Es landen also haufenweise private Fotos vom Strand, aus dem Bett, … 2/
oder aus eurer Beziehung auf dem Tisch des BKA. Hausdurchsuchung? Kann passieren. Egal wie „bombensicher“ die Verschlüsselung ist: die Nachrichten werden vor der Verschlüsselung auf eurem eigenen Gerät von einer KI gescannt. 3/
Gleichzeitig ist es bereits vor Monaten gelungen, das dahinterliegende kryptographische System (Neural Hashes) in beide Richtungen zu manipulieren. Sowohl konnten strafbare Inhalte mit leichten Veränderungen aus Perspektive der Software „harmlos“ gemacht werden … 4/
als auch umgekehrt. Der praktische Nutzen gegenüber der realen Kriminalität liegt also wahrscheinlich in der Nähe von Null. Auf freiwilliger Basis ist die Chatkontrolle bereits seit Juli in der EU erlaubt (die Praktiken waren vorher natürlich illegal). 5/
Im Dezember stimmt das EU-Parlament nun darüber ab, die Chatkontrolle nun auch verpflichtend einzuführen. Darunter fällt dann wirklich alles: WhatsApp, Signal, Telegram, Zoom, E-Mail usw. Ohne einen einzigen Verdacht.
Das Vorhaben ist deshalb nicht nur ein gefährlicher Eingriff in die Privatsphäre sondern auch ein Novum. Noch nie wurde Software dazu verpflichtet, über fehleranfällige KI auf den Geräten der Nutzer (!) nach Straftaten zu suchen um diese dann zu automatisch anzuzeigen. 6/
Wo hier eine Grenze eingerissen wird, ist der nächste Schritt zu noch mehr und weiterer verdachtsunabhängiger Überwachung nicht groß. Nahezu nutzlose Systeme verringern damit die Hemmschwelle für Zensur und Überwachung Stück für Stück. Und ja, das ist besorgniserregend. 7/
Es gibt bis heute keine belastbare Studie dazu, dass flächendeckende Überwachung am Ende Straftaten verhindert - weil auch Kriminalität sich dementsprechend anders verhält. Das Problem an der systematischen Abschaffung digitaler Freiheitsrechte geht aber noch weiter. 8/
Auch wenn die Systeme heute „nur“ zu vergleichsweise „guten“ Zwecken genutzt werden, sind sie für immer da. Genau wie ihre Daten. Eigentlich sollte spätestens die Erbeutung der biometrischen Daten des US-Militärs durch die Taliban allen klarmachen, wo hier das Problem liegt. 9/
Scheinbar leben viele Politiker*innen aber in einer Phantasiewelt in der das alles super unproblematisch ist und die Privatsphäre von Menschen zur Verhandlungsmasse gegenüber den trügerischen Versprechungen einer Überwachungsindustrie wird. 10/
Am Ende hängen alle Freiheiten in einer digitalen Welt aber von Privatsphäre ab. Und wer diese derart durchlöchert, wacht nicht etwa in einer idyllischen Welt ohne Kriminalität und Sorgen auf sondern in einer Welt, in der Demokratie und Rechtsstaat nicht überleben werden.
• • •
Missing some Tweet in this thread? You can try to
force a refresh
