Thread by @evawolfangel

Als ich im Dezember in Kiew war, wurde meine Kreditkarte gesperrt. Das Sicherheitssystem der Bank dachte, ich sei gehackt worden (Ukraine=#Cybercrime!) Dabei hatte ich mit der gleichen Karte den Flug gekauft. Ist die Banken-KI so schlecht? Ich begann zu recherchieren. (Thread)

Auch in meiner Recherche zum #Europol-Scam fiel mir auf, wie schlecht Banken offenbar aufgestellt sind: Eine Frau hatte zehn Mal rund 2000 Euro unter anderem an unbekannte Konten in Singapur überwiesen. Und 20.000 Euro an eine Kryptowährungsbörse. zeit.de/2022/25/telefo… 2/13

Nicht verdächtig, fand die beteiligte Bank sowie der Dienstleister Wise. Obwohl die Frau noch nie ihr gesamtes Geld nach Singapur überwiesen und in Bitcoin investiert hatte. Sowohl die Bank als auch Wise versicherten mir, dass sie ausgefeiltes maschinelles Lernen einsetzen. 3/13

Wieso erkennen diese sogenannten KI-Systeme so eindeutige Muster nicht? Wieso findet eine Banken-KI es verdächtig, wenn ich in die Ukraine reise (trotz vorheriger Flugbuchung), aber nicht, wenn eine Kundin ihr Konto innerhalb kürzester Zeit in Zig Einzelsummen leert? 4/13

Banken wiegelten meine Interviewanfragen ab. Man wolle den Kriminellen doch nicht zu viel verraten. Dabei hatten viele meiner Recherchen gezeigt: Die Kriminellen wissen schon recht gut, wie sie diese Systeme umgehen können. Beispielsweise dieser hier: zeit.de/2021/21/hacker… 5/13

Ich lernte in teils anonymen Gesprächen: Schlechte Systeme sind eine bewusste Entscheidung – weil #Sicherheit aufwendig ist. Für eine KI ist unser „normales Verhalten“ nicht so intuitiv wie für uns. Doch sie muss dieses Verhalten lernen, um Auffälligkeiten zu entdecken. 6/13

(Spannende Nebenerkenntnis: Offenbar hat auch die Pandemie hier vieles durcheinander gebracht, weil sie das Zahlungsverhalten der meisten Menschen komplett verändert hat. Das heißt, das von der KI gelernte „Normal“ galt auf einmal nicht mehr.) 7/13

Das Trainieren eines Sicherheitssystems auf KI-Basis ist umso aufwendiger und damit teurer, umso feingranularer dieses System arbeiten soll. Ab einem gewissen Punkt ist es für die Banken günstiger, verärgerte Kund:innen zu haben und eventuell einen Schaden zu übernehmen. 8/13

Banken entscheiden sich für schlechtere KI-Systeme, weil es sich anders nicht rechnet. Auf dem Schaden bleiben zudem häufig die Kund:innen sitzen, da sich nicht jede:r einen Rechtsbeistand und eine Klage leisten kann.
Und mein Problem in Kiew kostete die Bank gar nichts. 9/13

"Gute Betrugserkennung profiliert die Kunden", sagte mir Martin Wolf vom Computernotfallteam der Sparkassen – und sie sperre eben nicht by default Zahlungen aus bestimmten Ländern, wie meine Bank das tut. Andererseits: Profiling ist auch problematisch (#Datenschutz/Privacy) 10/13

In Kiew hat mich schließlich Paypal gerettet. Ich weiß nicht, wie ich anders nach Hause gekommen wäre. #Paypal hat vermutlich eines der ausgefeiltesten Profiling-Systeme. Der (vermeintliche?) Tradeoff zwischen Privacy und Security ist das Thema eines meiner nächsten Artikel 11/13

Hier ist das Ergebnis meiner Banken-KI-Recherche. Der Text steht hinter der Paywall – ich lege ihn euch trotzdem ans Herz, denn natürlich steht noch mehr Spannendes drin als diese wichtigsten Punkte aus dem Thread. :) 12/13 #machineLearning

zeit.de/digital/datens…

Servicetipp für die Reisezeit: Wenn ihr in Länder mit hoher Kriminalität reist, sagt es eurer Bank vorher. Oder wechselt: Kleinere Banken investieren mehr in die manuelle Prüfung von Verdachtsfällen. Zb rettete eine Genossenschaftsbank ihre Kundin vor dem Europol-Scam (s.Text) 13