Thread by @anked

Versprochen ist Versprochen. Hier ein kurzer🧵 zu meiner Kleinen Anfrage über den Einsatz von Künstlicher Intelligenz bei Bundesbehörden, die nun endlich vollständig veröffentlicht wurde (link zu den Originaldokumenten am Ende). #kleineAnfrage #KünstlicheIntelligenz #Bundestag /1

In über 80 Fällen wird bereits #KünstlicheIntelligenz (KI) in Einrichtungen des Bundes eingesetzt, weitere 190 Forschungsvorhaben (inkl Pilotprojekte u Reallabore) werden von der Bundesregierung mit mehr als 1,8 Mrd Euro gefördert💸. #KleineAnfrage #KI /2

Die Anwendungsfälle von #KI sind vielfältig: @rki_de analysiert damit epidemiologische Daten, die Generalzolldirektion Geldwäscheverdachtsfälle, eine Bundesanstalt untersucht die Dichte von Manganknollen auf dem Meeresboden u prognostiziert Grundwasserstände... #kleineAnfrage /3

Mit #KI untersuchen Behörden Fischereiimporte o. den Zustand v Wäldern, zählen + klassifizieren Organismen oder analysieren Unfälle. Die Bundeswehr "extrahiert Entitäten von Akteuren im Cyberraum", eine Behörde will Schiffe mit KI lenken, der Wetterdienst sagt Wetter voraus. /4

Das @BMI_Bund entwickelt Chatbots u Bots für Formulare (gut gemacht, kann das eine feine Sache sein u die Hürden für Sozialansprüche senken - wenn die Zivilgesellschaft einbezogen wird u Algorithmen transparent sind!), aber es gibt auch Anwendungen, die schwieriger sind...#KI /5

zB will das @BMI_Bund #KI für die Kontrolle von Personen u Gepäck zur Flugsicherheit einsetzen u das @BAMF_Dialog nutzt KI, um Anhörungsniederschriften auszuwerten u Geheimdiensten zuzuarbeiten u diverse Sicherheitsbehörden haben weitere Anwendungsfälle, -aber die sind geheim./6

Ausgerechnet in bes. grundrechtssensiblen Bereichen wird mein parl. Auskunftsrecht erheblich eingeschränkt. Zum KI-Einsatz beim @BfV_Bund u zu einigen Fällen beim @bka erfahre ich überhaupt nichts, die von ZITIS, Bundespolizei u einige des BKA nur als Verschlusssache. #KI /7

Die BuReg bleibt also in Sachen #KI-Einsatz mit Grundrechtsbezug lieber eine Blackbox, statt parlamentarische Kontrolle umfassend zu erlauben u die notwendige gesellschaftl. Debatte zu ermöglichen. Gerade für solche KI-Anwendungen braucht es Debatte u kritischen Blick! /8

Noch etwas fand ich in der Antwort der #BuReg auf meine Kleine Anfrage erschreckend: offensichtlich haben Bundesbehörden keinen Schimmer von potenziellen Risiken durch #KI u wie man sie systematisch bewertet. Ich fragte nämlich, ob ein Risikoklassenmodell dafür genutzt wurde. /9

Den Einsatz standardisierter Verfahren zur Bewertung von Risiken durch KI-Systeme empfahlen: Datenethikkommission, Enquete Kommission #KI des Bundestages u EU Kommission. Risikoklassenmodelle sind solche Verfahren, die eine Risiko-Klassifizierung von KI-Systemen ermöglichen. /10

Was glaubt Ihr, wie oft kam ein #Risikoklassenmodell zum Einsatz beim für u. wider eines #KI-Systems bei den 86 Anwendungsfällen des Bundes? Die Antwort ist: 1!
Einige weitere Fälle schrieben das zwar, hatten aber offenbar die Frage überhaupt nicht verstanden. /11

Das @RKI schrieb z.B., dass es Risikoklassen "frisch infiziert" u "infiziert vor 6 Mon." unterscheidet🙈. Aber es ging nicht um Viren u Ansteckungsgefahren, sondern um Risikoklassen für das #KI-System! Auch das Bundesamt für Strahlenschutz schrieb von Strahlungsrisiken 🙈/12

Die einzige Behörde, die die Frage richtig verstand u beantwortete, war @destatis, dort wurde ein #Risikoklassenmodell entsprechend der EU Empfehlungen für d Einsatz eines #KI-Systems verwendet. Vielleicht wurde auch bei geheimen Fällen das Risiko bewertet, ich glaubs nicht. /13

Liebe 🚦-Koalition: setzt den Rat der #Datenethikkommission um! Es braucht einheitl. + verbindl. Prozesse für Bewertung & Einsatz von #KI-Systemen im Bund! Dafür braucht es ein geeignetes Risikoklassenmodell + Vorgaben, welche Konsequenzen die Risikoeinstufungen haben. /14

Zum Schluss noch ein paar Links:
Meine Analyse als Langfassung gibts hier: mdb.anke.domscheit-berg.de/2022/01/kleine…

Die Dokumente mit den Antworten der BuReg gibts hier: dserver.bundestag.de/btd/20/004/20

Eine großartige Vorabberichterstattung von @evawolfangel gabs hier (€): zeit.de/digital/2022-0… /15

⬆️(Thread zu #KI Einsatz im Bund - eine aufschlussreiche Kleine Anfrage) @algoethik @algorithmwatch @nettwerkerin @lopalasi @Senficon @Linuzifer @HonkHase @timpritlove @JennyGnther

Der Link zu den Dokumenten der Antwort der Bundesregierung auf meine #KleineAnfrage zum Einsatz von #KI funktionierte offenbar nicht, hier daher noch einmal: dserver.bundestag.de/btd/20/004/200…