Thread by @DigiSocietyAt

Vorstellungsrunde des #DigiTalk

Was ist "Künstliche Intelligenz"? Ein Sammelbegriff für viele neue Technologien, die der Gewinnung von neuem Wissen aus vorhandenen Daten dienen sollen. Problem: wir haben erst eine ungenaue Vorstellung davon, was "Natürliche Intelligenz" ausmacht. #DigiTalk

Was will die Gesellschaft von der Technologie? Schlöggl (AK Wien): Den Menschen helfen und schützen, Beispiel Bombenentschärfung durch Roboter. Auch selbstfahrende U-Bahnen helfen, indem Fahrerinnen nicht mehr traumatischen Situationen ausgesetzt werden.

Problem: Die Entscheidungen von KI sind (derzeit) nicht nachvollziehbar und können daher nur schwer auf Fairness und Diskriminierungsfreiheit überprüft werden. Das wird eine wichtige Forderung für die nächste Generation sein.

Fleischer (IV): es gibt bereits technische Konzepte für "explainable" KI, die die Entscheidungen erklären oder wenigstens nachvollziehbar machen kann. Man darf aber aus dem derzeitigen Stand nicht zu weit in die Zukunft projizieren, da die Entwicklung überraschende Sprünge macht.

Zehetmaier (Women in AI): es braucht eine Art TÜV für KI, der für die Risikoabschätzung zuständig ist. Und auch moralische Instanzen, Beispiel autonome militärische Kampfroboter. #DigiTalk

Interessante Änderung bei der juristischen Einschätzung: bisher wird Strafbarkeit und Schuld im Nachhinein beurteilt und gefragt, ob sich ein "normaler" Mensch auch so verhalten hätte. Bei KI müssen wir uns im Vorhinein überlegen, wie zu reagieren ist.

Katzlberger (Tunnel23): es ist unmöglich, alles Verhalten moralisch im Vorhinein festzulegen.
Einwurf Publikum: für selbstfahrende Autos sollte die Erkennung von Menschen deaktiviert werden und das Auto soll nach einfachen Regeln entscheiden, zuerst recht dann links ausweichen.

Katzlberger: die DSGVO ist eher ein Hemmschuh für die KI Entwicklung, weil sich niemand traut, personenbezogene Daten in KI einfließen zu lassen, weil die rechtliche Lage unklar ist.

Zehetmaier: es wird in der Zukunft wichtig sein, dass Menschen die Entscheidungen von Maschinen anfechten und Erklärungen fordern. Wird KI mit rassistisch oder sexistisch verzerrten Daten trainiert, dann wird sie auch verzerrte Entscheidungen treffen. #DigiTalk

Katzlberger erinnert an das Fiasko bei Google, deren Bilderkennung farbige Frauen als Gorillas klassifiziert haben, weil zu wenig Trainingsdaten für farbige Frauen vorlagen.

Zehetmaier ergänzt um die Aktion, wo Google Obdachlosen ein Mittagessen für ihr Bild gezahlt hat um an Bildmaterial zu kommen,ohne die Obdachlosen genügend über den Zweck aufzuklären.

Auch der AMS-Algorithmus ist ein gutes Beispiel, wie menschlicher Bias in technische Form gegossen wird. Es bedarf einer Diskussion der moralischen Ziele, die in Algorithmen gegossen werden sollen. #DigiTalk

Jetzt geht die Diskussion ins Publikum.
Klarstellung: bei selbstfahrenden Autos sollen moralische Entscheidungen (wer wird beim Unfall geschädigt) durch Zufallsentscheidungen ersetzt werden.

Thema juristische Entscheidungen durch KI. Auch Richter entscheiden zB vor dem Mittagessen über denselben Sachverhalt anders als nach dem Mittagessen. Bzw gibt es einen "Schulterschlusseffekt", dass man sich der Meinung von Peers anschließt.

Thema "Offenlegung von Algorithmen": in den Algorithmen liegen Geschäftsgeheimnisse, daher ist eine Offenlegung nicht möglich. Lösung durch "Prüfsiegel" wie beim Auto?

Wie kann eine EU-weite Regulierung aussehen? Das Thema Steuer zeigt die Problematik. Solange die Staaten durch Konkurrenz etwas zu gewinnen haben ist eine einstimmige Lösung kaum möglich.

Jetzt eine sehr interessante Diskussion zu möglichen juristischen Lösungen über Produkthaftung bis hin zu einer eigenen Rechtspersönlichkeit für KI-Systeme.

Zum Abschluss die Frage: werden wir durch KI alle arbeitslos?
Eigentlich nicht, da die KI besonders am Anfang kontrolliert werden müssen. Ist eine Ausbildungsfrage, nicht jeder wird sich dafür eignen.

Ein wichtiges Thema wird auch die Frage einer Maschinen-Steuer sein, um den Ausfall der Einkommensteuer zu kompensieren.

Auch wichtig wird sein, Frauen in den Bereich der Programmierung zu bringen, weil sonst ein männlicher Bias in der Technik perpetuiert wird.

Eine weitere Idee wäre eine "Arbeitsversicherung" statt Arbeitslosenversicherung, die man in Anspruch nehmen kann um sich unabhängig vom Arbeitgeber weiterbilden zu können.

Welche Themen müssen noch besprochen werden?
Wichtiges Thema ist der Energieverbrauch von KIs, nicht alles muss durch KI gelöst werden, menschliche Geistesarbeit soll wertvoll bleiben.

Das Verständnis für Risiken aber auch Chancen gehört durch Ausbildung gefördert.
Wenn KI uns Arbeit abnimmt, müssen wir mehr Mut zur Arbeitslosigkeit haben, Stichwort Bedingungsloses Grundeinkommen.

Jetzt zum gemütlichen Teil...