Stoppt den AMS‑Algorithmus

Computer dürfen nicht über Menschen entscheiden!

Bisher 4620 von 5000 Unterschriften.

Paneldiskussion zum AMS-Algorithmus

Dauer: 70 Minuten

Zum Start der Aktionswoche in Oberösterreich, Anfang Mai 2022, bei der für die Abschaffung eines solchen maschinenbasierten Systems geworben wurde, diskutierten Vertreter*innen aus Wissenschaft, Politik, Sozialpartnerschaft und Verwaltung über ihren Zugang zum AMS-Algorithmus. Eine spannende Runde, mit vielen Argumenten und durchaus unerwarteten Wendungen.

Am Podium:
Dr. Doris Allhutter, Senior Scientist, Institut für Technikfolgen-Abschätzung
Mag.a Dagmar Andree, MBA, Leiterin Abt. Wirtschafts-, Sozial- & Gesellschaftspolitik, Kammer für Arbeiter & Angestellte Oberösterreich
Mag. Gerald Loacker, Abgeordneter zum Nationalrat, NEOS
Thomas Lohninger, executive director ; epicenter.works
Dr. Andreas Zavadil, CIPP/E, CIPM, Datenschutzbehörde / Austrian Data Protection Authority
Durch das Gespräch führt : Mag. Daniela Soykan

Mehr Infos zur Veranstaltung

Was sonst noch war ...

Focusgruppen & Report

Im September 2022 fanden unsere Fokusgruppen statt, in denen wir detailliert die Probleme des AMS-Algorithmus in moderierten Gruppengesprächen eruierten. Wir sprachen mit AMS Mitarbeitenden und Betroffenen in unterschiedlichen Zusammensetzungen, um eine möglichst große Vielfalt abzubilden. Dennoch war das Ergebnis überraschend gleich: eine persönliche Betreuung ist sehr wichtig, hilft und wird von allen Seiten gewünscht. Und alle hätten gerne mehr Zeit mit der:dem menschlichen Betreuer:in. Das Geld, das in intransparente Maschinen geflossen ist, sollte hier sehr viel besser investiert werden.

Zu den gesamten Ergebnissen und dem Report:

Der Report als PDF-Datei

Roadshow Pt. II

Weil unsere erste Tour so erfolgreich war und wir bemerkt hatten, dass wir nicht alle Gruppen direkt ansprechen konnten, wiederholten wir die Roadshow noch einmal. Mit etwas anderen Vorzeichen. Bei der zweiten Roadshow legten wir den Focus auf besonders betroffene Communitys. Wir hatten direkt Termine mit Organisationen mit Migrationserfahrung und Gruppen von Mitarbeitenden von Sozialorganisationen in Oberösterreich vor Ort gemacht, um noch effektiver Information und Aufklärung weiter geben zu können.

Mit unserem Tourbus und dem einarmigen Banditen „AMS-Algomat“ haben wir Präsentationen gezeigt, Aufklärungsmaterial verteilt und kamen so mit vielen Personen ins Gespräch. Auch hier war der Dialog sehr fruchtbar und wir konnten selbst weitere Einblicke in die Folgen bei Betroffenen gewinnen. Zusammen mit den Communitys konnten wir bestehende Probleme identifizieren und mögliche Gründe und Lösungen anbieten. Nun können alle mit dem neu erworbenen Wissen tatsächlich tätig werden, Auskunft einfordern und bei Problemen kompetent ins Gespräch gehen.

Video über das Projekt

Das Projekt „Stoppt den AMS-Algorithmus“ lief bis 31.10.2022. Hier könnt ihr eine schöne Kurzdoku als Video sehen:

Das war die Tour ...

Im Mai 2022 waren wir in Oberösterreich auf Tour und haben viele interessante Gespräche mit Betroffenen und Mitarbeitenden des AMS geführt. Alle waren sich meist einig, dass solch ein maschinelles System furchtbar ungerecht ist. Es bleibt reine Geldverschwendung, denn hilfreich ist es weder für die Seite der Arbeitssuchenden noch für die Beschäftigten des AMS , von denen sich viele mit unserer Aktion solidarisierten.

Unser einarmiger Bandit "Algomat" war ein voller Erfolg. Viele "spielten" mit dem Gerät, dessen Programmierung auf Basis der bekannten Daten über den AMS-Algorithmus erfolgt war. Die Maschine machte es leicht zu verstehen, wie ungerecht und zufallsbasiert das bestehende System ist.

Unser Fazit nach dieser Tour ist noch klarer: dieser AMS-Algorithmus ist eine teure Totgeburt einer Politik, die propagierte, mit Hilfe einer digitalen Maschine öffentliches Geld zu sparen. Erreicht wurde das Gegenteil, nämlich die Verschwendung von Steuergeld in eine teure Digitallösung, die nur ungerecht ist und bereits Anwälte, die Datenschutzbehörde und das Gericht beschäftigt.

Termine

  • 2. Mai AMS Traun
  • 3. Mai AMS Wels
  • 4. Mai AMS Steyr
  • 5. Mai AMS Vöcklabruck
  • 6. Mai AMS Linz

Die Einführung des AMS-Algorithmus ist ein gefährlicher Dammbruch.

Bislang war es so, dass der Einsatz ganz neuer Technologien zumindest öffentlich debattiert und mit einem Gesetz demokratisch legitimiert wurde. Das ist beim AMS-Algorithmus nicht so.

Dieses System wurde ohne öffentliche Debatte entwickelt und präsentiert. Die Zivilgesellschaft war in diesen Prozess nicht eingebunden und bis heute fehlt es hier grundlegend an Transparenz, wie dieses System arbeitet und über uns entscheidet.

Ein ähnliches System wurde in Polen vom Verfassungsgerichtshof aufgehoben. Auch in den Niederlanden wurde ein algorithmenbasiertes System, das Sozialhilfeempfänger*innen kontrollieren sollte für rechtswidrig erklärt und eingestellt.

Wir dürfen nicht zulassen, dass Merkmale, auf die man keinen Einfluss hat, entscheidend dafür sind, ob Menschen Aus- und Weiterbildungen verboten werden. Algorithmische Systeme müssen Vorurteile und Ungerechtigkeiten bekämpfen und dürfen diese Ungerechtigkeiten nicht auch noch einzementieren.

Unsere 7 Forderungen

1. Menschen, nicht Computer sollen entscheiden

Menschen sollen anhand nachvollziehbarer Kriterien über den Zugang zu staatlichen Leistungen entscheiden, statt Entscheidungen eines Computers nur abzunicken.

Der AMS-Algorithmus ist abzulehnen und muss abgeschaltet werden. Ein Computer darf nicht über menschliche Schicksale entscheiden und der Zugang zu staatlichen Leistungen darf nicht von einem Computer reguliert werden. Entscheidungen müssen nachvollziehbar, transparent und mit menschlichem Maß getroffen werden. Das System ein gefährlicher Präzedenzfall politische Entscheidungen an Algorithmen auszulagern.

Selbst wenn das System (noch) keine vollautomatischen Entscheidungen treffen sollte, darf es auch keine Entscheidungen vorgeben, die durch das AMS-Personal nur noch abgenickt werden. Die AMS-Beratungstermine dauern meist nur 15 Minuten und es besteht enormer Rechtfertigungsdruck dem Computer nicht zu widersprechen.

2. Fähigkeiten fördern, statt Schwächen bestrafen

Mehr Bildung ermöglichen, durch Förderung und Ermöglichung von (Weiter-)Bildung

Menschen sollen aufgrund ihrer Fähigkeiten und Stärken gefördert werden, dazu braucht es eine Aufstockung der Weiterbildungs- und Schulungsmaßnahmen von Arbeitssuchenden.

Es muss Arbeitssuchenden erlaubt werden, ein Uni- oder FH-Studium zu beginnen (dies ist derzeit nur dann erlaubt, wenn Arbeitssuchende schon zu Berufszeiten parallel studiert haben). Auch soll das AMS selbstbezahlte Weiterbildungen, z. B. Kurse, die nur wenige Tage dauern, erlauben.

3. Mehr Ressourcen für das AMS

Wir fordern mehr und besser ausgebildete Berater*innen, die ausreichend Zeit für Beratungen haben.

Das Verhältnis von Berater*innen zu Arbeitssuchenden beträgt in Deutschland 1:100, in Österreich hingegen nur 1:250. Daran sieht man, dass eine Aufstockung in diesem Bereich denkbar und durchaus sinnvoll wäre, denn ein besseres Betreuungsverhältnis bedeutet bessere Jobchancen und qualitätsvollere Betreuung. Das AMS braucht nicht nur mehr Geld für die Aus- und Weiterbildung seiner Berater*innen. Ebenso notwendig ist die qualitative Aufstockung von sinnvollen Weiterbildungs- und Schulungsmaßnahmen von Arbeitssuchenden.

4. Recht auf Information

Wir fordern eine umfassende proaktive Aufklärung über die Rechte von Arbeitssuchenden.

Das AMS wird durch uns alle finanziert und ist daher ein Dienstleistungsanbieter mit dem Auftrag der Allgemeinheit zu helfen. Er muss allen Menschen auf Augenhöhe begegnen. Damit Menschen gleichberechtigt mit ihren Berater*innen reden können, brauchen sie zuallererst Informationen darüber, was ihre Rechte und Pflichten in Zusammenhang mit dem AMS sind; begonnen damit, woran ihr Anspruch auf Arbeitslosengeld geknüpft ist - Ob und unter welchen Umständen ihnen das Geld gestrichen werden darf - Ob sie eine Betreuungsvereinbarung mit dem AMS eingehen müssen oder ob dies optional ist - Wie ihre Informations- und Auskunftsrechte aussehen und wie das rechtliche Verhältnis zwischen ihnen und externen Partnerunternehmen des AMS geregelt ist.

5. Umfassende Transparenz

Projekte und Programme, die mit unser aller Geld gestartet werden müssen höchstmögliche Transparenz aufweisen, um evaluierbar zu sein.

Der AMS-Algorithmus ist jahrelang mit hohen Kosten unter Ausschluss der Öffentlichkeit entwickelt worden. Eine informierte Debatte war schon allein deshalb nicht möglich, weil weder die Datenbasis des Systems noch seine Resultate veröffentlicht wurden. Die Schulungsunterlagen für Berater*innen und Prozesse für Widersprüche gegen dem Algorithmus werden weiterhin geheim gehalten. Eine wissenschaftliche Aufarbeitung und demokratische Debatte über das Projekt sind so ausgeschlossen.

Wir fordern umfassende und proaktive Transparenz vom AMS. Aufklärung darf nicht erst durch öffentlichen Druck erfolgen. Veröffentlicht werden müssen zumindest die mathematischen Modelle, die eingesetzte Software, die anonymisierte Datenbasis, die konkrete Funktionsweise des Systems und die Ergebnisse des Berechnungsprozesses für einzelne Gruppen. Ebenso muss transparent dargelegt werden, wie sich der AMS-Algorithmus auf die praktische Beratung und Fördervergabe auswirkt. Auch die Maßnahmen, die das AMS bereits aufgrund der Kritik gesetzt hat, wie Schulungsunterlagen, das Zusammenspiel mit der Umstrukturierung des AMS und begleitende Prozesse, sowie Beschwerdemöglichkeiten für Betroffene, müssen endlich veröffentlicht werden.

6. Risikocheck für Algorithmen

Wir fordern eine Überprüfung von Algorithmen auf deren Technik und soziale Auswirkungen, bevor diese eingeführt werden (Verpflichtung für ein vorgelagertes Algorithmic Impact Assessment).

Automatisierte Systeme, die negative Konsequenzen für Menschen haben könnten, müssen vor ihrer Einführung genau auf Funktionsweise und eventuelle Folgewirkungen hin geprüft werden. Dies muss bei allen Algorithmen geschehen, die potentiell in Grundrechte eingreifen

Hier gibt es internationale Best-Practices der Kontrolle von Algorithmen, ein sogenanntes Algorithmic Impact Assessment. Dies vorzunehmen wurde beim AMS-Algorithmus verabsäumt und muss zukünftig verpflichtend sein.

Algorithmen müssen auf Fehler im System geprüft werden, Biases in den Daten und daraus resultierende negative Feedback Zyklen müssen analysiert werden, bevor solche Systeme gestartet und flächendeckend eingesetzt werden.

Nicht jede statistische Regression folgt dem Prinzip von Ursache und Wirkung. Negative Effekte auf Menschen aufgrund von Fehlanalysen müssen vermieden werden.

Deswegen fordern wir ein Algorithmic Impact Assessment, wie es bereits Kanada oder die Stadt New York eingeführt haben.

7. Nur freiwillige Teilnahme am Algorithmus

Wir fordern eine optionale Teilnahme am AMS-Algorithmus (Opt-In) und die Entkoppelung von jeder Fördervergabe. Wir wollen ein System, das so gut ist, dass die Betroffenen freiwillig daran teilnehmen

Das AMS ist in einer Machtposition gegenüber den Arbeitssuchenden. Im Sinne des Datenschutzes fordern wir deshalb die Freiwilligkeit der Teilnahme aller Arbeitssuchenden am AMS-Algorithmus. Arbeitssuchenden müssen ihre informierte Zustimmung geben, bevor das System sie kategorisiert. Diese Zustimmung kann jederzeit widerrufen werden, wodurch auch alle berechneten Werte des Algorithmus gelöscht werden müssen. Aus der Weigerung an diesem System teilzunehmen, dürfen den Arbeitssuchenden keine Nachteile entstehen.

Kontaktiere deinen Minister!

Prof. Dr. Martin Kocher

Bundesminister für Arbeit und Wirtschaft

Bundesministerium für Arbeit und Wirtschaft
Untere Donaustraße 13-15, 1020 Wien

Stelle ein Auskunftsbegehren!

Einmal im Jahr kannst du gratis all deine Daten von allen Firmen und Behörden anfordern. Hier kannst du das für das AMS tun.

Zum Generator

Nur wenn du seit 2019 arbeitslos warst hat das AMS eine algorithmische Einstufung von dir, das sind in etwa 2 Seiten des Auskunftsbegehrens (eine Infoseite und eine Auskunftsseite). Durchschnittlich gesehen hat ein Auskunftsbegehren beim AMS (bei älteren Personen) ca 80-150 Seiten. Auf Nachfrage kann dir stattdessen auch dein/e AMS-Berater*in über deine algorithmische Einstufung Auskunft erteilen.

Unterstützer*innen

Die Kampagne wird von folgenden Organisationen getragen:

Bleib informiert!