Zaustavlja AMS algoritam

Računala ne smiju donositi odluke o ljudima!

4620 od 5000 potpisa do sada.

Panel diskusija o AMS algoritmu

Dauer: 70 Minuten

Na početku tjedna kampanje u Gornjoj Austriji, početkom svibnja 2022., tijekom koje se promicalo ukidanje takvog sustava temeljenog na stroju, predstavnici znanosti, politike, socijalnog partnerstva i uprave raspravljali su o svom pristupu AMS algoritmu. Uzbudljiva runda, s mnogo svađa i sasvim neočekivanih obrata.

Am Podium:
Dr. Doris Allhutter, Senior Scientist, Institut für Technikfolgen-Abschätzung
Mag.a Dagmar Andree, MBA, Leiterin Abt. Wirtschafts-, Sozial- & Gesellschaftspolitik, Kammer für Arbeiter & Angestellte Oberösterreich
Mag. Gerald Loacker, Abgeordneter zum Nationalrat, NEOS
Thomas Lohninger, executive director ; epicenter.works
Dr. Andreas Zavadil, CIPP/E, CIPM, Datenschutzbehörde / Austrian Data Protection Authority
Durch das Gespräch führt : Mag. Daniela Soykan

Mehr Infos zur Veranstaltung

Was sonst noch war ...

Focusgruppen & Report

Im September 2022 fanden unsere Fokusgruppen statt, in denen wir detailliert die Probleme des AMS-Algorithmus in moderierten Gruppengesprächen eruierten. Wir sprachen mit AMS Mitarbeitenden und Betroffenen in unterschiedlichen Zusammensetzungen, um eine möglichst große Vielfalt abzubilden. Dennoch war das Ergebnis überraschend gleich: eine persönliche Betreuung ist sehr wichtig, hilft und wird von allen Seiten gewünscht. Und alle hätten gerne mehr Zeit mit der:dem menschlichen Betreuer:in. Das Geld, das in intransparente Maschinen geflossen ist, sollte hier sehr viel besser investiert werden.

Zu den gesamten Ergebnissen und dem Report:

Der Report als PDF-Datei

Roadshow Pt. II

Weil unsere erste Tour so erfolgreich war und wir bemerkt hatten, dass wir nicht alle Gruppen direkt ansprechen konnten, wiederholten wir die Roadshow noch einmal. Mit etwas anderen Vorzeichen. Bei der zweiten Roadshow legten wir den Focus auf besonders betroffene Communitys. Wir hatten direkt Termine mit Organisationen mit Migrationserfahrung und Gruppen von Mitarbeitenden von Sozialorganisationen in Oberösterreich vor Ort gemacht, um noch effektiver Information und Aufklärung weiter geben zu können.

Mit unserem Tourbus und dem einarmigen Banditen „AMS-Algomat“ haben wir Präsentationen gezeigt, Aufklärungsmaterial verteilt und kamen so mit vielen Personen ins Gespräch. Auch hier war der Dialog sehr fruchtbar und wir konnten selbst weitere Einblicke in die Folgen bei Betroffenen gewinnen. Zusammen mit den Communitys konnten wir bestehende Probleme identifizieren und mögliche Gründe und Lösungen anbieten. Nun können alle mit dem neu erworbenen Wissen tatsächlich tätig werden, Auskunft einfordern und bei Problemen kompetent ins Gespräch gehen.

Video über das Projekt

Das Projekt „Stoppt den AMS-Algorithmus“ lief bis 31.10.2022. Hier könnt ihr eine schöne Kurzdoku als Video sehen:

To je bila turneja...

U svibnju 2022. bili smo na turneji u Gornjoj Austriji i imali smo mnogo zanimljivih razgovora s pogođenima i zaposlenicima AMS-a. Svi su se uglavnom složili da je takav strojni sustav užasno nepravedan. To ostaje čisto bacanje novca, jer nije od pomoći ni tražiteljima posla ni djelatnicima AMS-a, od kojih su se mnogi solidarizirali s našom kampanjom.

Naš jednoruki bandit "Algomat" bio je pun pogodak. Mnogi su se "igrali" uređajem koji je programiran na temelju poznatih podataka preko AMS algoritma. Stroj je olakšao razumijevanje koliko je postojeći sustav nepravedan i nasumičan.

Naš zaključak nakon ove turneje još je jasniji: ovaj AMS algoritam skupi je mrtvorođenče politike koja se propagirala korištenjem digitalnog stroja za uštedu javnog novca. Postignuto je upravo suprotno, rasipanje novca poreznih obveznika na skupo digitalno rješenje koje je samo nepravedno i već zapošljava odvjetnike, tijelo za zaštitu podataka i sud.

Događaji

2.svibanj AMS Traun
3. svibnja AMS Wels
4. svibnja AMS Steyr
5. svibnja AMS Vöcklabruck
6. svibnja AMS Linz

Uvođenje AMS algoritma je opasan proboj brane .

Do sada je to bila uporaba potpuno novih tehnologija barem javno raspravljano i sa zakonom demokratski legitimiran. To nije slučaj s AMS algoritmom.

Ovaj je sustav razvijen i predstavljen bez javne rasprave . Civilno društvo nije bilo uključeno u ovaj proces i do danas postoji temeljni nedostatak transparentnosti kako ovaj sustav funkcionira i kako odlučuje o nama.

Sličan sustav u Poljskoj je srušio Ustavni sud . I u Nizozemskoj je sustav baziran na algoritmu koji je trebao kontrolirati primatelje socijalne pomoći proglašen nezakonitim i ugašen.

Ne smijemo dopustiti da karakteristike nad kojima nemamo kontrolu određuju je li ljudima zabranjeno obrazovanje i osposobljavanje. Algoritamski sustavi moraju se boriti protiv predrasuda i nepravde, a ne i ove nepravde .

Naših 7 zahtjeva

1. Ljudi, a ne računala, trebaju odlučivati

Ljudi bi se trebali temeljiti na razumljivim kriterijima odlučuje o pristupu državnim povlasticama, umjesto da samo klimne prema odlukama računala.

AMS algoritam mora biti odbijen i isključen. Računalo ne smije odlučivati o ljudskim sudbinama i pristup državnim službama ne smije biti reguliran računalom. Odluke se moraju donositi na razumljiv, transparentan i human način. Sustav postavlja opasan presedan za prepuštanje političkih odluka algoritmima.

Čak i ako sustav (još) ne donosi nikakve potpuno automatske odluke, ne smije donositi odluke koje tada odobrava samo osoblje AMS-a. Sastanci za konzultacije u AMS-u obično traju samo 15 minuta i postoji ogroman pritisak da se opravda da se ne proturječi računalu.

2. Poticati vještine umjesto kažnjavanja slabosti

Omogućavanje većeg obrazovanja promicanjem i omogućavanjem (daljnjeg) obrazovanja

Ljude treba promicati na temelju njihovih vještina i snaga, a to zahtijeva povećanje mjera daljnjeg obrazovanja i osposobljavanja tražitelja posla.

Tražiteljima posla mora se omogućiti početak studiranja na sveučilištu ili tehničkom fakultetu (ovo je trenutno dopušteno samo ako su tražitelji posla već studirali dok su radili). AMS bi također trebao ponuditi samoplaćenu daljnju obuku, npr. B. Dopustite tečajeve koji traju samo nekoliko dana.

3. Više resursa za AMS

Tražimo više i bolje obučenih savjetnika koji imaju dovoljno vremena za konzultacije.

Omjer savjetnika i tražitelja posla u Njemačkoj je 1:100, au Austriji samo 1:250 . To pokazuje da bi povećanje ovog područja bilo zamislivo i imalo smisla, jer bolji omjer nadzora znači bolje mogućnosti zapošljavanja i kvalitetniji nadzor. AMS ne samo da treba više novca za obuku i daljnju edukaciju svojih savjetnika. Jednako je potrebno i kvalitativno povećanje značajnih mjera daljnjeg obrazovanja i osposobljavanja tražitelja posla.

4. Pravo na informaciju

Pozivamo na sveobuhvatnu proaktivnu edukaciju o pravima tražitelja posla.

AMS financiramo svi mi i stoga je pružatelj usluga s mandatom pomoći široj javnosti. Mora se prema svima odnositi kao prema jednakima. Kako bi ljudi mogli ravnopravno razgovarati sa svojim savjetnicima, najprije im je potrebna informacija o svojim pravima i obvezama u vezi s AMS-om; počevši od toga s čime je povezano vaše pravo na naknadu za nezaposlene - može li se i pod kojim okolnostima novac smanjiti - morate li sklopiti ugovor o skrbi s AMS-om ili je to neobavezno - kako izgledaju vaša prava na informacije i informacije i kakav je pravni odnos između njih i vanjskih partnerskih tvrtki AMS-a.

5. Potpuna transparentnost

Projekti i programi koji se pokreću svim našim novcem moraju imati najveću moguću transparentnost da bi bili procjenjivi.

Algoritam AMS se godinama razvijao uz velike troškove u kameri. Informirana rasprava nije bila moguća jednostavno zato što ni baza podataka ni rezultati sustava nisu objavljeni. Materijali za obuku savjetnika i postupci za prigovore na algoritam i dalje će biti tajni. Znanstvena recenzija i demokratska rasprava o projektu su stoga isključeni.

Od AMS-a zahtijevamo sveobuhvatnu i proaktivnu transparentnost. Pritisak javnosti ne bi trebao biti jedino sredstvo razjašnjenja. U najmanju ruku, moraju biti objavljeni matematički modeli, korišteni softver, anonimizirana baza podataka, kako sustav radi i rezultati procesa izračuna za pojedine grupe. Također mora biti transparentno kako AMS algoritam utječe na praktične savjete i financiranje. Mjere koje je AMS već poduzeo kao odgovor na kritike, kao što su dokumenti o obuci, interakcija s restrukturiranjem AMS-a i popratnim procesima, kao i mogućnosti pritužbi za pogođene, konačno moraju biti objavljene.

6. Provjera rizika za algoritme

Zahtijevamo reviziju algoritama za njihovu tehnologiju i društveni učinak prije nego što budu uvedeni (obaveza za prethodnu algoritamsku procjenu utjecaja).

Automatizirani sustavi koji bi mogli imati negativne posljedice za ljude moraju se pažljivo provjeriti prije nego što se uvedu kako bi se osiguralo da rade i ima li posljedica. To se mora dogoditi sa svim algoritmima koji potencijalno ometaju temeljna prava

Postoje međunarodne najbolje prakse za provjeru algoritama, takozvana algoritamska procjena utjecaja. Ovo je učinjeno u AMS algoritam je promašen i mora biti obavezan u budućnosti.

Algoritme se moraju provjeriti na greške u sustavu, pristranosti u podacima a rezultirajuće cikluse negativne povratne informacije potrebno je analizirati, prije nego što se takvi sustavi pokrenu i implementiraju širom svijeta.

Ne slijedi svaka statistička regresija načelo uzroka i pogreške Posljedica. Negativni učinci na ljude zbog misanalize moraju treba izbjegavati.

Zato pozivamo na algoritamsku procjenu učinka, kao što su Kanada i grad New York već uveli.

7. Samo dobrovoljno sudjelovanje u algoritmu

Zahtijevamo izborno sudjelovanje u AMS algoritmu (opt-in) i odvajanje od bilo kakvog financiranja. Želimo sustav koji je toliko dobar da pogođeni sudjeluju dobrovoljno

AMS je u poziciji moći nad tražiteljima posla. Što se tiče zaštite podataka, stoga zahtijevamo da sudjelovanje bude dobrovoljno svih tražitelja posla na AMS algoritmu. Tražitelji posla trebaju svoje dati informirani pristanak prije nego što ih sustav kategorizira. Ovaj Suglasnost se može opozvati u bilo kojem trenutku, što također uključuje sve naplaćene Vrijednosti algoritma moraju biti obrisane. Od odbijanja ovoga Da bi sudjelovali u sustavu, tražitelji posla ne smiju trpjeti nikakve nedostatke.

Podržite zahtjeve sada!