Zaustavlja AMS algoritam

Računala ne smiju donositi odluke o ljudima!

4493 od 5000 potpisa do sada.

Panel diskusija o AMS algoritmu

Dauer: 70 Minuten

Na početku tjedna kampanje u Gornjoj Austriji, početkom svibnja 2022., tijekom koje se promicalo ukidanje takvog sustava temeljenog na stroju, predstavnici znanosti, politike, socijalnog partnerstva i uprave raspravljali su o svom pristupu AMS algoritmu. Uzbudljiva runda, s mnogo svađa i sasvim neočekivanih obrata.

Am Podium:
Dr. Doris Allhutter, Senior Scientist, Institut für Technikfolgen-Abschätzung
Mag.a Dagmar Andree, MBA, Leiterin Abt. Wirtschafts-, Sozial- & Gesellschaftspolitik, Kammer für Arbeiter & Angestellte Oberösterreich
Mag. Gerald Loacker, Abgeordneter zum Nationalrat, NEOS
Thomas Lohninger, executive director ; epicenter.works
Dr. Andreas Zavadil, CIPP/E, CIPM, Datenschutzbehörde / Austrian Data Protection Authority
Durch das Gespräch führt : Mag. Daniela Soykan

Mehr Infos zur Veranstaltung

Što je slijedeće ...

Do rujna 2022. detaljne probleme strojnog, automatiziranog i netransparentnog sustava treba raspraviti u ciljanim fokus grupama. U moderiranim grupama s pogođenim osobama raspravljamo i analiziramo mogu li se algoritmi uopće koristiti za osiguranje koje jamči država. Rezultate ćemo objaviti.

Također ćemo ponovno biti na licu mjesta u Gornjoj Austriji. S našim turističkim autobusom i jednorukim banditom "Algomat" želimo posjetiti teško pogođene zajednice i educirati ih o sustavu i njegovim problemima. Trenutno tražimo organizacije i udruge u Gornjoj Austriji koje rade s izbjeglicama ili dugotrajnim tražiteljima posla. Ako ste ili poznajete predstavnika takve zajednice, npr. sirijske kulturne skupine ili hrvatske kulturne udruge itd. Molimo kontaktirajte nas: ams-algorithmus@epicenter.works
Također trenutno tražimo jezične posrednike kako bismo lakše komunicirali na licu mjesta.

To je bila turneja...

U svibnju 2022. bili smo na turneji u Gornjoj Austriji i imali smo mnogo zanimljivih razgovora s pogođenima i zaposlenicima AMS-a. Svi su se uglavnom složili da je takav strojni sustav užasno nepravedan. To ostaje čisto bacanje novca, jer nije od pomoći ni tražiteljima posla ni djelatnicima AMS-a, od kojih su se mnogi solidarizirali s našom kampanjom.

Naš jednoruki bandit "Algomat" bio je pun pogodak. Mnogi su se "igrali" uređajem koji je programiran na temelju poznatih podataka preko AMS algoritma. Stroj je olakšao razumijevanje koliko je postojeći sustav nepravedan i nasumičan.

Naš zaključak nakon ove turneje još je jasniji: ovaj AMS algoritam skupi je mrtvorođenče politike koja se propagirala korištenjem digitalnog stroja za uštedu javnog novca. Postignuto je upravo suprotno, rasipanje novca poreznih obveznika na skupo digitalno rješenje koje je samo nepravedno i već zapošljava odvjetnike, tijelo za zaštitu podataka i sud.

Događaji

  • 2.svibanj AMS Traun
  • 3. svibnja AMS Wels
  • 4. svibnja AMS Steyr
  • 5. svibnja AMS Vöcklabruck
  • 6. svibnja AMS Linz

Uvođenje AMS algoritma je opasan proboj brane .

Do sada je to bila uporaba potpuno novih tehnologija barem javno raspravljano i sa zakonom demokratski legitimiran. To nije slučaj s AMS algoritmom.

Ovaj je sustav razvijen i predstavljen bez javne rasprave . Civilno društvo nije bilo uključeno u ovaj proces i do danas postoji temeljni nedostatak transparentnosti kako ovaj sustav funkcionira i kako odlučuje o nama.

Sličan sustav u Poljskoj je srušio Ustavni sud . I u Nizozemskoj je sustav baziran na algoritmu koji je trebao kontrolirati primatelje socijalne pomoći proglašen nezakonitim i ugašen.

Ne smijemo dopustiti da karakteristike nad kojima nemamo kontrolu određuju je li ljudima zabranjeno obrazovanje i osposobljavanje. Algoritamski sustavi moraju se boriti protiv predrasuda i nepravde, a ne i ove nepravde .

Naših 7 zahtjeva

1. Ljudi, a ne računala, trebaju odlučivati

Ljudi bi se trebali temeljiti na razumljivim kriterijima odlučuje o pristupu državnim povlasticama, umjesto da samo klimne prema odlukama računala.

AMS algoritam mora biti odbijen i isključen. Računalo ne smije odlučivati o ljudskim sudbinama i pristup državnim službama ne smije biti reguliran računalom. Odluke se moraju donositi na razumljiv, transparentan i human način. Sustav postavlja opasan presedan za prepuštanje političkih odluka algoritmima.

Čak i ako sustav (još) ne donosi nikakve potpuno automatske odluke, ne smije donositi odluke koje tada odobrava samo osoblje AMS-a. Sastanci za konzultacije u AMS-u obično traju samo 15 minuta i postoji ogroman pritisak da se opravda da se ne proturječi računalu.

2. Poticati vještine umjesto kažnjavanja slabosti

Omogućavanje većeg obrazovanja promicanjem i omogućavanjem (daljnjeg) obrazovanja

Ljude treba promicati na temelju njihovih vještina i snaga, a to zahtijeva povećanje mjera daljnjeg obrazovanja i osposobljavanja tražitelja posla.

Tražiteljima posla mora se omogućiti početak studiranja na sveučilištu ili tehničkom fakultetu (ovo je trenutno dopušteno samo ako su tražitelji posla već studirali dok su radili). AMS bi također trebao ponuditi samoplaćenu daljnju obuku, npr. B. Dopustite tečajeve koji traju samo nekoliko dana.

3. Više resursa za AMS

Tražimo više i bolje obučenih savjetnika koji imaju dovoljno vremena za konzultacije.

Omjer savjetnika i tražitelja posla u Njemačkoj je 1:100, au Austriji samo 1:250 . To pokazuje da bi povećanje ovog područja bilo zamislivo i imalo smisla, jer bolji omjer nadzora znači bolje mogućnosti zapošljavanja i kvalitetniji nadzor. AMS ne samo da treba više novca za obuku i daljnju edukaciju svojih savjetnika. Jednako je potrebno i kvalitativno povećanje značajnih mjera daljnjeg obrazovanja i osposobljavanja tražitelja posla.

4. Pravo na informaciju

Pozivamo na sveobuhvatnu proaktivnu edukaciju o pravima tražitelja posla.

AMS financiramo svi mi i stoga je pružatelj usluga s mandatom pomoći široj javnosti. Mora se prema svima odnositi kao prema jednakima. Kako bi ljudi mogli ravnopravno razgovarati sa svojim savjetnicima, najprije im je potrebna informacija o svojim pravima i obvezama u vezi s AMS-om; počevši od toga s čime je povezano vaše pravo na naknadu za nezaposlene - može li se i pod kojim okolnostima novac smanjiti - morate li sklopiti ugovor o skrbi s AMS-om ili je to neobavezno - kako izgledaju vaša prava na informacije i informacije i kakav je pravni odnos između njih i vanjskih partnerskih tvrtki AMS-a.

5. Potpuna transparentnost

Projekti i programi koji se pokreću svim našim novcem moraju imati najveću moguću transparentnost da bi bili procjenjivi.

Algoritam AMS se godinama razvijao uz velike troškove u kameri. Informirana rasprava nije bila moguća jednostavno zato što ni baza podataka ni rezultati sustava nisu objavljeni. Materijali za obuku savjetnika i postupci za prigovore na algoritam i dalje će biti tajni. Znanstvena recenzija i demokratska rasprava o projektu su stoga isključeni.

Od AMS-a zahtijevamo sveobuhvatnu i proaktivnu transparentnost. Pritisak javnosti ne bi trebao biti jedino sredstvo razjašnjenja. U najmanju ruku, moraju biti objavljeni matematički modeli, korišteni softver, anonimizirana baza podataka, kako sustav radi i rezultati procesa izračuna za pojedine grupe. Također mora biti transparentno kako AMS algoritam utječe na praktične savjete i financiranje. Mjere koje je AMS već poduzeo kao odgovor na kritike, kao što su dokumenti o obuci, interakcija s restrukturiranjem AMS-a i popratnim procesima, kao i mogućnosti pritužbi za pogođene, konačno moraju biti objavljene.

6. Provjera rizika za algoritme

Zahtijevamo reviziju algoritama za njihovu tehnologiju i društveni učinak prije nego što budu uvedeni (obaveza za prethodnu algoritamsku procjenu utjecaja).

Automatizirani sustavi koji bi mogli imati negativne posljedice za ljude moraju se pažljivo provjeriti prije nego što se uvedu kako bi se osiguralo da rade i ima li posljedica. To se mora dogoditi sa svim algoritmima koji potencijalno ometaju temeljna prava

Postoje međunarodne najbolje prakse za provjeru algoritama, takozvana algoritamska procjena utjecaja. Ovo je učinjeno u AMS algoritam je promašen i mora biti obavezan u budućnosti.

Algoritme se moraju provjeriti na greške u sustavu, pristranosti u podacima a rezultirajuće cikluse negativne povratne informacije potrebno je analizirati, prije nego što se takvi sustavi pokrenu i implementiraju širom svijeta.

Ne slijedi svaka statistička regresija načelo uzroka i pogreške Posljedica. Negativni učinci na ljude zbog misanalize moraju treba izbjegavati.

Zato pozivamo na algoritamsku procjenu učinka, kao što su Kanada i grad New York već uveli.

7. Samo dobrovoljno sudjelovanje u algoritmu

Zahtijevamo izborno sudjelovanje u AMS algoritmu (opt-in) i odvajanje od bilo kakvog financiranja. Želimo sustav koji je toliko dobar da pogođeni sudjeluju dobrovoljno

AMS je u poziciji moći nad tražiteljima posla. Što se tiče zaštite podataka, stoga zahtijevamo da sudjelovanje bude dobrovoljno svih tražitelja posla na AMS algoritmu. Tražitelji posla trebaju svoje dati informirani pristanak prije nego što ih sustav kategorizira. Ovaj Suglasnost se može opozvati u bilo kojem trenutku, što također uključuje sve naplaćene Vrijednosti algoritma moraju biti obrisane. Od odbijanja ovoga Da bi sudjelovali u sustavu, tražitelji posla ne smiju trpjeti nikakve nedostatke.

Obratite se svom ministru!

Prof. Dr. Martin Kocher

Bundesminister für Arbeit, Familie und Jugend

Bundesministerium für Arbeit, Familie und Jugend
Untere Donaustraße 13-15, 1020 Wien

Pošaljite upit za informacije!

Jednom godišnje možete besplatno zatražiti sve svoje podatke od svih tvrtki i tijela. Ovdje to možete učiniti za AMS.

Do generatora

Samo ako ste od 2019. godine nezaposleni, AMS ima algoritamsku klasifikaciju vas, a to je oko 2 stranice zahtjeva za informacijama (stranica s informacijama i stranica s informacijama). U prosjeku, zahtjev za informacijama od AMS-a (za starije osobe) ima oko 80-150 stranica. Umjesto toga, na zahtjev, vaš AMS savjetnik može vam dati informacije o vašoj algoritamskoj klasifikaciji.

pristaše

Kampanju podržavaju sljedeće organizacije:

Budite informirani!