Зауставља AMS алгоритам

Рачунари не смеју да одлучују о људима!

4626 од 5000 потписа до сада.

Панел дискусија о AMS алгоритму

Dauer: 70 Minuten

На почетку недеље кампање у Горњој Аустрији, почетком маја 2022. године, током које је промовисано укидање оваквог машинског система, представници науке, политике, социјалног партнерства и администрације разговарали су о свом приступу АМС алгоритму. Узбудљива рунда, са много аргумената и сасвим неочекиваних обрта.

Am Podium:
Dr. Doris Allhutter, Senior Scientist, Institut für Technikfolgen-Abschätzung
Mag.a Dagmar Andree, MBA, Leiterin Abt. Wirtschafts-, Sozial- & Gesellschaftspolitik, Kammer für Arbeiter & Angestellte Oberösterreich
Mag. Gerald Loacker, Abgeordneter zum Nationalrat, NEOS
Thomas Lohninger, executive director ; epicenter.works
Dr. Andreas Zavadil, CIPP/E, CIPM, Datenschutzbehörde / Austrian Data Protection Authority
Durch das Gespräch führt : Mag. Daniela Soykan

Mehr Infos zur Veranstaltung

Was sonst noch war ...

Focusgruppen & Report

Im September 2022 fanden unsere Fokusgruppen statt, in denen wir detailliert die Probleme des AMS-Algorithmus in moderierten Gruppengesprächen eruierten. Wir sprachen mit AMS Mitarbeitenden und Betroffenen in unterschiedlichen Zusammensetzungen, um eine möglichst große Vielfalt abzubilden. Dennoch war das Ergebnis überraschend gleich: eine persönliche Betreuung ist sehr wichtig, hilft und wird von allen Seiten gewünscht. Und alle hätten gerne mehr Zeit mit der:dem menschlichen Betreuer:in. Das Geld, das in intransparente Maschinen geflossen ist, sollte hier sehr viel besser investiert werden.

Zu den gesamten Ergebnissen und dem Report:

Der Report als PDF-Datei

Roadshow Pt. II

Weil unsere erste Tour so erfolgreich war und wir bemerkt hatten, dass wir nicht alle Gruppen direkt ansprechen konnten, wiederholten wir die Roadshow noch einmal. Mit etwas anderen Vorzeichen. Bei der zweiten Roadshow legten wir den Focus auf besonders betroffene Communitys. Wir hatten direkt Termine mit Organisationen mit Migrationserfahrung und Gruppen von Mitarbeitenden von Sozialorganisationen in Oberösterreich vor Ort gemacht, um noch effektiver Information und Aufklärung weiter geben zu können.

Mit unserem Tourbus und dem einarmigen Banditen „AMS-Algomat“ haben wir Präsentationen gezeigt, Aufklärungsmaterial verteilt und kamen so mit vielen Personen ins Gespräch. Auch hier war der Dialog sehr fruchtbar und wir konnten selbst weitere Einblicke in die Folgen bei Betroffenen gewinnen. Zusammen mit den Communitys konnten wir bestehende Probleme identifizieren und mögliche Gründe und Lösungen anbieten. Nun können alle mit dem neu erworbenen Wissen tatsächlich tätig werden, Auskunft einfordern und bei Problemen kompetent ins Gespräch gehen.

Video über das Projekt

Das Projekt „Stoppt den AMS-Algorithmus“ lief bis 31.10.2022. Hier könnt ihr eine schöne Kurzdoku als Video sehen:

То је била турнеја...

У мају 2022. били смо на турнеји у Горњој Аустрији и имали смо много занимљивих разговора са погођеним особама и запосленима у АМС-у. Сви су се углавном сложили да је такав систем машина страшно неправедан. То остаје чисто бацање новца, јер није од помоћи ни страним тражитељима посла ни запосленима АМС-а, од којих су се многи солидарисали са нашом кампањом.

Наш једноруки разбојник „Алгомат“ је био пун погодак. Многи су се „поиграли” уређајем, који је програмиран на основу познатих података преко АМС алгоритма. Машина је олакшала разумевање колико је постојећи систем неправедан и насумичан.

Наш закључак након ове турнеје је још јаснији: овај АМС алгоритам је скупи мртворођени од политике која се пропагирала коришћењем дигиталне машине ради уштеде јавног новца. Оно што је постигнуто је супротно, расипање новца пореских обвезника на скупо дигитално решење које је просто неправедно и које већ запошљава адвокате, орган за заштиту података и суд.

Догађаји

2.маја AMS Traun
3. маја AMS Wels
4. маја AMS Steyr
5. маја AMS Vöcklabruck
6. мај AMS Linz

Увођење AMS алгоритма је опасно пробијање бране .

До сада је то била употреба потпуно нових технологија макар јавно расправљано и са законом демократски легитимисан. Ово није случај са AMS алгоритмом.

Овај систем је развијен и представљен без јавне расправе . Цивилно друштво није било укључено у овај процес и до данас постоји суштински недостатак транспарентности о томе како овај систем функционише и како одлучује о нама.

Сличан систем у Пољској је срушио Уставни суд . И у Холандији је систем заснован на алгоритму који је требало да контролише примаоце социјалне помоћи проглашен незаконитим и угашен.

Не смемо дозволити да карактеристике над којима немамо контролу одређују да ли је људима забрањено образовање и обуку. Алгоритамски системи се морају борити против предрасуда и неправде, а не и ове неправде .

Наших 7 захтева

1. Људи, а не компјутери, треба да одлучују

Људи треба да се заснивају на разумљивим критеријумима одлучује о приступу државним бенефицијама, уместо да само климам главом према одлукама компјутера.

AMS алгоритам мора бити одбијен и искључен. Рачунар не сме да одлучује о људским судбинама и приступ државним службама не сме да буде регулисан компјутером. Одлуке се морају доносити на разумљив, транспарентан и хуман начин. Систем поставља опасан преседан за препуштање политичких одлука алгоритмима.

Чак и ако систем (још) не доноси никакве потпуно аутоматске одлуке, он не сме да доноси одлуке које тада одобрава само особље AMS-а. Састанци за консултације у AMS-у обично трају само 15 минута и постоји огроман притисак да се оправда неслагање са рачунаром.

2. Подстицати вештине уместо кажњавања слабости

Омогућавање већег образовања промовисањем и омогућавањем (даљег) образовања

Људе треба унапредити на основу њихових вештина и снага, а то захтева повећање мера даљег образовања и обуке за особе које траже посао.

Тражиоцима посла мора бити дозвољено да почну да студирају на универзитету или техничком колеџу (ово је тренутно дозвољено само ако су они који траже посао већ студирали док су радили). AMS такође треба да понуди самоплаћену даљу обуку, нпр. Б. Дозволите курсеве који трају само неколико дана.

3. Више ресурса за AMS

Захтевамо више и боље обучених саветника који имају довољно времена за консултације.

Однос саветника и оних који траже посао је 1:100 у Немачкој, ау Аустрији само 1:250 . То показује да би повећање у овој области било замисливо и имало смисла, јер бољи однос надзора значи боље могућности запошљавања и квалитетнији надзор. AMS не само да треба више новца за обуку и даље образовање својих саветника. Једнако неопходно је и квалитативно повећање значајних мера даљег образовања и обуке за особе које траже посао.

4. Право на информације

Позивамо на свеобухватну проактивну едукацију о правима особа које траже посао.

AMS финансирамо сви ми и стога је пружалац услуга са мандатом да помаже широј јавности. Он мора да третира све као једнаке. Да би људи могли равноправно да разговарају са својим саветницима, најпре им је потребна информација о својим правима и обавезама у вези са AMS; почевши од тога са чиме је повезано ваше право на накнаду за незапослене - да ли и под којим околностима новац може бити смањен - да ли морате да склопите уговор о нези са AMS-ом или да ли је ово опционо - како изгледају ваша права на информације и информације и какав је правни однос између њих и екстерних партнерских компанија AMS.

5. Потпуна транспарентност

Пројекти и програми који се покрећу свим нашим новцем морају имати највећу могућу транспарентност да би били вредновани.

Алгоритам AMS је годинама развијан уз велике трошкове у камери. Информисана дебата није била могућа једноставно зато што ни база података ни резултати система нису објављени. Материјали за обуку за саветнике и процеси за приговоре на алгоритам ће и даље бити тајни. Научна рецензија и демократска дебата о пројекту су стога искључени.

Захтевамо свеобухватну и проактивну транспарентност од AMS-а. Притисак јавности не би требало да буде једино средство за разјашњење. У најмању руку, морају бити објављени математички модели, коришћени софтвер, анонимизована база података, како систем функционише и резултати процеса прорачуна за појединачне групе. Такође мора бити транспарентно како AMS алгоритам утиче на практичне савете и финансирање. Мере које је AMS већ предузео као одговор на критике, као што су документи о обуци, интеракција са реструктурирањем AMS-а и пратећим процесима, као и опције притужби за оне који су погођени, морају коначно бити објављене.

6. Провера ризика за алгоритме

Захтевамо ревизију алгоритама за њихову технологију и друштвени утицај пре него што буду уведени (обавеза за претходну алгоритамску процену утицаја).

Аутоматизовани системи који могу имати негативне последице по људе морају се пажљиво проверити пре него што буду уведени како би се осигурало да раде и да ли постоје последице. Ово се мора догодити са свим алгоритмима који потенцијално ометају основна права

Постоје међународне најбоље праксе за проверу алгоритама, такозвана алгоритамска процена утицаја. Ово је урађено у AMS алгоритам је промашен и мора бити обавезан у будућности.

Алгоритми морају бити проверени на грешке у систему, пристрасности у подацима и резултирајуће циклусе негативне повратне информације треба анализирати, пре него што се такви системи покрену и примене широм света.

Не прати свака статистичка регресија принцип узрока и грешке Ефекат. Негативни ефекти на људе због мисанализе морају треба избегавати.

Зато позивамо на алгоритамску процену утицаја, као што су Канада и град Њујорк већ увели.

7. Само добровољно учешће у алгоритму

Захтевамо опционо учешће у AMS алгоритму (опт-ин) и одвајање од било каквог финансирања. Желимо систем који је толико добар да они који су погођени добровољно учествују

AMS је у позицији моћи над онима који траже посао. У смислу заштите података, стога захтевамо да учешће буде добровољно свих оних који траже посао на AMS алгоритму. Они који траже посао требају своје дају информисани пристанак пре него што их систем категорише. Ово Сагласност се може опозвати у било ком тренутку, што укључује и све наплаћене Вредности алгоритма се морају обрисати. Од одбијања овога Да би учествовали у систему, они који траже посао не смеју да трпе никакве недостатке.

Подржите тврдње сада!