Зупиняє роботу алгоритму AMS

Комп’ютерам заборонено приймати рішення щодо людей!

Наразі підписів: 4523 із 5000.

Панельна дискусія щодо алгоритму AMS

Dauer: 70 Minuten

На початку тижня кампанії у Верхній Австрії, на початку травня 2022 року, під час якого пропагувалося скасування такої машинної системи, представники науки, політики, соціального партнерства та адміністрації обговорили свій доступ до алгоритму AMS. Захоплюючий раунд, з багатьма суперечками та досить несподіваними поворотами.

Am Podium:
Dr. Doris Allhutter, Senior Scientist, Institut für Technikfolgen-Abschätzung
Mag.a Dagmar Andree, MBA, Leiterin Abt. Wirtschafts-, Sozial- & Gesellschaftspolitik, Kammer für Arbeiter & Angestellte Oberösterreich
Mag. Gerald Loacker, Abgeordneter zum Nationalrat, NEOS
Thomas Lohninger, executive director ; epicenter.works
Dr. Andreas Zavadil, CIPP/E, CIPM, Datenschutzbehörde / Austrian Data Protection Authority
Durch das Gespräch führt : Mag. Daniela Soykan

Mehr Infos zur Veranstaltung

Що буде далі...

До вересня 2022 року детальні проблеми машинної, автоматизованої та непрозорої системи мають бути обговорені в цільових фокус-групах. У модерованих групах ми обговорюємо та аналізуємо з постраждалими, чи можна взагалі використовувати алгоритми для гарантованих державою страхових виплат. Результати ми опублікуємо.

Ми також знову будемо на місці у Верхній Австрії. З нашим туристичним автобусом та одноруким бандитом «Алгомат» ми хочемо відвідати сильно постраждалі громади та розповісти їм про систему та її проблеми. На даний момент ми шукаємо організації та асоціації у Верхній Австрії, які працюють з біженцями або довгостроковими шукачами роботи. Якщо ви є або знаєте представника такої спільноти, наприклад, сирійської культурної групи чи хорватської культурної асоціації тощо. Будь ласка, зв'яжіться з нами: ams-algorithmus@epicenter.works
Зараз ми також шукаємо мовних посередників, щоб мати можливість легше спілкуватися на місці.

Це був тур...

У травні 2022 року ми були в турі у Верхній Австрії та мали багато цікавих дискусій з постраждалими та співробітниками AMS. Переважно всі погодилися, що така машинна система є страшенно несправедливою. Це залишається марною тратою грошей, тому що це не корисно ні шукачам роботи, ні працівникам АМС, багато з яких виявили солідарність з нашою акцією.

Наш однорукий бандит «Алгомат» вдався на повну. Багато хто «бавився» з пристроєм, який був запрограмований на основі відомих даних через алгоритм AMS. Машина дозволила легко зрозуміти, наскільки несправедливою та випадковою є існуюча система.

Наш висновок після цієї екскурсії ще більш ясний: цей алгоритм AMS є дорогим мертвонародженим політикою, яка поширювалася за допомогою цифрової машини для економії державних грошей. Те, що було досягнуто, є протилежним, витрачаючи гроші платників податків на дороге цифрове рішення, яке є просто несправедливим і вже залучає юристів, орган із захисту даних і суд.

Події

  • 2.травень AMS Traun
  • 3 травня AMS Wels
  • 4 травня AMS Steyr
  • 5 травня AMS Vöcklabruck
  • 6 травня AMS Linz

Впровадження алгоритму AMS є небезпечним проривом дамби .

Поки це було використання абсолютно нових технологій принаймні публічно обговорений і з законом демократично легітимований. Це не стосується алгоритму AMS.

Ця система була розроблена та презентована без публічного обговорення . Громадянське суспільство не було залучене до цього процесу, і до сьогодні існує фундаментальна непрозорість щодо того , як ця система працює і як вона вирішує про нас.

Подібна система була скасована в Польщі Конституційним судом . У Нідерландах також систему на основі алгоритму, яка мала контролювати отримувачів соціальної допомоги, визнали незаконною та закрили.

Ми не повинні дозволяти характеристикам, над якими ми не маємо контролю, визначати, чи заборонено людям навчання та навчання. Алгоритмічні системи повинні боротися з упередженнями та несправедливістю, а не увічнювати ці несправедливості .

Наші 7 вимог

1. Вирішувати мають люди, а не комп’ютери

Люди повинні базуватися на зрозумілих критеріях приймати рішення про доступ до державних пільг, замість того, щоб просто кивати на рішення комп’ютера.

Алгоритм AMS необхідно відхилити та вимкнути. Комп'ютер не повинен вирішувати людські долі і доступ до державних послуг не повинен регулюватися комп'ютером. Рішення мають прийматися зрозуміло, прозоро та гуманно. Система створює небезпечний прецедент для передачі політичних рішень алгоритмам.

Навіть якщо система (поки що) не приймає жодних повністю автоматичних рішень, вона не повинна приймати жодних рішень, які потім лише схвалюються персоналом AMS. Консультація AMS зазвичай триває лише 15 хвилин, і існує величезний тиск, щоб виправдати не суперечити комп’ютеру.

2. Заохочуйте навички замість того, щоб карати слабкі сторони

Сприяти більшій освіті шляхом сприяння та надання можливості (подальшої) освіти

Людей слід просувати на основі їхніх навичок і сильних сторін, і це вимагає посилення заходів з подальшої освіти та навчання для тих, хто шукає роботу.

Особам, які шукають роботу, необхідно дозволити розпочати навчання в університеті чи технічному коледжі (наразі це дозволено, лише якщо шукачі роботи вже навчалися під час роботи). AMS має також пропонувати самооплачуване подальше навчання, напр. B. Дозволити курси, які тривають лише кілька днів.

3. Більше ресурсів для AMS

Ми вимагаємо більше та краще підготовлених консультантів, які мають достатньо часу для консультацій.

Співвідношення консультантів до тих, хто шукає роботу , становить 1:100 у Німеччині, але лише 1:250 в Австрії . Це свідчить про те, що розширення в цій сфері було б можливим і мало б сенс, оскільки кращий коефіцієнт нагляду означає кращі можливості працевлаштування та вищу якість нагляду. AMS потребує більше грошей не лише на навчання та підвищення кваліфікації своїх радників. Так само необхідним є якісне збільшення суттєвих заходів з подальшої освіти та навчання для шукачів роботи.

4. Право на інформацію

Ми закликаємо до всебічної проактивної освіти щодо прав шукачів роботи.

AMS фінансується всіма нами і, отже, є постачальником послуг із мандатом допомагати широкій громадськості. Він повинен ставитися до всіх як до рівних. Для того, щоб люди могли спілкуватися зі своїми радниками на рівних, їм насамперед потрібна інформація про їхні права та обов’язки у зв’язку з AMS; починаючи з того, з чим пов’язане ваше право на допомогу по безробіттю – чи можуть і за яких обставин гроші скоротити – чи потрібно вам укласти угоду про догляд із AMS чи це необов’язково – як виглядає ваша інформація та права на інформацію та які правові відносини між ними та зовнішніми партнерськими компаніями AMS.

5. Повна прозорість

Проекти та програми, які розпочинаються на всі наші гроші, мають бути максимально прозорими, щоб їх можна було оцінити.

Алгоритм AMS був розроблений за великі кошти роками в камері. Обґрунтована дискусія була неможливою просто тому, що ні база даних, ні результати системи не були опубліковані. Навчальні матеріали для консультантів і процеси заперечень проти алгоритму продовжуватимуть зберігатися в секреті. Таким чином, наукова рецензія та демократична дискусія щодо проекту виключаються.

Ми вимагаємо від AMS всебічної та проактивної прозорості. Громадський тиск не повинен бути єдиним засобом роз’яснення. Щонайменше, математичні моделі, програмне забезпечення, що використовується, анонімна база даних, як працює система та результати процесу розрахунків для окремих груп повинні бути опубліковані. Також має бути прозорим те, як алгоритм AMS впливає на практичні поради та фінансування. Заходи, які AMS вже вжила у відповідь на критику, такі як навчальні документи, взаємодія з реструктуризацією AMS та супутніми процесами, а також варіанти скарг для тих, хто постраждав, повинні нарешті бути опубліковані.

6. Перевірка ризиків для алгоритмів

Ми вимагаємо перегляду алгоритмів на предмет їхнього технологічного та соціального впливу перед їх запровадженням (зобов’язання попередньої оцінки впливу алгоритмів).

Автоматизовані системи, які можуть мати негативні наслідки для людей, повинні бути ретельно перевірені перед запровадженням, щоб переконатися, що вони працюють та будь-які наслідки. Це має статися з усіма алгоритмами, які потенційно можуть порушувати фундаментальні права

Існують найкращі міжнародні практики перевірки алгоритмів, так звану алгоритмічну оцінку впливу. Це було зроблено в Алгоритм AMS відсутній і має бути обов’язковим у майбутньому.

Алгоритми повинні бути перевірені на помилки в системі, зміщення в даних і отримані цикли негативного зворотного зв’язку необхідно проаналізувати, до того, як такі системи будуть запущені та розгорнуті по всьому світу.

Не кожна статистична регресія дотримується принципу причини та помилки Ефект. Негативний вплив на людей через неправильний аналіз повинен уникати.

Ось чому ми закликаємо до алгоритмічної оцінки впливу, як це вже запровадили Канада та Нью-Йорк .

7. Тільки добровільна участь в алгоритмі

Ми вимагаємо необов’язкової участі в алгоритмі AMS (опт-ін) і відокремлення від будь-якого фінансування. Ми хочемо, щоб система була настільки хорошою, щоб ті, кого це стосується, добровільно брали участь

AMS має владу над шукачами роботи. Тому з точки зору захисту даних ми вимагаємо, щоб участь була добровільною усіх шукачів роботи за алгоритмом AMS. Шукачі роботи потребують своїх давати інформовану згоду до того, як система класифікує їх. Це Згоду можна відкликати в будь-який час, що також включає всі стягнення Значення алгоритму необхідно очистити. Від відмови цього Щоб брати участь у системі, шукачі роботи не повинні мати жодних недоліків.

Звертайтеся до свого міністра!

Prof. Dr. Martin Kocher

Bundesminister für Arbeit, Familie und Jugend

Bundesministerium für Arbeit, Familie und Jugend
Untere Donaustraße 13-15, 1020 Wien

Надішліть запит на інформацію!

Раз на рік ви можете безкоштовно запитувати всі свої дані в усіх компаніях і органах влади. Тут ви можете зробити це для AMS.

До генератора

Лише якщо ви безробітні з 2019 року, AMS має вашу алгоритмічну класифікацію, яка становить приблизно 2 сторінки запиту на інформацію (інформаційна сторінка та інформаційна сторінка). В середньому запит на інформацію від AMS (для людей похилого віку) має близько 80-150 сторінок. За запитом ваш консультант AMS може надати вам інформацію про вашу алгоритмічну класифікацію.

прихильників

Акцію підтримують наступні організації:

Будьте в курсі!