Dauer: 70 Minuten
در آغاز هفته مبارزات انتخاباتی در اتریش علیا، در آغاز ماه مه 2022، که طی آن لغو چنین سیستم مبتنی بر ماشین ترویج شد، نمایندگانی از علم، سیاست، مشارکت اجتماعی و مدیریت در مورد دسترسی خود به الگوریتم AMS بحث کردند. یک دور هیجان انگیز، با مشاجرات زیاد و پیچش های کاملا غیرمنتظره.
Am Podium:
Dr. Doris Allhutter, Senior Scientist, Institut für Technikfolgen-Abschätzung
Mag.a Dagmar Andree, MBA, Leiterin Abt. Wirtschafts-, Sozial- & Gesellschaftspolitik, Kammer für Arbeiter & Angestellte Oberösterreich
Mag. Gerald Loacker, Abgeordneter zum Nationalrat, NEOS
Thomas Lohninger, executive director ; epicenter.works
Dr. Andreas Zavadil, CIPP/E, CIPM, Datenschutzbehörde / Austrian Data Protection Authority
Durch das Gespräch führt : Mag. Daniela Soykan
Im September 2022 fanden unsere Fokusgruppen statt, in denen wir detailliert die Probleme des AMS-Algorithmus in moderierten Gruppengesprächen eruierten. Wir sprachen mit AMS Mitarbeitenden und Betroffenen in unterschiedlichen Zusammensetzungen, um eine möglichst große Vielfalt abzubilden. Dennoch war das Ergebnis überraschend gleich: eine persönliche Betreuung ist sehr wichtig, hilft und wird von allen Seiten gewünscht. Und alle hätten gerne mehr Zeit mit der:dem menschlichen Betreuer:in. Das Geld, das in intransparente Maschinen geflossen ist, sollte hier sehr viel besser investiert werden.
Zu den gesamten Ergebnissen und dem Report:
Der Report als PDF-DateiWeil unsere erste Tour so erfolgreich war und wir bemerkt hatten, dass wir nicht alle Gruppen direkt ansprechen konnten, wiederholten wir die Roadshow noch einmal. Mit etwas anderen Vorzeichen. Bei der zweiten Roadshow legten wir den Focus auf besonders betroffene Communitys. Wir hatten direkt Termine mit Organisationen mit Migrationserfahrung und Gruppen von Mitarbeitenden von Sozialorganisationen in Oberösterreich vor Ort gemacht, um noch effektiver Information und Aufklärung weiter geben zu können.
Mit unserem Tourbus und dem einarmigen Banditen „AMS-Algomat“ haben wir Präsentationen gezeigt, Aufklärungsmaterial verteilt und kamen so mit vielen Personen ins Gespräch. Auch hier war der Dialog sehr fruchtbar und wir konnten selbst weitere Einblicke in die Folgen bei Betroffenen gewinnen. Zusammen mit den Communitys konnten wir bestehende Probleme identifizieren und mögliche Gründe und Lösungen anbieten. Nun können alle mit dem neu erworbenen Wissen tatsächlich tätig werden, Auskunft einfordern und bei Problemen kompetent ins Gespräch gehen.
Das Projekt „Stoppt den AMS-Algorithmus“ lief bis 31.10.2022. Hier könnt ihr eine schöne Kurzdoku als Video sehen:
راهزن یک دست ما "Algomat" یک موفقیت کامل بود. بسیاری با دستگاهی که بر اساس داده های شناخته شده از طریق الگوریتم AMS برنامه ریزی شده بود، "بازی" کردند. این دستگاه درک میزان ناعادلانه و تصادفی سیستم موجود را آسان کرد.
نتیجه گیری ما پس از این تور حتی واضح تر است: این الگوریتم AMS یک مرده گران قیمت از سیاستی است که با استفاده از یک ماشین دیجیتال برای صرفه جویی در پول عمومی منتشر می شود. آنچه به دست آمده برعکس است، هدر دادن پول مالیات دهندگان برای راه حل دیجیتالی گران قیمت که فقط ناعادلانه است و در حال حاضر وکلا، مرجع حفاظت از داده ها و دادگاه را استخدام کرده است.
تا کنون استفاده از فناوری های کاملاً جدید بوده است حداقل به صورت علنی و با قانون مورد بحث قرار گیرد به صورت دموکراتیک مشروعیت یافته است. این مورد در مورد الگوریتم AMS نیست.
این سیستم بدون بحث عمومی توسعه و ارائه شد . جامعه مدنی در این روند دخیل نبود و تا به امروز عدم شفافیت اساسی در مورد نحوه عملکرد این سیستم و نحوه تصمیم گیری در مورد ما وجود دارد.
سیستم مشابهی در لهستان توسط دادگاه قانون اساسی لغو شد . در هلند نیز یک سیستم مبتنی بر الگوریتم که قرار بود دریافت کنندگان رفاه را کنترل کند غیرقانونی اعلام شد و تعطیل شد.
ما نباید اجازه دهیم ویژگی هایی که ما هیچ کنترلی بر آنها نداریم تعیین کنیم که آیا افراد از تحصیل و آموزش منع شده اند یا خیر. سیستم های الگوریتمی باید با تعصب و بی عدالتی مبارزه کنند و این بی عدالتی ها را نیز تداوم ندهند.
مردم باید بر اساس معیارهای قابل درک باشند تصمیم گیری در مورد دسترسی به مزایای دولتی، به جای سر زدن به تصمیمات کامپیوتر.
الگوریتم AMS باید رد و خاموش شود. رایانه نباید سرنوشت انسان را تعیین کند و دسترسی به خدمات دولتی نباید توسط رایانه تنظیم شود. تصمیمات باید به شکلی قابل فهم، شفاف و انسانی گرفته شود. این سیستم یک سابقه خطرناک برای برون سپاری تصمیمات سیاسی به الگوریتم ها ایجاد می کند.
حتی اگر سیستم (هنوز) هیچ تصمیم کاملاً خودکاری نگیرد، نباید هیچ تصمیمی بگیرد که تنها توسط کارکنان AMS تأیید شود. قرار ملاقات های مشاوره AMS معمولا فقط 15 دقیقه طول می کشد و فشار زیادی برای توجیه عدم مغایرت با رایانه وجود دارد.
امکان آموزش بیشتر با ترویج و توانمندسازی (بیشتر) آموزش
افراد باید بر اساس مهارت ها و نقاط قوت خود ارتقاء یابند و این امر مستلزم افزایش آموزش و اقدامات بیشتر برای جویندگان کار است.
افراد جویای کار باید اجازه شروع تحصیل در دانشگاه یا دانشکده فنی را داشته باشند (این کار در حال حاضر تنها در صورتی مجاز است که جویندگان کار قبلاً در حین کار تحصیل کرده باشند). AMS همچنین باید آموزش های بیشتر با پرداخت خود را ارائه دهد، به عنوان مثال. ب. اجازه دوره هایی را بدهید که فقط چند روز طول می کشند.
ما خواستار مشاوران آموزش دیده بیشتر و بهتری هستیم که زمان کافی برای مشاوره داشته باشند.
نسبت مشاوران به جویندگان کار در آلمان 1:100 است، اما در اتریش فقط 1:250 است. این نشان می دهد که افزایش در این زمینه قابل تصور و منطقی است، زیرا نسبت نظارت بهتر به معنای فرصت های شغلی بهتر و نظارت با کیفیت بالاتر است. AMS نه تنها برای آموزش و آموزش بیشتر مشاوران خود به پول بیشتری نیاز دارد. به همان اندازه لازم است افزایش کیفی اقدامات آموزشی و آموزشی بیشتر برای جویندگان کار.
ما خواهان آموزش جامع پیشگیرانه در مورد حقوق جویندگان کار هستیم.
AMS توسط همه ما تامین می شود و بنابراین یک ارائه دهنده خدمات است که وظیفه دارد به عموم مردم کمک کند. او باید با همه مثل هم رفتار کند. برای اینکه افراد بتوانند با مشاوران خود به صورت برابر صحبت کنند، ابتدا به اطلاعاتی در مورد حقوق و تعهدات خود در رابطه با AMS نیاز دارند. شروع با آنچه که استحقاق شما برای دریافت مزایای بیکاری مرتبط است - اینکه آیا و تحت چه شرایطی ممکن است پول قطع شود - آیا باید با AMS یک قرارداد مراقبتی ببندید یا اینکه این اختیاری است - اطلاعات و حقوق اطلاعاتی شما چگونه است و چه رابطه حقوقی بین آنها و شرکت های همکار خارجی AMS وجود دارد.
پروژه ها و برنامه هایی که با تمام سرمایه ما شروع می شود باید بیشترین شفافیت ممکن را داشته باشند تا قابل ارزیابی باشند.
الگوریتم AMS سال ها با هزینه های زیادی در دوربین توسعه یافته است. صرفاً به این دلیل که نه پایگاه داده و نه نتایج سیستم منتشر نشد، بحث آگاهانه امکان پذیر نبود. مطالب آموزشی برای مشاوران و فرآیندهای اعتراض به الگوریتم همچنان مخفی نگه داشته خواهد شد. بنابراین بررسی علمی و بحث دموکراتیک در مورد این پروژه منتفی است.
ما از AMS خواستار شفافیت همه جانبه و فعال هستیم. فشار عمومی نباید تنها وسیله شفاف سازی باشد. حداقل باید مدل های ریاضی، نرم افزار مورد استفاده، پایگاه داده ناشناس، نحوه عملکرد سیستم و نتایج فرآیند محاسبات برای گروه های فردی منتشر شود. همچنین باید شفاف باشد که الگوریتم AMS چگونه بر مشاوره عملی و بودجه تأثیر می گذارد. اقداماتی که AMS قبلاً در پاسخ به انتقادات انجام داده است ، مانند اسناد آموزشی ، تعامل با بازسازی AMS و فرآیندهای همراه و همچنین گزینه های شکایت برای افراد آسیب دیده ، باید در نهایت منتشر شود.
ما خواستار بررسی الگوریتمها برای فناوری و تأثیر اجتماعی آنها قبل از معرفی آنها هستیم (الزام برای ارزیابی تأثیر الگوریتمی بالادست).
سیستمهای خودکاری که میتوانند عواقب منفی برای افراد داشته باشند، باید قبل از معرفی به دقت بررسی شوند تا از کارکرد و هرگونه عواقب آن اطمینان حاصل شود. این باید با همه الگوریتم هایی که به طور بالقوه با حقوق اساسی تداخل دارند اتفاق بیفتد
بهترین شیوه های بین المللی برای بررسی الگوریتم ها وجود دارد، به اصطلاح ارزیابی تاثیر الگوریتمی. این کار در الگوریتم AMS از دست رفته است و باید در آینده اجباری شود.
الگوریتم ها باید برای خطاهای سیستم، سوگیری در داده ها بررسی شوند و چرخه های بازخورد منفی ناشی از آن باید تجزیه و تحلیل شوند، قبل از اینکه چنین سیستم هایی راه اندازی و در سراسر صفحه مستقر شوند.
هر رگرسیون آماری از اصل علت و خطا پیروی نمی کند اثر. اثرات منفی بر افراد به دلیل تحلیل اشتباه باید اجتناب شود.
به همین دلیل است که ما خواستار ارزیابی تأثیر الگوریتمی هستیم، همانطور که کانادا و شهر نیویورک قبلاً معرفی کرده اند.
ما خواستار مشارکت اختیاری در الگوریتم AMS (انتخاب کردن) و جداسازی هر گونه بودجه هستیم. ما سیستمی می خواهیم که آنقدر خوب باشد که افراد آسیب دیده داوطلبانه شرکت کنند
AMS نسبت به جویندگان کار در موقعیتی قرار دارد. از نظر حفاظت از داده ها، بنابراین ما نیاز داریم که مشارکت داوطلبانه باشد همه جویندگان کار در الگوریتم AMS. جویندگان کار به آنها نیاز دارند قبل از اینکه سیستم آنها را دسته بندی کند رضایت آگاهانه بدهید. این رضایت را می توان در هر زمان باطل کرد، که شامل همه هزینه ها نیز می شود مقادیر الگوریتم باید پاک شوند. از امتناع این برای حضور در سامانه، جویندگان کار نباید دچار آسیب شوند.
مردم باید بر اساس معیارهای قابل درک باشند تصمیم گیری در مورد دسترسی به مزایای دولتی، به جای سر زدن به تصمیمات کامپیوتر.
الگوریتم AMS باید رد و خاموش شود. رایانه نباید سرنوشت انسان را تعیین کند و دسترسی به خدمات دولتی نباید توسط رایانه تنظیم شود. تصمیمات باید به شکلی قابل فهم، شفاف و انسانی گرفته شود. این سیستم یک سابقه خطرناک برای برون سپاری تصمیمات سیاسی به الگوریتم ها ایجاد می کند.
حتی اگر سیستم (هنوز) هیچ تصمیم کاملاً خودکاری نگیرد، نباید هیچ تصمیمی بگیرد که تنها توسط کارکنان AMS تأیید شود. قرار ملاقات های مشاوره AMS معمولا فقط 15 دقیقه طول می کشد و فشار زیادی برای توجیه عدم مغایرت با رایانه وجود دارد.
امکان آموزش بیشتر با ترویج و توانمندسازی (بیشتر) آموزش
افراد باید بر اساس مهارت ها و نقاط قوت خود ارتقاء یابند و این امر مستلزم افزایش آموزش و اقدامات بیشتر برای جویندگان کار است.
افراد جویای کار باید اجازه شروع تحصیل در دانشگاه یا دانشکده فنی را داشته باشند (این کار در حال حاضر تنها در صورتی مجاز است که جویندگان کار قبلاً در حین کار تحصیل کرده باشند). AMS همچنین باید آموزش های بیشتر با پرداخت خود را ارائه دهد، به عنوان مثال. ب. اجازه دوره هایی را بدهید که فقط چند روز طول می کشند.
ما خواستار مشاوران آموزش دیده بیشتر و بهتری هستیم که زمان کافی برای مشاوره داشته باشند.
نسبت مشاوران به جویندگان کار در آلمان 1:100 است، اما در اتریش فقط 1:250 است. این نشان می دهد که افزایش در این زمینه قابل تصور و منطقی است، زیرا نسبت نظارت بهتر به معنای فرصت های شغلی بهتر و نظارت با کیفیت بالاتر است. AMS نه تنها برای آموزش و آموزش بیشتر مشاوران خود به پول بیشتری نیاز دارد. به همان اندازه لازم است افزایش کیفی اقدامات آموزشی و آموزشی بیشتر برای جویندگان کار.
ما خواهان آموزش جامع پیشگیرانه در مورد حقوق جویندگان کار هستیم.
AMS توسط همه ما تامین می شود و بنابراین یک ارائه دهنده خدمات است که وظیفه دارد به عموم مردم کمک کند. او باید با همه مثل هم رفتار کند. برای اینکه افراد بتوانند با مشاوران خود به صورت برابر صحبت کنند، ابتدا به اطلاعاتی در مورد حقوق و تعهدات خود در رابطه با AMS نیاز دارند. شروع با آنچه که استحقاق شما برای دریافت مزایای بیکاری مرتبط است - اینکه آیا و تحت چه شرایطی ممکن است پول قطع شود - آیا باید با AMS یک قرارداد مراقبتی ببندید یا اینکه این اختیاری است - اطلاعات و حقوق اطلاعاتی شما چگونه است و چه رابطه حقوقی بین آنها و شرکت های همکار خارجی AMS وجود دارد.
پروژه ها و برنامه هایی که با تمام سرمایه ما شروع می شود باید بیشترین شفافیت ممکن را داشته باشند تا قابل ارزیابی باشند.
الگوریتم AMS سال ها با هزینه های زیادی در دوربین توسعه یافته است. صرفاً به این دلیل که نه پایگاه داده و نه نتایج سیستم منتشر نشد، بحث آگاهانه امکان پذیر نبود. مطالب آموزشی برای مشاوران و فرآیندهای اعتراض به الگوریتم همچنان مخفی نگه داشته خواهد شد. بنابراین بررسی علمی و بحث دموکراتیک در مورد این پروژه منتفی است.
ما از AMS خواستار شفافیت همه جانبه و فعال هستیم. فشار عمومی نباید تنها وسیله شفاف سازی باشد. حداقل باید مدل های ریاضی، نرم افزار مورد استفاده، پایگاه داده ناشناس، نحوه عملکرد سیستم و نتایج فرآیند محاسبات برای گروه های فردی منتشر شود. همچنین باید شفاف باشد که الگوریتم AMS چگونه بر مشاوره عملی و بودجه تأثیر می گذارد. اقداماتی که AMS قبلاً در پاسخ به انتقادات انجام داده است ، مانند اسناد آموزشی ، تعامل با بازسازی AMS و فرآیندهای همراه و همچنین گزینه های شکایت برای افراد آسیب دیده ، باید در نهایت منتشر شود.
ما خواستار بررسی الگوریتمها برای فناوری و تأثیر اجتماعی آنها قبل از معرفی آنها هستیم (الزام برای ارزیابی تأثیر الگوریتمی بالادست).
سیستمهای خودکاری که میتوانند عواقب منفی برای افراد داشته باشند، باید قبل از معرفی به دقت بررسی شوند تا از کارکرد و هرگونه عواقب آن اطمینان حاصل شود. این باید با همه الگوریتم هایی که به طور بالقوه با حقوق اساسی تداخل دارند اتفاق بیفتد
بهترین شیوه های بین المللی برای بررسی الگوریتم ها وجود دارد، به اصطلاح ارزیابی تاثیر الگوریتمی. این کار در الگوریتم AMS از دست رفته است و باید در آینده اجباری شود.
الگوریتم ها باید برای خطاهای سیستم، سوگیری در داده ها بررسی شوند و چرخه های بازخورد منفی ناشی از آن باید تجزیه و تحلیل شوند، قبل از اینکه چنین سیستم هایی راه اندازی و در سراسر صفحه مستقر شوند.
هر رگرسیون آماری از اصل علت و خطا پیروی نمی کند اثر. اثرات منفی بر افراد به دلیل تحلیل اشتباه باید اجتناب شود.
به همین دلیل است که ما خواستار ارزیابی تأثیر الگوریتمی هستیم، همانطور که کانادا و شهر نیویورک قبلاً معرفی کرده اند.
ما خواستار مشارکت اختیاری در الگوریتم AMS (انتخاب کردن) و جداسازی هر گونه بودجه هستیم. ما سیستمی می خواهیم که آنقدر خوب باشد که افراد آسیب دیده داوطلبانه شرکت کنند
AMS نسبت به جویندگان کار در موقعیتی قرار دارد. از نظر حفاظت از داده ها، بنابراین ما نیاز داریم که مشارکت داوطلبانه باشد همه جویندگان کار در الگوریتم AMS. جویندگان کار به آنها نیاز دارند قبل از اینکه سیستم آنها را دسته بندی کند رضایت آگاهانه بدهید. این رضایت را می توان در هر زمان باطل کرد، که شامل همه هزینه ها نیز می شود مقادیر الگوریتم باید پاک شوند. از امتناع این برای حضور در سامانه، جویندگان کار نباید دچار آسیب شوند.
Bundesministerium für Arbeit und Wirtschaft
Untere Donaustraße 13-15, 1020 Wien
یک بار در سال می توانید تمام داده های خود را از همه شرکت ها و مقامات به صورت رایگان درخواست کنید. در اینجا می توانید این کار را برای AMS انجام دهید.
درخواست اطلاعات مطابق با ماده 15 GDPR
تنها در صورتی که از سال 2019 بیکار بوده اید، AMS یک طبقه بندی الگوریتمی از شما دارد که حدود 2 صفحه از درخواست اطلاعات (یک صفحه اطلاعات و یک صفحه اطلاعات) است. به طور متوسط، درخواست اطلاعات از AMS (برای افراد مسن تر) حدود 80-150 صفحه دارد. در صورت درخواست، مشاور AMS شما می تواند به جای آن اطلاعاتی در مورد طبقه بندی الگوریتمی شما ارائه دهد.