Dauer: 70 Minuten
Mayıs 2022'nin başında Yukarı Avusturya'da böyle bir makine tabanlı sistemin kaldırılması için kampanya yürüten eylem haftasının başlangıcında, bilim, siyaset, sosyal ortaklık ve yönetimden temsilciler AMS algoritmasına yaklaşımlarını tartıştılar. Birçok tartışma ve beklenmedik sürprizlerle dolu heyecanlı bir tur.
Am Podium:
Dr. Doris Allhutter, Senior Scientist, Institut für Technikfolgen-Abschätzung
Mag.a Dagmar Andree, MBA, Leiterin Abt. Wirtschafts-, Sozial- & Gesellschaftspolitik, Kammer für Arbeiter & Angestellte Oberösterreich
Mag. Gerald Loacker, Abgeordneter zum Nationalrat, NEOS
Thomas Lohninger, executive director ; epicenter.works
Dr. Andreas Zavadil, CIPP/E, CIPM, Datenschutzbehörde / Austrian Data Protection Authority
Durch das Gespräch führt : Mag. Daniela Soykan
Im September 2022 fanden unsere Fokusgruppen statt, in denen wir detailliert die Probleme des AMS-Algorithmus in moderierten Gruppengesprächen eruierten. Wir sprachen mit AMS Mitarbeitenden und Betroffenen in unterschiedlichen Zusammensetzungen, um eine möglichst große Vielfalt abzubilden. Dennoch war das Ergebnis überraschend gleich: eine persönliche Betreuung ist sehr wichtig, hilft und wird von allen Seiten gewünscht. Und alle hätten gerne mehr Zeit mit der:dem menschlichen Betreuer:in. Das Geld, das in intransparente Maschinen geflossen ist, sollte hier sehr viel besser investiert werden.
Zu den gesamten Ergebnissen und dem Report:
Der Report als PDF-DateiWeil unsere erste Tour so erfolgreich war und wir bemerkt hatten, dass wir nicht alle Gruppen direkt ansprechen konnten, wiederholten wir die Roadshow noch einmal. Mit etwas anderen Vorzeichen. Bei der zweiten Roadshow legten wir den Focus auf besonders betroffene Communitys. Wir hatten direkt Termine mit Organisationen mit Migrationserfahrung und Gruppen von Mitarbeitenden von Sozialorganisationen in Oberösterreich vor Ort gemacht, um noch effektiver Information und Aufklärung weiter geben zu können.
Mit unserem Tourbus und dem einarmigen Banditen „AMS-Algomat“ haben wir Präsentationen gezeigt, Aufklärungsmaterial verteilt und kamen so mit vielen Personen ins Gespräch. Auch hier war der Dialog sehr fruchtbar und wir konnten selbst weitere Einblicke in die Folgen bei Betroffenen gewinnen. Zusammen mit den Communitys konnten wir bestehende Probleme identifizieren und mögliche Gründe und Lösungen anbieten. Nun können alle mit dem neu erworbenen Wissen tatsächlich tätig werden, Auskunft einfordern und bei Problemen kompetent ins Gespräch gehen.
Das Projekt „Stoppt den AMS-Algorithmus“ lief bis 31.10.2022. Hier könnt ihr eine schöne Kurzdoku als Video sehen:
Tek kollu haydutumuz "Algomat" tam bir başarıydı. Birçok kişi, programlaması AMS algoritması hakkında bilinen verilere dayanan makine ile "oynadı". Makine, mevcut sistemin ne kadar adaletsiz ve rastgele olduğunu anlamayı kolaylaştırdı
Bu turdan sonra vardığımız sonuç daha da net: AMS algoritması, dijital bir makine yardımıyla kamu parasından tasarruf etmek için yayılan bir politikanın pahalı bir ölü doğumu. Tam tersi bir sonuç elde edilmiş, yani vergi mükelleflerinin parası, sadece adil olmayan ve avukatları, veri koruma kurumunu ve mahkemeyi meşgul eden pahalı bir dijital çözümle boşa harcanmıştır.
Şimdiye kadar, tamamen yeni teknolojilerin kullanımı en azından en azından kamuoyu önünde tartışılmış ve demokratik olarak meşrulaştırılmış demokratik olarak bir yasa ile meşrulaştırılmıştır. AMS algoritmasında durum böyle değildir.
Bu sistem geliştirildi ve ve kamuoyunda tartışılmadan sunulmuştur. Bu Sivil toplum bu sürece dahil edilmemiştir ve bugüne kadar temel bir eksiklik var bu sistemin nasıl işlediği ve hakkımızda nasıl karar verdiği konusunda temel bir şeffaflık eksikliği.
Polonya'daki benzer bir sistem Anayasa Mahkemesi tarafından iptal edilmiştir devrildi. Hollanda'da da algoritma tabanlı bir sistem var, sosyal yardım alıcılarını kontrol etmesigereken hukuka aykırıdır ve durdurulmuştur.
Karakteristik özelliklere izin vermemeliyiz, üzerinde kontrol sahibi olmadıkları, insanların aşağıdaki özelliklere sahip olup olmadıklarını belirlemede belirleyici olabilir Eğitim ve öğretimden men edilmelidir. Algoritmik Sistemler önyargı ve adaletsizlikle mücadele etmeli ve ve bu adaletsizliklere çimento olmamalıdır bu adaletsizlikleri yerinde çimentolamak.
İnsanlar devlet yardımlarına erişim konusunda anlaşılabilir kriterler temelinde karar vermelidir devlet yardımlarına erişim konusunda karar vermek, bir bilgisayar tarafından verilen kararlara uyuklamak yerine.
AMS algoritması reddedilmeli ve kapatılmalıdır. İnsanların kaderlerine bir bilgisayar karar vermemeli ve devlet yardımlarına erişim bir bilgisayar tarafından düzenlenmemelidir. Kararlar anlaşılır, şeffaf ve insani bir dokunuşla alınmalıdır. Bu sistem, siyasi kararların algoritmalara devredilmesi açısından tehlikeli bir emsal teşkil etmektedir.
Sistem (henüz) tam otomatik kararlar vermese bile, AMS personelinin sadece başını sallayarak geçiştireceği herhangi bir karar vermemelidir. AMS danışmanlık seansları genellikle sadece 15 dakika sürüyor ve bilgisayarla çelişmemek için büyük bir baskı var.
(İleri) eğitimi teşvik ederek ve mümkün kılarak daha fazla eğitime olanak sağlayın
İnsanlar becerileri ve güçlü yönleri temelinde terfi ettirilmelidir; bu da iş arayanlar için ileri eğitim ve öğretim tedbirlerinin artırılmasını gerektirmektedir.
İş arayanların üniversite veya AH eğitimine başlamalarına izin verilmelidir (şu anda buna yalnızca iş arayanlar çalışırken aynı zamanda eğitim almışlarsa izin verilmektedir). AMS, örneğin sadece birkaç gün süren kurslar gibi, kendi kendine ödenen ileri eğitimlere de izin vermelidir.
Danışmanlık için yeterli zamanı olan daha fazla ve daha iyi eğitimli danışmanlar talep ediyoruz.
Danışmanların iş arayanlara oranı Almanya'da 1:100 iken, Avusturya'da sadece 1:250. Bu, bu alanda bir artışın düşünülebilir ve mantıklı olacağını gösteriyor, çünkü daha iyi bir danışmanlık oranı, daha iyi iş fırsatları ve daha kaliteli danışmanlık anlamına geliyor. AMS'nin sadece danışmanlarının eğitimi ve ileri eğitimi için daha fazla paraya ihtiyacı yoktur. İş arayanlar için anlamlı ileri eğitim ve öğretim tedbirlerinin kalitesinin artırılması da aynı derecede gereklidir.
İş arayanların hakları konusunda kapsamlı ve proaktif bir eğitim verilmesi çağrısında bulunuyoruz.
AMS hepimiz tarafından finanse edilmektedir ve bu nedenle kamuya yardımcı olma yetkisine sahip bir hizmet sağlayıcıdır. Tüm insanlarla göz hizasında buluşmalıdır. İnsanların danışmanlarıyla eşit koşullarda konuşabilmeleri için, öncelikle AMS ile bağlantılı hak ve yükümlülüklerinin neler olduğu konusunda bilgi sahibi olmaları gerekir; işsizlik yardımı alma haklarının neyle bağlantılı olduğundan başlayarak - paralarının kesilip kesilemeyeceği ve hangi koşullarda kesilebileceği - AMS ile bir destek sözleşmesi yapmak zorunda olup olmadıkları veya bunun isteğe bağlı olup olmadığı - bilgi ve ifşa haklarının neye benzediği ve AMS'nin harici ortak şirketleriyle aralarındaki yasal ilişkinin nasıl düzenlendiği.
Hepimizin parasıyla başlatılan proje ve programların değerlendirilebilir olması için mümkün olduğunca şeffaf olması gerekir.
AMS algoritması, kamu hariç tutularak büyük masraflarla yıllarca geliştirilmiştir. Sistemin ne veri tabanı ne de sonuçları kamuoyuna açıklanmadığı için bilgilendirilmiş bir tartışma mümkün olmamıştır. Danışmanlar için eğitim materyalleri ve algoritmaya itiraz süreçleri gizli tutulmaya devam ediyor. Böylece projenin bilimsel olarak yeniden değerlendirilmesi ve demokratik bir şekilde tartışılması engellenmiş oluyor.
AMS'den kapsamlı ve proaktif bir şeffaflık talep ediyoruz. Açıklama sadece kamuoyu baskısı yoluyla gelmemelidir. En azından matematiksel modeller, kullanılan yazılım, anonimleştirilmiş veri tabanı, sistemin somut işleyişi ve bireysel gruplar için hesaplama sürecinin sonuçları yayınlanmalıdır. Aynı şekilde, AMS algoritmasının pratik danışmanlığı ve sübvansiyonların tahsisini nasıl etkilediği de şeffaf hale getirilmelidir. Eğitim dokümanları, AMS'nin yeniden yapılandırılması ve buna eşlik eden süreçlerle etkileşim ve etkilenenler için şikayet olanakları gibi AMS'nin eleştiriler sonucunda halihazırda almış olduğu önlemler de nihayetinde yayınlanmalıdır.
Algoritmaların uygulamaya konulmadan önce teknik ve sosyal etkileri açısından gözden geçirilmesi çağrısında bulunuyoruz (yukarı yönlü Algoritmik Etki Değerlendirmesi yükümlülüğü).
İnsanlar için olumsuz sonuçlar doğurabilecek otomatik sistemler, uygulamaya konulmadan önce işleyişleri ve olası sonuçları açısından dikkatle incelenmelidir. Bu, temel haklara potansiyel olarak müdahale eden tüm algoritmalar için yapılmalıdır
Algoritmaların kontrolü için uluslararası en iyi uygulamalar vardır, algoritmik Etki Değerlendirmesi olarak adlandırılır. Bu durum, aşağıdaki durumlarda ihmal edilmiştir AMS algoritması ve gelecekte zorunlu olmalıdır.
Algoritmalar sistemdeki hatalara, verilerdeki önyargılara karşı kontrol edilmelidir verilerdeki önyargılar ve bunun sonucunda ortaya çıkan olumsuz geri bildirim döngüleri analiz edilmelidir, bu tür sistemler piyasaya sürülmeden ve yaygın olarak kullanılmadan önce
Her istatistiksel regresyon neden-sonuç ilkesini takip etmez Etkisi. Yanlış analiz nedeniyle insanlar üzerinde olumsuz etkilerden kaçınılmalıdır kaçınılmalıdır
Bu nedenle, halihazırda olduğu gibi bir Algoritmik Etki Değerlendirmesi yapılması çağrısında bulunuyoruz Kanada ya da New York Şehri tanıttık.
AMS algoritmasına isteğe bağlı bir katılım (opt-in) ve herhangi bir destek tahsisinden ayrılma talep ediyoruz. Öyle bir sistem istiyoruz ki, ilgili kişiler bu sisteme gönüllü olarak katılabilsinler
AMS, iş arayanlar karşısında güçlü bir konumdadır Bu nedenle, veri koruma açısından, tüm iş arayanların AMS algoritmasına gönüllü olarak katılmalarını talep ediyoruz aMS algoritmasındaki tüm iş arayanların. İş arayanlar kendi sistem onları kategorize etmeden önce bilgilendirilmiş onay. Bu Onay herhangi bir zamanda iptal edilebilir, bu da algoritmanın hesaplanan tüm değerlerinin silinmesi gerektiği anlamına gelir Algoritmanın hesaplanan değerleri silinmelidir. Buna katılmayı reddetme Bu sisteme katılmayı reddetmek iş arayana zarar vermemelidir.
İnsanlar devlet yardımlarına erişim konusunda anlaşılabilir kriterler temelinde karar vermelidir devlet yardımlarına erişim konusunda karar vermek, bir bilgisayar tarafından verilen kararlara uyuklamak yerine.
AMS algoritması reddedilmeli ve kapatılmalıdır. İnsanların kaderlerine bir bilgisayar karar vermemeli ve devlet yardımlarına erişim bir bilgisayar tarafından düzenlenmemelidir. Kararlar anlaşılır, şeffaf ve insani bir dokunuşla alınmalıdır. Bu sistem, siyasi kararların algoritmalara devredilmesi açısından tehlikeli bir emsal teşkil etmektedir.
Sistem (henüz) tam otomatik kararlar vermese bile, AMS personelinin sadece başını sallayarak geçiştireceği herhangi bir karar vermemelidir. AMS danışmanlık seansları genellikle sadece 15 dakika sürüyor ve bilgisayarla çelişmemek için büyük bir baskı var.
(İleri) eğitimi teşvik ederek ve mümkün kılarak daha fazla eğitime olanak sağlayın
İnsanlar becerileri ve güçlü yönleri temelinde terfi ettirilmelidir; bu da iş arayanlar için ileri eğitim ve öğretim tedbirlerinin artırılmasını gerektirmektedir.
İş arayanların üniversite veya AH eğitimine başlamalarına izin verilmelidir (şu anda buna yalnızca iş arayanlar çalışırken aynı zamanda eğitim almışlarsa izin verilmektedir). AMS, örneğin sadece birkaç gün süren kurslar gibi, kendi kendine ödenen ileri eğitimlere de izin vermelidir.
Danışmanlık için yeterli zamanı olan daha fazla ve daha iyi eğitimli danışmanlar talep ediyoruz.
Danışmanların iş arayanlara oranı Almanya'da 1:100 iken, Avusturya'da sadece 1:250. Bu, bu alanda bir artışın düşünülebilir ve mantıklı olacağını gösteriyor, çünkü daha iyi bir danışmanlık oranı, daha iyi iş fırsatları ve daha kaliteli danışmanlık anlamına geliyor. AMS'nin sadece danışmanlarının eğitimi ve ileri eğitimi için daha fazla paraya ihtiyacı yoktur. İş arayanlar için anlamlı ileri eğitim ve öğretim tedbirlerinin kalitesinin artırılması da aynı derecede gereklidir.
İş arayanların hakları konusunda kapsamlı ve proaktif bir eğitim verilmesi çağrısında bulunuyoruz.
AMS hepimiz tarafından finanse edilmektedir ve bu nedenle kamuya yardımcı olma yetkisine sahip bir hizmet sağlayıcıdır. Tüm insanlarla göz hizasında buluşmalıdır. İnsanların danışmanlarıyla eşit koşullarda konuşabilmeleri için, öncelikle AMS ile bağlantılı hak ve yükümlülüklerinin neler olduğu konusunda bilgi sahibi olmaları gerekir; işsizlik yardımı alma haklarının neyle bağlantılı olduğundan başlayarak - paralarının kesilip kesilemeyeceği ve hangi koşullarda kesilebileceği - AMS ile bir destek sözleşmesi yapmak zorunda olup olmadıkları veya bunun isteğe bağlı olup olmadığı - bilgi ve ifşa haklarının neye benzediği ve AMS'nin harici ortak şirketleriyle aralarındaki yasal ilişkinin nasıl düzenlendiği.
Hepimizin parasıyla başlatılan proje ve programların değerlendirilebilir olması için mümkün olduğunca şeffaf olması gerekir.
AMS algoritması, kamu hariç tutularak büyük masraflarla yıllarca geliştirilmiştir. Sistemin ne veri tabanı ne de sonuçları kamuoyuna açıklanmadığı için bilgilendirilmiş bir tartışma mümkün olmamıştır. Danışmanlar için eğitim materyalleri ve algoritmaya itiraz süreçleri gizli tutulmaya devam ediyor. Böylece projenin bilimsel olarak yeniden değerlendirilmesi ve demokratik bir şekilde tartışılması engellenmiş oluyor.
AMS'den kapsamlı ve proaktif bir şeffaflık talep ediyoruz. Açıklama sadece kamuoyu baskısı yoluyla gelmemelidir. En azından matematiksel modeller, kullanılan yazılım, anonimleştirilmiş veri tabanı, sistemin somut işleyişi ve bireysel gruplar için hesaplama sürecinin sonuçları yayınlanmalıdır. Aynı şekilde, AMS algoritmasının pratik danışmanlığı ve sübvansiyonların tahsisini nasıl etkilediği de şeffaf hale getirilmelidir. Eğitim dokümanları, AMS'nin yeniden yapılandırılması ve buna eşlik eden süreçlerle etkileşim ve etkilenenler için şikayet olanakları gibi AMS'nin eleştiriler sonucunda halihazırda almış olduğu önlemler de nihayetinde yayınlanmalıdır.
Algoritmaların uygulamaya konulmadan önce teknik ve sosyal etkileri açısından gözden geçirilmesi çağrısında bulunuyoruz (yukarı yönlü Algoritmik Etki Değerlendirmesi yükümlülüğü).
İnsanlar için olumsuz sonuçlar doğurabilecek otomatik sistemler, uygulamaya konulmadan önce işleyişleri ve olası sonuçları açısından dikkatle incelenmelidir. Bu, temel haklara potansiyel olarak müdahale eden tüm algoritmalar için yapılmalıdır
Algoritmaların kontrolü için uluslararası en iyi uygulamalar vardır, algoritmik Etki Değerlendirmesi olarak adlandırılır. Bu durum, aşağıdaki durumlarda ihmal edilmiştir AMS algoritması ve gelecekte zorunlu olmalıdır.
Algoritmalar sistemdeki hatalara, verilerdeki önyargılara karşı kontrol edilmelidir verilerdeki önyargılar ve bunun sonucunda ortaya çıkan olumsuz geri bildirim döngüleri analiz edilmelidir, bu tür sistemler piyasaya sürülmeden ve yaygın olarak kullanılmadan önce
Her istatistiksel regresyon neden-sonuç ilkesini takip etmez Etkisi. Yanlış analiz nedeniyle insanlar üzerinde olumsuz etkilerden kaçınılmalıdır kaçınılmalıdır
Bu nedenle, halihazırda olduğu gibi bir Algoritmik Etki Değerlendirmesi yapılması çağrısında bulunuyoruz Kanada ya da New York Şehri tanıttık.
AMS algoritmasına isteğe bağlı bir katılım (opt-in) ve herhangi bir destek tahsisinden ayrılma talep ediyoruz. Öyle bir sistem istiyoruz ki, ilgili kişiler bu sisteme gönüllü olarak katılabilsinler
AMS, iş arayanlar karşısında güçlü bir konumdadır Bu nedenle, veri koruma açısından, tüm iş arayanların AMS algoritmasına gönüllü olarak katılmalarını talep ediyoruz aMS algoritmasındaki tüm iş arayanların. İş arayanlar kendi sistem onları kategorize etmeden önce bilgilendirilmiş onay. Bu Onay herhangi bir zamanda iptal edilebilir, bu da algoritmanın hesaplanan tüm değerlerinin silinmesi gerektiği anlamına gelir Algoritmanın hesaplanan değerleri silinmelidir. Buna katılmayı reddetme Bu sisteme katılmayı reddetmek iş arayana zarar vermemelidir.
Bundesministerium für Arbeit und Wirtschaft
Untere Donaustraße 13-15, 1020 Wien
Yılda bir kez, tüm şirketlerden ve yetkililerden tüm verilerinizi ücretsiz olarak talep edebilirsiniz. AMS için bunu buradan yapabilirsiniz.
DSGVO Madde 15 uyarınca bilgi talebi
Yalnızca 2019'dan beri işsizseniz, AMS sizin için algoritmik bir sınıflandırma yapar ve bu da bilgi talebinin yaklaşık 2 sayfasını oluşturur (bir bilgi sayfası ve bir bilgi sayfası). Ortalama olarak, AMS'de (yaşlılar için) bir bilgi talebi yaklaşık 80-150 sayfadan oluşmaktadır. Talep etmeniz halinde AMS danışmanınızsize algoritmik sınıflandırmanız hakkındada bilgiverebilir.