Arrête l'algorithme AMS

Les ordinateurs ne doivent pas décider pour les gens !

Jusqu'à présent 4523 de 5000 signatures.

Discussion en panel sur l'algorithme AMS

Dauer: 70 Minuten

Lors du lancement de la semaine d'action en Haute-Autriche, début mai 2022, au cours de laquelle on a fait campagne pour l'abolition d'un tel système basé sur la machine, des représentants* de la science, de la politique, du partenariat social et de l'administration ont discuté de leur approche de l'algorithme AMS. Une table ronde passionnante, avec de nombreux arguments et des rebondissements tout à fait inattendus.

Am Podium:
Dr. Doris Allhutter, Senior Scientist, Institut für Technikfolgen-Abschätzung
Mag.a Dagmar Andree, MBA, Leiterin Abt. Wirtschafts-, Sozial- & Gesellschaftspolitik, Kammer für Arbeiter & Angestellte Oberösterreich
Mag. Gerald Loacker, Abgeordneter zum Nationalrat, NEOS
Thomas Lohninger, executive director ; epicenter.works
Dr. Andreas Zavadil, CIPP/E, CIPM, Datenschutzbehörde / Austrian Data Protection Authority
Durch das Gespräch führt : Mag. Daniela Soykan

Mehr Infos zur Veranstaltung

Ce qui se passe ensuite ...

Jusqu'en septembre 2022, les problèmes détaillés d'un système automatique, automatisé et non transparent seront discutés dans des groupes focus ciblés. Dans des groupes modérés, nous discuterons et analyserons avec les personnes concernées si les algorithmes peuvent être utilisés pour des prestations d'assurance garanties par l'État. Nous publierons les résultats.

De plus, nous serons à nouveau présents en Haute-Autriche. Avec notre bus de tournée et le bandit manchot "Algomat", nous voulons rendre visite aux communautés fortement touchées et les informer sur le système et ses problèmes. Actuellement, nous recherchons des organisations et des associations en Haute-Autriche qui travaillent avec des personnes réfugiées ou des demandeurs d'emploi de longue durée. Si tu es ou connais un représentant d'une telle communauté, par exemple un groupe culturel syrien ou une association culturelle croate, etc. N'hésite pas à nous contacter : ams-algorithmus@epicenter.works
Nous recherchons également des médiateurs linguistiques afin de pouvoir communiquer plus facilement sur place

C'était la visite ...

En mai 2022, nous avons fait une tournée en Haute-Autriche et avons eu de nombreuses discussions intéressantes avec des personnes concernées et des employés de l'AMS. Tous étaient généralement d'accord pour dire qu'un tel système mécanique est terriblement injuste. Il reste un gaspillage d'argent, car il n'est utile ni pour les demandeurs d'emploi ni pour les employés de l'AMS, dont beaucoup se sont solidarisés avec notre action

Notre bandit manchot "Algomat" a remporté un franc succès. Beaucoup ont "joué" avec la machine, dont la programmation a été faite à partir des données connues sur l'algorithme AMS. La machine a permis de comprendre facilement à quel point le système existant est injuste et basé sur le hasard

Notre conclusion après ce tour est encore plus claire : cet algorithme AMS est un coûteux mort-né d'une politique qui prônait l'économie d'argent public à l'aide d'une machine numérique. C'est le contraire qui s'est produit, à savoir le gaspillage de l'argent des contribuables dans une solution numérique coûteuse qui n'est qu'injuste et qui occupe déjà les avocats, l'autorité de protection des données et le tribunal.

Rappels

  • 2. Mai AMS Traun
  • 3. Mai AMS Wels
  • 4. Mai AMS Steyr
  • 5. Mai AMS Vöcklabruck
  • 6. Mai AMS Linz

L'introduction de l'algorithme AMS est une une dangereuse digue qui saute.

Jusqu'à présent, l'utilisation de technologies entièrement nouvelles au moins un débat public et une loi a été légitimée démocratiquement. Ce n'est pas le cas de l'algorithme AMS.

Ce système a été mis en place sans débat public développé et présenté. Le site La société civile a été impliquée dans ce processus pas impliqué et jusqu'à aujourd'hui, il n'y a pas de la transparence sur la manière dont ce système fonctionne et prend des décisions à notre sujet est fondamentalement absente.

Un système similaire a été adopté en Pologne par la Cour constitutionnelle a été annulée. Un système basé sur des algorithmes a également été mis en place aux Pays-Bas, qui devait contrôler les bénéficiaires de l'aide sociale a été déclaré illégal et abandonné.

Nous ne devons pas permettre que des caractéristiques, les personnes qui ne sont pas en mesure d'exercer une influence peuvent être déterminées par le fait qu'elles ne sont pas autorisées à travailler L'éducation et la formation sont interdites. Algorithmique Les systèmes doivent lutter contre les préjugés et les injustices et ne doivent pas être injustes cimenter aussi.

Nos 7 exigences

1. Ce sont les gens, pas les ordinateurs, qui doivent décider

Les gens doivent pouvoir se baser sur des critères compréhensibles décider de l'accès aux prestations de l'Etat, au lieu de simplement approuver les décisions d'un ordinateur.

L'algorithme AMS est à rejeter et doit être désactivé. Un ordinateur ne doit pas décider des destins humains et l'accès aux services publics ne doit pas être régulé par un ordinateur. Les décisions doivent être prises de manière compréhensible, transparente et avec une mesure humaine. Le système est un dangereux précédent pour confier les décisions politiques à des algorithmes.

Même si le système ne doit pas (encore) prendre de décisions entièrement automatisées, il ne doit pas non plus imposer des décisions que le personnel AMS ne fait qu'approuver. Les rendez-vous de conseil AMS ne durent généralement que 15 minutes et il y a une énorme pression pour justifier le fait de ne pas contredire l'ordinateur.

2. Encourager les capacités au lieu de punir les faiblesses

Permettre plus d'éducation, en encourageant et en rendant possible l'éducation (continue)

Les personnes doivent être encouragées en fonction de leurs capacités et de leurs points forts, ce qui nécessite une augmentation des mesures de formation continue et de formation des demandeurs d'emploi.

Il faut permettre aux demandeurs d'emploi de commencer des études universitaires ou HES (actuellement, cela n'est autorisé que si les demandeurs d'emploi ont déjà étudié en parallèle lorsqu'ils travaillaient). L'AMS doit également autoriser les formations autofinancées, par exemple les cours de quelques jours seulement.

3. Plus de ressources pour l'AMS

Nous demandons des conseillers plus nombreux et mieux formés, qui disposent de suffisamment de temps pour les consultations.

Le rapport entre les conseillers et les demandeurs d'emploi est de 1:100 en Allemagne, alors qu'il n'est que de 1:250 en Autriche. On voit donc qu'une augmentation dans ce domaine serait envisageable et tout à fait judicieuse, car un meilleur rapport d'encadrement signifie de meilleures chances d'emploi et un encadrement de meilleure qualité. L'AMS n'a pas seulement besoin de plus d'argent pour la formation et la formation continue de ses conseillers*. Il est tout aussi nécessaire d'augmenter la qualité des mesures de formation et de perfectionnement utiles des demandeurs d'emploi.

4. Droit à l'information

Nous demandons une information proactive complète sur les droits des demandeurs d'emploi.

L'AMS est financé par nous tous et est donc un prestataire de services dont la mission est d'aider la collectivité. Il doit traiter toutes les personnes sur un pied d'égalité. Pour que les personnes puissent parler d'égal à égal avec leurs conseillers, elles ont besoin d'informations sur leurs droits et leurs obligations en rapport avec l'AMS, à commencer par les conditions de leur droit à l'allocation de chômage - si et dans quelles circonstances elles peuvent être privées d'argent - si elles doivent conclure un accord d'accompagnement avec l'AMS ou si cela est facultatif - quels sont leurs droits à l'information et à l'accès aux données et quelle est la relation juridique entre elles et les entreprises partenaires externes de l'AMS.

5. Une transparence totale

Les projets et programmes lancés avec l'argent de tous doivent être aussi transparents que possible pour pouvoir être évalués.

L'algorithme AMS a été développé pendant des années à grands frais, à l'abri des regards. Un débat éclairé n'a pas été possible, ne serait-ce que parce que ni la base de données du système ni ses résultats n'ont été publiés. Les documents de formation pour les conseillers et les processus de recours contre l'algorithme sont toujours tenus secrets. Une analyse scientifique et un débat démocratique sur le projet sont ainsi exclus.

Nous exigeons une transparence complète et proactive de la part de l'AMS. L'explication ne doit pas attendre la pression publique. Il faut au moins publier les modèles mathématiques, le logiciel utilisé, la base de données anonymisée, le fonctionnement concret du système et les résultats du processus de calcul pour les différents groupes. De même, il faut exposer de manière transparente comment l'algorithme de l'AMS affecte l'orientation pratique et l'attribution des aides. Les mesures que l'AMS a déjà prises suite aux critiques, comme les documents de formation, l'interaction avec la restructuration de l'AMS et les processus d'accompagnement, ainsi que les possibilités de recours pour les personnes concernées, doivent également être enfin publiées.

6. Vérification des risques pour les algorithmes

Nous demandons que les algorithmes soient évalués en termes de technique et d'impact social avant d'être introduits (obligation d'une évaluation d'impact algorithmique en amont).

Les systèmes automatisés qui pourraient avoir des conséquences négatives pour les personnes doivent être examinés de près avant d'être introduits, afin de déterminer leur fonctionnement et leurs éventuelles conséquences. Cela doit être fait pour tous les algorithmes qui interfèrent potentiellement avec les droits fondamentaux

Il existe ici des meilleures pratiques internationales de contrôle des algorithmes, ce que l'on appelle une évaluation de l'impact algorithmique. Cela a été fait pour l'algorithme L'algorithme AMS a été négligé et doit être obligatoire à l'avenir.

Les algorithmes doivent être testés pour détecter les erreurs dans le système, les biais dans les données et les cycles de feedback négatifs qui en résultent doivent être analysés, avant que de tels systèmes ne soient lancés et déployés à grande échelle

Toutes les régressions statistiques ne suivent pas le principe de cause à effet Effet. Les effets négatifs sur les personnes en raison d'une mauvaise analyse doivent être évités il faut éviter les erreurs

C'est pourquoi nous demandons une évaluation d'impact algorithmique, comme cela a déjà été fait Canada ou la La ville de New York ont mis en place.

7. Participation volontaire à l'algorithme uniquement

Nous demandons une participation optionnelle à l'algorithme AMS (opt-in) et le découplage de toute attribution de subvention. Nous voulons un système suffisamment bon pour que les personnes concernées y participent volontairement

L'AMS est en position de force vis-à-vis des demandeurs d'emploi Dans l'optique de la protection des données, nous demandons donc que la participation soit volontaire tous les demandeurs d'emploi à l'algorithme de l'AMS. Les demandeurs d'emploi doivent donner leur donner leur consentement éclairé avant que le système ne les catégorise. Ce Consentement peut être révoqué à tout moment, ce qui implique que tous les calculs Valeurs de l'algorithme doivent être supprimées. Le refus de participer à ce système Les demandeurs d'emploi ne doivent pas être désavantagés par leur participation au système.

Contacte ton ministre !

Prof. Dr. Martin Kocher

Bundesminister für Arbeit, Familie und Jugend

Bundesministerium für Arbeit, Familie und Jugend
Untere Donaustraße 13-15, 1020 Wien

Fais une demande d'information !

Une fois par an, tu peux demander gratuitement toutes tes données à toutes les entreprises et administrations. Ici, tu peux le faire pour l'AMS.

Vers le générateur

Ce n'est que si tu as été au chômage depuis 2019 que l'AMS a une classification algorithmique de toi, ce qui représente environ 2 pages de la demande de renseignements (une page d'information et une page de renseignements). En moyenne, une demande d'information auprès de l'AMS (pour les personnes âgées) compte environ 80 à 150 pages. Sur demande, ton conseiller AMSpeut également te fournir des informations sur ton classement algorithmique.

Soutenir* les personnes

La campagne est soutenue par les organisations suivantes :

Reste informé !