Ageism in AI: new forms of age discrimination and exclusion in the era of algorithms and artificial intelligence (AGEAI)

Abstract

Der Einsatz von künstlicher Intelligenz (KI) birgt große Chancen für Wirtschaft und Gesellschaft. Sie birgt jedoch auch Risiken in Bezug auf soziale Gleichheit, Privatsphäre, Fairness und Verantwortlichkeit. Neuere Studien haben erhebliche rassistische und geschlechtsspezifische Verzerrungen in al­go­rith­mischen Systemen ans Licht gebracht und gezeigt, wie sich KI negativ auf marginalisierte Gruppen auswirken kann. Überraschenderweise wurde die Kategorie Alter, die für die soziale Eingliederung und Gleichberechtigung in alternden Gesellschaften von entscheidender Bedeutung ist, in der Forschung und Politik zu KI-Voreingenommenheit weitgehend außer Acht gelassen.

Die COVID-19-Pandemie hat zudem gezeigt, dass ältere Menschen aufgrund ihres begrenzten Zugangs zu digitalen Ressourcen unverhältnismäßig stark sozial ausgegrenzt werden. Trotz dieser Erkenntnisse wird die Rolle von KI-Systemen bei der Verschärfung dieser Ungleichheiten erst seit Kurzem unter die Lupe genommen. Die Weltgesundheitsorganisation (WHO) hat Bedenken geäußert, dass unkontrollierte KI-Technologien den bestehenden Altersdiskriminierung in der Gesellschaft aufrechterhalten und die Qualität der Gesundheits- und Sozialfürsorge für ältere Menschen beeinträchtigen könnten (WHO, 2022). Das Ausmaß und die verschiedenen Formen von Altersdiskriminierung in der KI sind jedoch noch weitgehend unerforscht, so dass dies ein relativ unerforschtes Gebiet ist.

Um diese Lücke zu schließen, will sich unsere interdisziplinäre Studie mit dem Thema Ageism in der KI befassen und versuchen, die Implikationen und potenziellen Folgen für ältere Menschen und die Gesellschaft im Allgemeinen zu verstehen. Ziel des AGEAI-Projekts ist es, kritisch zu bewerten, wie Ageism in KI-Systemen, -Produkten, -Dienstleistungen und -Infrastrukturen wirkt, indem es sich auf kritische Bereiche des KI-Einsatzes konzentriert (Gesundheitswesen, Beschäftigungs-/Einstellungssysteme, Mobilität und Verkehr, Finanzdienstleistungen, Gesichtserkennung). Die in diesen Bereichen entwickelten KI-Technologien werden im vorgeschlagenen EU-KI-Gesetz (2022) als "risikoreich" eingestuft und müssen streng geprüft werden, um die Standards einer vertrauenswürdigen, menschenzentrierten und fairen KI zu erfüllen.

Main content
Relevante Publikationen
Previous
Next
Projekt Updates

Wissenschaftskommunikation

Wir freuen uns, Ihnen mitteilen zu können, dass unser Team zusätzliche Mittel für die Strategie zur Wissenschaftskommunikation erhalten hat. Unser Projekt Algorithmic fairness in ageing societies: (re-)imagining a better future  konzentriert sich auf altersbedingte Vorurteile und Diskriminierung in algorithmischen Systemen.

In Zusammenarbeit mit:

- Future Probes

- Karina Villavicencio

- Prof. Rüya Gökhan Koçer

- Dr. Vânia de la Fuente-Núñez

- AGE Platform Europe

Wir freuen uns auf den Start dieses spannenden Vorhabens

Projekt Updates

Förderung

Wir freuen uns, bekannt geben zu können, dass wir von der Volkswagenstiftung eine zusätzliche Förderung für die Umsetzung von Maßnahmen zur Wissenschaftskommunikation erhalten haben. Das Projekt "Algorithmic fairness in ageing societies: (re-)imagining better future" wird sich mit den vielfältigen Auswirkungen von künstlicher Intelligenz (KI) auf die Gesellschaft befassen und sich dabei auf Altersdiskriminierung in algorithmischen Systemen konzentrieren. Das Hauptziel dieses Wissenschaftskommunikationsprojekts ist es, das Bewusstsein und das Wissen über das Problem der Altersdiskriminierung in algorithmischen Systemen zu erhöhen und die kritische Reflexion über dieses Thema zu fördern. Wir richten uns an drei Hauptgruppen: ältere Menschen, DatenwissenschaftlerInnen/AI-EntwicklerInnen und InteressenvertreterInnen, die jeweils mit maßgeschneiderten Aktivitäten das Bewusstsein und das Verständnis für altersbedingte Vorurteile in der KI erhöhen sollen. In Zusammenarbeit mit Partnern aus den Bereichen Kunst, Zivilgesellschaft und Interessenvertretung werden wir partizipative Workshops mit älteren Menschen, Videoperformances und Kunstvernissagen, einen Hackathon für Datenwissenschaftler und zwei gesellschaftspolitische Veranstaltungen in Berlin und Brüssel organisieren, um mit politischen Entscheidungsträgern in Kontakt zu treten und Empfehlungen zu entwickeln.

Projekt Updates

Konferenz

Justyna Stypinska und Ruya Kocer haben an der Eröffnungskonferenz des Fairness-Clusters vom 19.-20. März 2024 teilgenommen. Auf dem Workshop im Anschluss an die Konferenz präsentierten sie die Ergebnisse ihrer Forschungen zu alters- und geschlechtsspezifischen Verzerrungen in algorithmischen Kreditscoring-Systemen.

Mehr zur Eröffnungskonferenz finden Sie unter: https://www.biasproject.eu/event/ai-fairness-cluster-inaugural-conferen...

Mehr zum Workshop-Programm finden sie unter: https://fairnesscluster.github.io/aimmes23.github.io/program.html

Wissenschaftliches Poster: https://cloud.wzb.eu/s/qej9fqeNe4kxKKE

Projekt Updates

Vortrag

Unser Team hat am 26.-28. April 2023 an der Universität Cambridge den Vortrag "Many worlds of AI" vorgestellt

Projekt Updates

Konferenz

Unser Team hat am 28.-29. September 2023 an der Konferenz "Theorising Ageing in a Digital World " In Utrecht teilgenommen. Paper: “Age bias in algorithms and automatic decision-making systems – a new source of inequalities in digitalized society”.