Allgemein

Wie könnte Künstliche Intelligenz weltweit bei der Verteilung öffentlicher sozialer Leistungen eingesetzt werden, um Fairness zu erhöhen?

Internationales Forschungsprojekt unter Leitung der JGU stellt Ergebnisse mit einem frei verfügbaren Sammelband vor

18.03.2025

In vielen Ländern weltweit wird Künstliche Intelligenz (KI) zunehmend bei der Verteilung öffentlicher sozialer Leistungen eingesetzt, zum Beispiel bei der Verteilung von Renten- oder Arbeitslosengeldern, der Bewilligung von Asylanträgen oder der Vergabe von Kindergartenplätzen. Die Technologie soll unter anderem dabei helfen, Fairnesskriterien für den individuellen Erhalt solcher Leistungen anzuwenden und Antragstellende dementsprechend zu bewerten – wobei die angelegten Gerechtigkeitsmaßstäbe von Land zu Land variieren. Zum Beispiel richtet sich in Indien die Verteilung sozialer Leistungen nach dem Kastensystem, in China nach der Qualität staatsbürgerlichen Verhaltens. Aber auch innereuropäisch unterscheiden sich Fairnesskonzepte bei der Verteilung knapper staatlicher Ressourcen gewaltig. Das sind einige der zentralen, mittels partizipativer Forschung gewonnenen Ergebnisse des internationalen Forschungsprojekts "AI FORA – Artificial Intelligence for Assessment", die kürzlich in einem online frei verfügbaren Sammelband veröffentlicht worden sind. An dem rund dreieinhalbjährigen Projekt beteiligt waren unter Leitung der Johannes Gutenberg-Universität Mainz (JGU) unter anderem das Deutsche Forschungszentrum für Künstliche Intelligenz in Kaiserslautern, die Universität Augsburg und die University of Surrey, Großbritannien. Das Projekt wurde von der VolkswagenStiftung mit rund 1,5 Millionen Euro gefördert und im Dezember 2024 abgeschlossen.

Vergleich KI-gestützter sozialer Bewertungen in neun Ländern auf vier Kontinenten

Das nun erschienene, rund 300-seitige Buch vergleicht den Status quo und die gewünschten Szenarien KI-gestützter sozialer Bewertungen in neun Ländern auf vier Kontinenten: Deutschland, Spanien, Estland, Ukraine, USA, Nigeria, Iran, Indien und China. "Die Fallstudien machen das Ausmaß deutlich, in dem Gerechtigkeitskriterien für den Erhalt staatlicher Leistungen kultur- und kontextabhängig sind. Auch innerhalb von Gesellschaften gibt es hierzu sehr unterschiedliche Perspektiven, die sich in ständiger Aushandlung befinden. Dies muss sich in der Technologie niederschlagen. Es reicht also nicht aus, ein einziges standardisiertes KI-System für soziale Bewertungen in der öffentlichen Leistungserbringung zu entwickeln und weltweit zum Einsatz zu bringen. Wir brauchen flexible, dynamische und adaptive Systeme. Deren Entwicklung ist auf den Beitrag aller gesellschaftlicher Akteure, auch den von vulnerablen Gruppen, zur Gestaltung von partizipativer, kontextspezifischer und fairer KI angewiesen", betont Prof. Dr. Petra Ahrweiler vom Institut für Soziologie der JGU, die das Projekt AI FORA geleitet hat. Nach ihren Angaben wird demnächst ein weiteres Buch erscheinen, in dem die Forschenden die politikrelevanten Modellierungs- und Simulationsergebnisse des AI FORA-Projekts vorstellen und dann zeigen wollen, wie Künstliche Intelligenz konkret verbessert werden kann, um Gerechtigkeits- oder Diskriminierungsprobleme bei der Vergabe öffentlicher sozialer Leistungen zu lösen.

Veröffentlicht am | Veröffentlicht in Allgemein

TISSS Lab Spring School “Artificial Intelligence, Simulation and Society”

JGU, 7-11 April 2025, SoSe 2025
Instructors: Prof. Dr. Petra Ahrweiler; Blanca Luque Capellas M.A., Dr. Martin Neumann
Language of instruction: English

 

Overview:

The Spring School explores the triad of „AI, Simulation, Society“ for two highly relevant and highly sensitive Innovation Areas: (1) AI use in assessing potential beneficiaries for public social services, and (2) AI use to mitigate climate crisis risks in natural disaster response. In both areas, the course deals with sociological aspects of AI futures and our ability to shape, test, and prototype potential techno-futures by sociological methods such as serious games in participatory social research and social simulation.

 

Innovation Area 1: AI use in assessing beneficiaries for public social service provision

AI technologies are increasingly applied in assessing people as beneficiaries. However, the use of
AI is challenged for its fairness: Existing biases and discrimination in service provision appear to be
perpetuated as result of machine learning on past data. Fairness, however, is a cultural concept: its
meaning in terms of values and beliefs, its implications for technology design, and the desired
techno-futures need to be societally negotiated.
The School will start with a series of contents-related sessions with lectures on

  • introducing the challenge to provide participatory AI responsive to societal needs
  • reviewing existing systems
  • anticipating and projecting future systems

This will be followed by methods-related sessions where participants will learn how specific formats can help to bring sociological aspects to AI development. They learn, partly by lectures but also by direct experience, how

  • gamification, i.e., applying game elements in non-game contexts, can act as a low-threshold entry point for people to contribute to research
  • games can be designed to explore how people would create better systems from their perspective
  • the gamification approach can empower participants to deal with the problem of distributing scarce resources in the discussion and negotiation context of their specific socio-cultural setting
  • gamified solutions can work as input for simulations of the desired system leading to further discussions and deliberations
  • simulations can use agent-based modelling to reflect the gamified social context as a second-order construction of participants
  • they can observe the outcome of their design decisions in the simulation and use this for further iterations between game and simulation improving outcomes.

 

Innovation Area 2: AI use to mitigate climate crisis risks in natural disaster response

AI already increases our resilience and our capacity dealing with a broad range of ecological crisis issues; there are many AI applications in natural disaster management with focus on flood, heat, fire, draught, etc., e.g. forecasting extreme weather events and disaster prediction, sensor networks and automated decision systems. However, full use of deep computation for smart solutions to keep up with accelerated crisis scenarios is not yet implemented. AI is accused of a gap between technology and society: For broad uptake and unfolding its expected transformation potential, AI would need to be more responsive to societal needs, more ethical, responsible and participatory.
In this part of the Spring School, participants will apply their learnings in small working groups and develop own contributions analogous to the workflow and methods of Innovation Area 1. Supported by the instructors, they will develop contents-related presentations

  • introducing the challenge to provide participatory AI responsive to societal needs
  • reviewing existing systems
  • anticipating and projecting future systems

followed by methods-related contributions such as serious games and ideas for simulation.

 

See full description here.
This course is open to exchange students (of all subjects). To register, please contact the Sociology Office (studienbuero.soziologie@uni-mainz.de). Up to 30 students will be accepted.

Picture of scientists at a workshop

Veröffentlicht am | Veröffentlicht in Allgemein

Policy Community Workshop

Fairness-Aspekte bei der Nutzung künstlicher Intelligenz in Asylverfahren und Integrationsprozessen von Geflüchteten

Policy Community Workshop des Forschungsprojekts “Artificial Intelligence for Assessment” (AI FORA) als Teil des “European Workshop on Algorithmic Fairness” (EWAF’24)

2.-3. Juli 2024, Johannes Gutenberg-Universität Mainz

Zusammenfassung herunterladen:

Summary German Policy Workshop

Veröffentlicht am | Veröffentlicht in Allgemein

Podiumsdiskussion: "Künstliche Intelligenz in der Pandemiebekämpfung"

Videomitschnitt des Herrenhäuser Forum der Volkswagen Stiftung "Überwachen – Übernehmen – Überlassen? Der Einsatz Künstlicher Intelligenz in der Pandemiebekämpfung" vom 25. November 2021 mit Prof. Dr. Petra Ahrweiler, Dr. Aljoscha Burchardt, Prof. Dr. Dr. Eric Hilgendorf, Prof. Dr. Judith Simon und Annette Riedel (Moderation).

Nachbericht: https://www.volkswagenstiftung.de/veranstaltungen/veranstaltungsberichte/wo-kann-künstliche-intelligenz-in-pandemien-helfen-–-und-wo-darf-sie

Vortrag: Artificial intelligence for assessment

Ein Vortag von Prof. Dr. Petra Ahrweiler zum Thema "Artificial intelligence for assessment" im Rahmen der Veranstaltungsreihe "Cicle de Seminaris OEIAC: La intel·ligència artificial en la nostra vida quotidiana" der Universität Girona.

Selbstlernende Sensorsysteme für Natur und Technik

 

Im Rahmen des BMBF Programms Cluster4Future beteiligt sich das TISSS Lab der Johannes Gutenberg-Universität zusammen mit den Partnern Johann Wolfgang Goethe-Universität Frankfurt am Main, Technische Universität Darmstadt, Fraunhofer-Institut für Betriebsfestigkeit und Systemzuverlässigkeit LBF sowie dem Institut für Tierökologie und Naturbildung am Zukunftscluster SENSORITHM Rhein-Main. Das Konsortium ist interdisziplinär zusammengesetzt, um Expertise aus Physik, Biologie, Informatik, Maschinenbau und Sozialwissenschaften zu verbinden. SENSORITHM wird untersuchen, wie intelligente Sensortechnologien Kollisionen mit Vögeln und Fledermäusen mit Windrädern vermeiden helfen und wird selbstlernende Sensorsysteme zur Überwachung technischer Komponenten und Anlagen entwickeln.

Damit kann Sensorithm dazu beitragen, ein Grün-Grün-Dilemma aufzulösen: Einerseits soll die von Windrädern erzeugte erneuerbare Energie den Klimawandel aufhalten und damit letztlich auch die Artenvielfalt sichern, andererseits gefährden die Rotorblätter seltene Vogelarten wie den Roten Milan und verschiedene Fledermausarten. Durch die Einführung intelligenter Sensortechnologien könnte der Zielkonflikt von Klimaneutralität vs. Energiebedarf mithilfe eines bereit aufgestellten Innovationsnetzwerks aufgelöst werden.

TISSS Lab-Leiterin Prof. Dr. Ahrweiler mit ihrem Team wird im Projekt für die sozialwissenschaftliche Analyse und Gestaltung der Vieldimensionalität dieses Innovationsnetzwerks im Spannungsfeld technologischer, ökologischer, wirtschaftlicher, politischer und sozialer Aspekte verantwortlich sein.

So ist zum Beispiel zu erwarten, dass sich Genehmigungsverfahren von Windenergieanlagen verändern und dass das Wissen über neue technologische Möglichkeiten Eingang in politische Diskurse findet. Das Zukunftscluster ist eng mit Partnern aus Industrie, Hochschulen, Instituten, Behörden und Zivilgesellschaft (Umweltschützer*innen, Verbände, NGOs, Schulklassen) verknüpft und wird mit diesen zusammenarbeiten. Das TISSS Lab wird Partizipationsprozesse unterstützen und eine adäquate Einbindung relevanter Stakeholder sicherstellen.

Veröffentlicht am | Veröffentlicht in Allgemein

Neues Forschungsprojekt "AI NAVI"

Die VW Stiftung fördert das Forschungsprojekt "AI Navigation of Complex Social Landscapes (AI-NAVI) im Rahmen eines Planning Grants, welches die Grundlage für ein mehrjähriges Forschungsprojekt durch ein Full Grant bietet.

AI-NAVI soll erforschen, ob und wie künstliche Intelligenz gesellschaftspolitische Entscheidungen beeinflusst und zu den gegenwärtigen Erscheinungsformen des Populismus weltweit beiträgt. Das TISSS Lab der JGU Mainz wird die Leitung und Koordination eines interdisziplinären Konsortiums aus Sozial-, Kognitions-, und Computerwissenschaftlern der Universitäten Gießen, Mainz, Newcastle, Surrey und des Deutschen Forschungszentrums für Künstliche Intelligenz übernehmen, um einen innovativen, integrierten Ansatz zur Untersuchung dieser komplexen Ereignisse zu entwerfen.

Mehr Informationen