Fairness-Aspekte bei der Nutzung künstlicher Intelligenz in Asylverfahren und Integrationsprozessen von Geflüchteten
Policy Community Workshop des Forschungsprojekts “Artificial Intelligence for Assessment” (AI FORA) als Teil des “European Workshop on Algorithmic Fairness” (EWAF’24)
2.-3. Juli 2024, Johannes Gutenberg-Universität Mainz
Zusammenfassung herunterladen:
Policy Modeling meets Policy Practice
Ein Workshop während der jährlichen Modelierungs- und Simulationskonferenz (Annual Modeling and Simulation Conference ANSIMM)
am 21. Mai 2024, American University, Washington D.C., USA
von Prof. Dr. Petra Ahrweiler, Asst.-Prof. Dr. Taylor Anderson, Prof. Dr. Erik W. Johnston, Prof. Dr. Thoams Clemen, Dr. Andreas Tolk
Teilnehmer aus der politischen Praxis:
Mr. Ryan A. Riccucci, Mr. Duane M Blackburn
Flyer herunterladen:
Zusammenfassung herunterladen:
https://media.springernature.com/full/springer-static/cover-hires/book/978-3-031-60401-0?as=webp
Petra Ahrweiler
Angels and Other Cows
A Celestial Adventure into AI Worlds, the Social Good, and Unknown Connections
Springer Nature Switzerland, Juni 2024
DOI: 10.1007/978-3-031-60401-0
https://link.springer.com/book/10.1007/978-3-031-60401-0
In immer mehr Ländern der Welt nutzen öffentliche Verwaltungen zunehmend Künstliche Intelligenz (KI)-basierte Algorithmen, um - in der Hoffnung auf mehr Effizienz und Objektivität - über die Bereitstellung öffentlicher Sozialdienstleistungen, wie zum Beispiel Arbeitslosenunterstützung, zu entscheiden.
KI-basiert werden Profile von Bürgern und Bürgerinnen maschinell beurteilt, ob und in welcher Höhe sie knapp bemessene öffentliche Güter erhalten sollen. Weltweit sind die Entscheidungskriterien jedoch höchst kontingent: Es gibt keinen „one-fits-all“-Ansatz von sozialer Gerechtigkeit, der überall als gerecht empfunden würde. Außerdem wird den eingesetzten Systemen vorgeworfen, existierenden Bias und Diskriminierung in der Gesellschaft noch zu verstärken, da mit Daten der Vergangenheit gearbeitet wird.
Mit dem Ziel, „Bessere KI“ durch partizipative Beteiligung gesellschaftlicher Interessengruppen zu gestalten, untersucht das internationale Forschungsprojekt „Artificial Intelligence for Assessment“ (AI FORA) den Status quo und die Möglichkeiten vom KI-Einsatz in diesem Bereich. Das Projekt verwendet einen kulturvergleichenden Ansatz in Hinblick auf die Länder Deutschland, Estland, Spanien, Indien, China, Nigeria die Ukraine, den Iran und die USA, um auszuloten, ob und wie KI zu mehr sozialer Gerechtigkeit beitragen kann.
Ergebnisse des Forschungsprojekts sind prinzipiell für alle Bürgerinnen und Bürger von Interesse – sei es als Antragstellende, Empfängerinnen und Empfängern von Leistungen, Mitglieder vulnerabler Gruppen oder Steuerzahlende. Forschung ist aber oft nur für Expertinnen und Experten zugänglich, häufig von deren Interessen geprägt und in deren Sprache formuliert. Eben dies wirkt als Barriere, die v. a. besonders Betroffene, d. h. diejenigen, die einen besseren Zugang zu öffentlichen Gütern benötigen, ausschließt. Daher braucht es inklusive Formate, um breite Zielgruppen zu erreichen.
Ein solches Format ist der Roman „Angels and other Cows“ von Prof. Dr. Petra Ahrweiler, der Genres wie Sci-Fi, Romance, Adventure, Mystery und Comedy miteinander verbindet. Der jetzt erschienene Roman sowie drei noch folgende Bücher sollen zur inklusiven Wissenschaftskommunikation beitragen.
Die Geschichte von "Angels and other Cows" spielt sich sowohl im Himmel als auch auf der Erde ab. Der irdische Teil erzählt die Abenteuer von Gabriel und Tilda, die für eine internationale Hilfsorganisation namens B1 arbeiten. Ihre Aufgabe ist es, Fallstudienpartnerschaften für ein Projekt zur KI-gestützten sozialen Bewertung zu finden. In Zusammenarbeit mit Partnerinnen und Partnern aus verschiedenen Ländern und gesellschaftlichen Hintergründen erforschen sie die Auswirkungen von Werten und Kultur auf die soziale Bewertung und beleuchten Fragen der Voreingenommenheit und Diskriminierung in verschiedenen Systemen, die Menschen für die Gewährung von Sozialhilfe kategorisieren. Der Roman bezeichnet dies als autoethnografisches Lernen. Gabriel und Tilda ringen dabei mit der Definition ihrer eigenen Beziehung, die von Vorurteilen, gegenseitigen Bewertungen, Machtkämpfen zwischen den Generationen und milieuspezifischen Weltanschauungskonflikten geprägt ist.
Ihr persönlicher Weg ist verwoben mit einem globalen Plädoyer für Einheit in einer Welt dystopischer Zustände: Begrenzte öffentliche Mittel, Wirtschaftskrisen und ungleiche Lebenschancen in verschiedenen Ländern. Die Welt scheint in antagonistische Gesellschaften mit partikularen religiösen und soziokulturellen Glaubenssystemen geteilt, die soziale Ungerechtigkeit aufrechterhalten. Lesende erhält ein umfassendes Verständnis für diese komplexen Themen und begeben sich mit Gabriel und Tilda auf die Suche danach, ob KI diese Probleme verschlimmern oder lindern kann. Leser und Leserinnen erhalten auch Einblicke in die Technologie und ihre Funktionsweise.
Der himmlische Teil der Geschichte ist der Reflexion gewidmet. Während Gabriel und Tilda sich mit ihrer intellektuellen und emotionalen Verbindung auseinandersetzen, werden sie von zwei Schutzengeln, GA und TA, begleitet, die die Aufgabe haben, den Planeten durch interkulturelle Integration zu retten. Diese Engel spiegeln die Kämpfe ihrer Schützlinge und sorgen für komische Abwechslung. Die "Stimme der Weisheit" wird durch den englischen Benediktinermönch Bede Griffiths repräsentiert, der Tilda und Gabriel in ihrer unwahrscheinlichen Liebesgeschichte enthusiastisch unterstützt. Auf dieser Ebene werden im Roman philosophische und ethische Fragen diskutiert und verhandelt.
Bei „Angels and Other Cows. A Celestial Adventure into AI Worlds, the Social Good, and Unknown Connections” handelt es sich um den einleitenden Roman aus einer Reihe von insgesamt vier Open-Access-Büchern, die bei Springer Nature erscheinen. Zwei wissenschaftliche Bücher zu den Projektergebnissen sowie abschließend ein evaluierenden Wissenschaftsroman werden noch folgen.
Das AI FORA-Projekt wird von der VolkswagenStiftung im Rahmen ihres Programms „Künstliche Intelligenz und die Gesellschaft von morgen“ gefördert. Für das Konzept zur inklusiven Wissenschaftskommunikation hat TISSS Lab als koordinierende Institution zusätzliche Mittel in Höhe von 36.000 EUR erhalten.
Mit dem Roman sollen die Forschungsthemen und besonders die Forschungsergebnisse rund um den Einsatz von KI im öffentlichen Sektor einem möglichst breiten Publikum zugänglich gemacht werden. Damit sollen Leserinnen und Leser für die akademische Forschung begeistert werden. Demnächst wird auch eine Graphic Novel zum Roman erscheinen, die als zusätzlicher Baustein der inklusiven Strategie der Wissenschaftskommunikation gedacht ist. Die graphische Darstellung soll ein weiteres Medium anbieten und vor allem jüngere Leute erreichen.
Das Buch „Angels and Other Cows. A Celestial Adventure into AI Worlds, the Social Good, and Unknown Connections” wurde bei Springer Nature veröffentlicht und ist sowohl gedruckt wie auch kostenfrei in Open Access unter diesem Link erhältlich.
Prof. Dr. Petra Ahrweiler
I’m honored to serve as the track chair for "Humans, Societies, and Artificial Agents" of the 2024 Annual Simulation Conference (ANNSIM), organized in Washington, D.C. on 20–23 May 2024. https://scs.org/annsim/
We invite scientists, engineers, educators, and industry professionals who develop or use M&S methodologies and tools to participate and present original contributions. This is an excellent opportunity to showcase your work and connect with academic and industry experts! We’re counting on your submissions (due in January) on select topics in "Humans, Societies, and Artificial Agents" with a special focus on Policy Modeling. Accepted papers will be published by IEEE.
ANNSIM is one of the main conferences of the general simulation community, covering state-of-the-art developments in Modeling & Simulation (M&S).
This year, we’ll feature new and exciting tracks on modeling and simulation in the areas of sustainability, business process management, and cyber security. We’ll also retain many traditional tracks, including digital twins, cyber-physical systems, machine learning and AI, theory and foundations in modeling and simulation, medicine, and architectural and urban design.
Join us in Washington, D.C. and let’s make ANNSIM 2024 a success!
#conference #simulation #annsim #modeling #computerscience #engineering
Videomitschnitt des Herrenhäuser Forum der Volkswagen Stiftung "Überwachen – Übernehmen – Überlassen? Der Einsatz Künstlicher Intelligenz in der Pandemiebekämpfung" vom 25. November 2021 mit Prof. Dr. Petra Ahrweiler, Dr. Aljoscha Burchardt, Prof. Dr. Dr. Eric Hilgendorf, Prof. Dr. Judith Simon und Annette Riedel (Moderation).
Ein Vortag von Prof. Dr. Petra Ahrweiler zum Thema "Artificial intelligence for assessment" im Rahmen der Veranstaltungsreihe "Cicle de Seminaris OEIAC: La intel·ligència artificial en la nostra vida quotidiana" der Universität Girona.
While AI is an intensively debated topic, the impact of AI on the social and cultural life is less investigated. This will be highlighted in the webinar. The webinar will consist of talks of three experts in the domain of AI and culture and will conclude with a plenary discussion of the speakers.
Talks:
Title: "Communicative Robots and (Post-)human Identities"
Abstract: With the rise of communicative robots like Amazon’s Alexa, language-based interaction with machines is increasingly becoming part of our everyday life. This presentation uses the case of communicative robots to investigate the changing relationship between humans and machines. I suggest that communicative robots challenge established boundaries of the social world but nevertheless reproduce a cultural asymmetry between human and non-human actors.
Person: My research profile connects an academic background in sociology with a transdisciplinary career trajectory in science & technology studies. One of my major research fields are the challenges of digital technologies for society and social theory.
Title: "AI in editing, marketing, and using books. What do we know about potential effects on taste and creation?"
Abstract: In the publishing industry, AI applications are not only used in general management and marketing, but increasingly also at the core of its value chain, in editorial work. After an overview about such applications, the book usage process (buying, reading) and its support and / or surveyllance by AI systems will be focused. Anecdotal evidence (corresponding platforms don´t talk much about what they do ...) and insights from other media systems (film, music) inform a research project that has just started and will research particularly algorithmic recommendations and their effects on cultural tastes and possibly also the creation side.
Person: Christoph Bläsi is a professor for book / publishing studies at JGU´s Gutenberg Institute for World Literature and Written Media. His main areas of interest are digital publishing and book business as well as the application of digital humanities methods to book studies research problems. More recently, he has been starting research on AI applications in the book industry as well as on the effects of recommender engines on cultural tastes.
Title: How does AI shape social change in the domain of public policy?
Abstract: the lab for sociology of technology and innovation of the JGU Mainz will provide an overview of ongoing research projects on the influence of AI on social change. This will be illustrated at two examples: One example is algorithmic assessment for social welfare provision. Research is undertaken in a bidirectional way: It is studied how AI assesses humans and how humans assess AI. A second example is cognition in navigating political landscapes. It is investigated whether AI based complexity reducing devices foster the rise of political populism.
Person: The lab of Professor Petra Ahrweiler is investigating the sociology of technology and innovation. Professor Ahrweiler received her PhD for a study on AI and obtained her habilitation for a study on simulation in Science and Technology Studies. Her lab investigates whether and how new technologies and innovations have the potential to redraw the image of our society in a completely new way. Dr. Frederick Herget will talk about algorithmic assessment for social welfare provision. Dr. Martin Neumann will concentrate on the impact of AI on navigating political landscapes.
Neues Buch im Springer Verlag erschienen: "Ahrweiler, P., Neumann, M. (2021). Advances in Social Simulation. Proceedings of the 15th Social Simulation Conference: 23–27 September 2019.
Im Rahmen des BMBF Programms Cluster4Future beteiligt sich das TISSS Lab der Johannes Gutenberg-Universität zusammen mit den Partnern Johann Wolfgang Goethe-Universität Frankfurt am Main, Technische Universität Darmstadt, Fraunhofer-Institut für Betriebsfestigkeit und Systemzuverlässigkeit LBF sowie dem Institut für Tierökologie und Naturbildung am Zukunftscluster SENSORITHM Rhein-Main. Das Konsortium ist interdisziplinär zusammengesetzt, um Expertise aus Physik, Biologie, Informatik, Maschinenbau und Sozialwissenschaften zu verbinden. SENSORITHM wird untersuchen, wie intelligente Sensortechnologien Kollisionen mit Vögeln und Fledermäusen mit Windrädern vermeiden helfen und wird selbstlernende Sensorsysteme zur Überwachung technischer Komponenten und Anlagen entwickeln.
Damit kann Sensorithm dazu beitragen, ein Grün-Grün-Dilemma aufzulösen: Einerseits soll die von Windrädern erzeugte erneuerbare Energie den Klimawandel aufhalten und damit letztlich auch die Artenvielfalt sichern, andererseits gefährden die Rotorblätter seltene Vogelarten wie den Roten Milan und verschiedene Fledermausarten. Durch die Einführung intelligenter Sensortechnologien könnte der Zielkonflikt von Klimaneutralität vs. Energiebedarf mithilfe eines bereit aufgestellten Innovationsnetzwerks aufgelöst werden.
TISSS Lab-Leiterin Prof. Dr. Ahrweiler mit ihrem Team wird im Projekt für die sozialwissenschaftliche Analyse und Gestaltung der Vieldimensionalität dieses Innovationsnetzwerks im Spannungsfeld technologischer, ökologischer, wirtschaftlicher, politischer und sozialer Aspekte verantwortlich sein.
So ist zum Beispiel zu erwarten, dass sich Genehmigungsverfahren von Windenergieanlagen verändern und dass das Wissen über neue technologische Möglichkeiten Eingang in politische Diskurse findet. Das Zukunftscluster ist eng mit Partnern aus Industrie, Hochschulen, Instituten, Behörden und Zivilgesellschaft (Umweltschützer*innen, Verbände, NGOs, Schulklassen) verknüpft und wird mit diesen zusammenarbeiten. Das TISSS Lab wird Partizipationsprozesse unterstützen und eine adäquate Einbindung relevanter Stakeholder sicherstellen.
Neue Veröffentlichung in der Zeitschrift Quality & Qunatity: "Voinea, C., Neumann, M. (2020). Political culture. A theory in search for methodology. An editorial. Quality & Quantity 54(2): 335-360.
