MAIC ist ein vom Schweizerischen Nationalsfonds finanziertes Projekt (Nationaler Forschungschwerpunkt 77 "Digitale Transformation"). MAIC erforscht die Kontrolle über künstlich intelligente Systeme mittels empirischer Experimente.
Team: Thomas Burri (PI) und Juliane Beck (HSG, Recht), Markus Christen und Serhiy Kandul (UZH, Philosophie und Ökonomie), François Fleuret und Vincent Micheli (UniGe, Computerwissenschaften und maschinelles Lernen); in beratender Funktion Markus Kneer (UZH, Experimentalphilosophie).
Gegenwärtiger Status: Nach einer intensiven Planungsphase mit zwei Team Retreats, haben wir im Juni 2022 im Lab der ETH ZH eine Hauptphase des Experiments durchgeführt und werten nun die Daten aus. Das nächste Ziel ist eine weitere Phase mit grösseren Experimenten mit einem etwas anderen Fokus.
Budget: 0.6 Mio CHF
Dauer: 2021-2024.
Output: Der primäre Output wird auf den Daten basieren, die wir gegenwärtig mittels von Experimenten sammeln. Gleichzeitig arbeiten wir an einer formellen, publizierbaren Literatur Review zum Thema empirische Experimente im Bereich Kontrolle über KI.
Daneben produziert unser Team laufend Output, der mit MAIC in enger Verbindung steht, z.B.:
- Mehrerere Publikationen, z.B. "Language Models are Few-Shot Butlers" (Vincent Micheli und François Fleuret), "MineRL Diamond 2021 Competition: Overview, Results, and Lessons Learned" (u.a. François Fleuret, Vincent Micheli), "Can a Robot Lie? Exploring the Folk Concept of Lying as Applied to Artificial Agents" (Markus Kneer), "Guilty Artificial Minds: Folk Attributions of Mens Rea and Culpability to Artificially Intelligent Agents" (u.a. Markus Kneer), "Playing the Blame Game with Robots" (u.a. Markus Kneer), "Can Artificial Intelligence Make Art?…" (u.a. Markus Kneer), "The Ethical Assessment of Autonomous Systems in Practice" (u.a. Thomas Burri) und working papers, z.B. "From 'Human Control' in International Law to 'Human Oversight' in the New EU Act on AI" (Thomas Burri und Juliane Beck, Buchkapitel eingereicht).
- Verschiedene Auftritte bei Konferenzen und Tagungen, etwa an einem online Workshop der Univ. Cagliari zu "Meaningful Human Control" (März 2022, Thomas Burri und Juliane Beck), in Genf zu "Trust with AI" (Mai 2022, Thomas Burri, mit Video, ab 2h:30m), an der HSG zu "Perception of efficiency vs. Fairness tradeoffs in AI-based decision making" (Mai 2022, Serhiy Kandul), bei EWAF'22 in Zürich (Juni 2022, Serhiy Kandul), an der FU Berlin zu "The Human Decision in International Law" (Mai 2002, Thomas Burri).
- Ein Expertenbericht "Rechtliche und ethische Dimensionen der Robotik im Sicherheitsbereich" zuhanden des Schweizerischen Zentrums für Drohnen und Robotik des VBS (Markus Christen und Thomas Burri, Veröffentlichung in Arbeit).
- Eine internationale Konferenz zu "Informational Warfare" am 18.-19. Mai 2022 in Trier (Thomas Burri, zus. m. Universität Trier)
- Eine Reihe von Videos für das Schweizerische Zentrum für Drohnen und Robotik des VBS zu "Sollen Roboter Menschen retten?" (u.a. Markus Christen, Thomas Burri und Juliane Beck).