Welche KI wollen wir?
Welche KI wollen wir? Wie verändert sich die Überwachung des analogen öffentlichen Raums durch KI? - Ein Kunstprojekt des KI-Makerspace
Hier erläutern wir euch ein paar Hintergründe zu unserem neuen Kunstprojekt "Überwachungszelle". Wir haben uns gefragt, wie sich Überwachung nicht nur im Internet sondern auch im analogen Raum durch künstliche Intelligenz verändern könnte. Neue Technologien wie die Objekt- und Gesichtserkennung eröffnen hier zwar einerseits Möglichkeiten, z.B. Verbrechen aufzuklären und vieles effizienter oder im Alltag für uns bequemer zu machen. Doch zugleich können KI-Anwendungen aufgrund ihrer besonderen Skalierbarkeit auch besonderen Schaden durch Missbrauch oder Diskriminierung anrichten. Und wer profitiert denn am Ende von solchen Technologien? Wir finden: Es ist ein komplexes Thema, bei dem wir genau abwägen müssen.
In der „Überwachungszelle“, die zur Zeit vor dem Tübinger Stadtmuseum steht, könnt ihr selbst erleben, wie einige dieser neuen Technologien funktionieren. Begleitet von einer computergenerierten, täuschend echten Stimme führt dich ein Avatar durch eine virtuelle Tour, in der Du Entscheidungen treffen musst. Wir verwenden dabei eine einfache Kamera, um euer Gesicht zu erfassen. Anschließend analysiert ein Machine Learning Modell euer Bild und trifft z.B. Prognosen über euer Geschlecht und ungefähres Alter. Diese Prognosen basieren auf statistischen Daten und können falsch sein. WICHTIG: Diese Daten werden selbstverständlich nicht gespeichert!
Ethische Abwägung
Das ganze Projekt soll zur ethischen Abwägung anregen: wann ist Überwachung vertretbar, wann nicht, weil trotz möglicherweise guter Absichten, ein Schaden zu große wäre? Wir möchten eure Meinung dazu hören und haben in der Zelle eine Abstimmung vorbereitet. Die Ergebnisse werden dann anonym in der Ausstellung "Cyber and the city" im Tübinger Stadtmuseum angezeigt. In unserem Kunstprojekt lernst du also spielerisch, wie künstliche Intelligenz unsere Gesellschaft beeinflusst und die Überwachung im öffentlichen Raum verändert. Zum Projekt haben wir auch Tim Rebig befragt, der an der Umsetzung beteiligt war:
Interview mit Tim Rebig, Verantwortlicher für die Umsetzung der Überwachungszelle:
Du studierst Machine Learning an der Uni Tübingen. Seit kurzem arbeitest Du als Hiwi am KI-Makerspace. Was hat dich dazu motiviert?
Ich finde, der KI-Makerspace ist ein toller Lernort im Herzen der Stadt. Er schlägt eine Brücke von der akademischen Welt hin zur Umsetzung von kreativen Ideen in der Praxis. Gerade für die neuen KI-Technologien ist es wichtig, dass sie für möglichst viele Menschen nahbar und dadurch entmystifiziert werden. Direkt an Begegnungs- und Lernangeboten arbeiten zu können, die nicht nur hinter dem Bildschirm leben, ist für mich eine großartige Gelegenheit, die Inhalte und Hintergründe aus meinem Studiengang weitergeben zu können.
In den letzten Wochen hast Du dich um die Programmierung und Umsetzung eines Kunstprojekts gekümmert: die „Überwachungszelle“. Worum geht’s da?
Unsere „Überwachungszelle“ ist eine der früher weit verbreiteten gelben Telefonzellen, die wir zu einem KI-Erlebnis umgebaut haben. Sie lädt spielerisch dazu ein, sich mit neuen Überwachungsmöglichkeiten durch künstliche Intelligenz auseinanderzusetzen. Man bekommt diese in Form einer kleinen Tour live demonstriert und kann im Anschluss darüber abstimmen, welche Anwendungsfälle von KI im öffentlichen Raum man befürwortet und welche man ablehnt. Die Ergebnisse der Abstimmung werden mit Einverständnis anonym an das Stadtmuseum gesendet, wo sie im Rahmen der „Cyber and the City“-Ausstellung zu sehen sind.
Wie genau bist Du bei der Umsetzung vorgegangen? Wieviel Machine Learning steckt in diesem Projekt?
Für die Präsentation der Inhalte, habe ich die neuesten Fortschritten in der Sprach- und Bildgenerierung genutzt. Man wird von einem täuschend echt aussehenden menschlichen Avatar, also einem Deepfake, durch die Tour geleitet. Als interaktive Elemente, gibt es ein neuronales Netz aus der Gesichtserkennung, welches eine Prognose über Alter und Geschlecht des Teilnehmers erstellt. Dabei werden ganz gut auch die Fallstricke von Machine Learning Anwendungen erfahrbar gemacht. Wenn man möchte, kann man anschließend mit der in Tübingen entwickelten KI-Methode „Style-Transfer“ noch ein künstlerisches Selfie machen.
Wie ist dein persönlicher Blick auf das Thema Gesichts oder Objekterkennung und Überwachung mit KI?
Computer Vision, oder Objekterkennung, übertrifft mittlerweile menschliche Fähigkeiten und ist als Werkzeug wie ein Schweizer Taschenmesser. Da gibt es viele Anwendungsfälle: von medizinischer Diagnostik bis hin zu selbstfahrenden Autos. Bei Gesichtserkennung finde ich es aber wichtig, dass klare gesetzliche Regeln für Einsatzbereich und Nutzung festgelegt werden, damit die Privatsphäre weiterhin geschützt bleibt. Es gibt heute bereits technische Lösungen für den öffentlichen Raum, die beides gewährleisten. Zum Beispiel kann eine solche datenschutzkonforme Technik eine Fußgängerampel auf grün schalten, wenn gerade kein Auto naht. Sie wäre jedoch technisch nicht in der Lage, wie in China, einen Strafzettel auszustellen, wenn man bei rot über die Ampel geht, da der Kamerasensor schon beim Erfassen der Daten dafür sorgt, dass keine Gesichter mehr rekonstruiert und später zugeordnet werden können. Wenn es um Effektivität und Kosten geht, könnte die Technologie in Zukunft für zahlreiche Aufgaben von gesellschaftlichem Nutzen sein, z.B. in Robotern die Müll in der Stadt einsammeln.
Allgemeine Gesichtserkennung soll im Zuge des Regulierungsverfahrens von KI durch die EU verboten werden. Sind die politischen Überlegungen zur Regulierung von KI schon ein Thema unter den ML-Studierenden?
Ich denke, die meisten Studierenden haben da einen sehr pragmatischen Blick. Es ist weniger Gesichtserkennung, um die sich viele sorgen, als dass ChatGPT verboten werden könnte… Nein, im Ernst: die gesellschaftliche Verantwortung, die KI mit sich bringt, ist ein wichtiger Baustein meines Machine Learning Studiums. Was das Regulierungsverfahren der EU betrifft, da gibt es noch nicht viel Konkretes, was bisher veröffentlicht wurde. Das liegt auch daran, dass sich die Technik, die sich hinter dem Begriff KI versteckt, im Monatstakt weiterentwickelt, was es den Gesetzgebern nicht einfacherer macht. Die Einführung von KI wird im gesellschaftlichen Zusammenspiel in den nächsten Jahrzehnten erfolgen – wie vor langer Zeit die Elektrifizierung. Wichtig ist die Menschen dabei umfassend zu informieren, damit sie zu fundierten Einschätzungen in diesem Prozess kommen.
Quellen zur vertieften Beschäftigung:
Für den kompletten Überblick übers Thema (schon etwas älter, aber trotzdem cool visualisiert):
https://map.derkontext.com/484#m=1/1027.05593/588.36849
Zum aktuellen Stand der politischen Diskussion im Rahmen des EU AI Acts:
https://netzpolitik.org/2023/kw-19-die-woche-als-das-eu-parlament-beim-ai-act-hoffnung-machte/
Zur Abwägung eines Für und Wider von Überwachung:
https://the-decoder.de/fuer-und-wider-der-ki-ueberwachung/
Aktuelle Rechtslage zur klassischen Video-Überwachung in BW:
https://www.baden-wuerttemberg.datenschutz.de/videouberwachung-durch-offentliche-stellen/
Beispielhaftes Forschungsprojekt von Fraunhofer in Mannheim:
https://www.iosb.fraunhofer.de/de/projekte-produkte/intelligente-videoueberwachung.html
Über die Verbindung von KI – Macht – Herrschaft auch mit besonderem Blick auf Überwachung:
https://www.kimege.de/wp-content/uploads/2022/08/Webartikel_ImbuschSteg_final.pdf
Zum künstlerischen Umgang mit dem Thema Überwachung:
https://www.srf.ch/kultur/kunst/ueberwachung-ist-uralt-die-angst-davor-auch
Zum Thema Überwachungskapitalismus:
https://www.heise.de/tp/features/Droht-die-totale-Ueberwachung-im-digitalen-Kapitalismus-7186862.html
Wissenschaftsbasierte Debatten über die Auswirkungen von KI auf unsere Gesellschaft:
https://www.machinelearningforscience.de/debatte/
Die Überwachungszelle ist ein Public Engagement Projekt des KI-Makerspace. Es wurde von Gregor Schulte und Patrick Klügel als Kunstprojekt konzipiert und von Julius Brenner und Tim Rebig mit Unterstützung des Stadtmuseums Tübingen umgesetzt. Im Rahmen des Projekts werden keine persönlichen Daten erhoben oder gespeichert. Auf Wunsch und mit Freigabe der Besucher:innen können verfremdete Bilder maximal bis zu 7 Tage auf dem Server des KI-Makerspace gespeichert und ins Stadtmuseum Tübingen auf einen Bildschirm übertragen werden.
