Philoblog

15.04.2024

Ein neuer Task für Roboter Figure01

Der Kurzfilm über den von der Firma Figure in Zusammenarbeit mit OpenAI entwickelten Roboter Figure01 beschäftigt mich: Nicht, weil der Roboter wirklich eindrückliche Fähigkeiten (in einem durchaus sehr abgesteckten Rahmen) zeigt (und brav mit einer John-Wayne-Stimme antwortet) – ich bin über seine Kernaufgabe gestolpert: das Ausräumen einer Geschirrspülmaschine.

Dass man Menschen durch Roboter dort ersetzt, wo gefährliche oder krankmachende repetitive manuelle Tätigkeiten durchgeführt werden, leuchtet auf Anhieb ein. Aber ist es per se sinnvoll, Roboter vor allem für alltägliche oder regelmässige repetitive manuelle Tätigkeiten (RMT) wie Rasenmähen, Staubsaugen, Treppenwischen, Bügeln oder eben das Ausräumen der Geschirrspülmaschine einzusetzen? Die allermeisten Roboter, die ich aktuell kaufen kann, sind Staubsauger oder Rasenmäher. Es gibt (leider) keinen, der meine Steuererklärung ausfüllt.

Was ‹gewinne› ich eigentlich, wenn ein Roboter für mich die Treppe in mein Büro wischt oder meine Geschirrspülmaschine täglich ausräumt? Zeit? Mehr Zeit für was? Etwas ‹Sinnvolleres› als Treppenwischen oder Spülmaschine-Ausräumen? Was wäre denn sinnvoller?

RMT sind nur vermeintlich lästig oder langweilig. Aus meiner Beschäftigung mit Zen habe ich mitgenommen, dass RMT eine Übungs-Seite mit Mehrwert haben (können). Sie geben mir die Chance, mich in Gewahrsein und Aufmerksamkeit zu üben und das hyperaktive Hauptorgan der Philosoph:innen mal auf Standby zu schalten: nur wischen, nur ausräumen… Ich habe es noch nicht einmal geschafft, während des Zähneputzens ‹nichts zu denken›.

Unvorstellbar, dass die Mönche in den Zen-Klöstern ihren Rechen einem Roboter abgeben, oder? Ich wünsche mir Steuererklärungsroboter, damit ich mehr Zeit zum Wischen meiner Bürotreppe habe.

Bild: DALL-E prompted by PN.

13.04.2024

KI-Lektüreempfehlungen, Teil II

Kürzlich habe ich in meinem Blog Fachbücher bzw. -artikel zum Thema #Ethik und #KI empfohlen.
👉 Allen, die sich generell für das Thema #KI aus philosophischer Sicht interessieren und sich einen schnellen Einblick in die Debatte verschaffen wollen, kann ich die beiden Bücher der Philosophin und Wissenschaftsjournalistin Manuela Lenzen sehr empfehlen:
📓 Künstliche Intelligenz. Fakten, Chancen, Risiken (2020: 1. Auflage; 2024: 2. Auflage)
📓 Der elektronische Spiegel. Menschliches Denken und künstliche Intelligenz (2023)
Beide Bücher sind sehr ansprechend verfasst und auf dem neusten Stand der Entwicklung und Debatte.
➡ Während Künstliche Intelligenz eine generelle Einführung aus philosophischer Sicht gibt, ist Der elektronische Spiegel für alle interessant, die sich spezifisch mit der Fragen der #Intelligenz befassen: Was unterscheidet menschliche Intelligenz von künstlicher Intelligenz? Ist #KI überhaupt ein passender Begriff? Was macht menschliche Intelligenz überhaupt aus? Warum spielt unser Körper dabei eine so zentrale Rolle? Usw.
😇 Sympathisch ist nicht zuletzt auch Lenzens Stimmlage – sie liegt in einer abwägenden, vernünftigen Mitte zwischen den Extremen der #KI_Evangelist:innen und der #KI_Apokalyptiker:innen.

08.04.2024

Big Picture Digitalisierung

Das big picture zur KI-Thematik ist die Digitalisierung, die digitale Revolution bzw. die digitale Transformation – welcher Begriff passt? Aktuell fehlt in der philosophischen Debatte ein Standard-Begriff, um das big picture bzw. den Prozess der Digitalisierung zu bezeichnen.

Es ist offensichtlich, dass sich in der (Fach-)Philosophie überhaupt erst eine Terminologie zur Digitalisierung herausbildet. Begriffe, die aus unterschiedlichen Perspektiven Verwendung finden, sind beispielsweise Infosphäre (Floridi 2015) oder Environmentalität (Hörl 2011) oder die Sphäre des Digitalen (Gramelsberger 2023). Schon länger im Gebrauch – aber nicht exklusiv in der Philosophie – sind Turing-Galaxis (Coy 1993), ubiquitous computing (Weiser 1991) oder auch Metaversum (Stephenson 1992) u. a.

Die Termini versuchen das Phänomen auf den Begriff zu bringen, dass unsere Lebenswelt immer mehr von digitalen Technologien bzw. smarten Geräten durchdrungen (das häufigste Wort in diesem Zusammenhang) wird bzw. diese Anwendungen omnipräsent bzw. ubiquitär oder allumfassend sind. Auffällig ist diese Verwendung von Begriffen, die ich eigentlich aus dem Bereich der Theologie kenne – und zwar, um aus christlicher Perspektive die Seinsweise Gottes zu bezeichnen.

PS: Dass es im philosophischen Fachdiskurs zurzeit keinen Standard-Begriff für das big picure gibt, ist vielleicht auch der Medienvergessenheit der Philosophie (Krämer 2024) geschuldet. Es wäre die Aufgabe der Philosophie in einer Beschreibung der gegenwärtigen Entwicklungen, diese «im buchstäblichen Sinne zu begreifen, indem wir Begriffe schärfer konturieren, um auf diese Weise besser zu verstehen, was überhaupt vor sich geht» (Krämer 2024).

PPS: Was ist philosophisch überhaupt spannend an der Digitalität? Es brauche die philosophische Perspektive, weil das Digitale mittlerweile so allumfassend sei, dass es einfach mit zur Wirklichkeit gehörte – so die Aachener Technikphilosophin Gabriela Gramelsberger in ihrem neuen Buch Philosophie des Digitalen (2023).

Ethik und KI (#4): Drei ethische Herausforderungen für Nutzer:innen

KI-basierte Systeme stellen uns vor einige ethische Herausforderungen. Welche Herausforderungen sind das? Ich verweise hier auf die Darlegungen im umfassenden Artikel (engl.) des Technikphilosophen Vincent C. Müller (Müller 2020). Müller adressiert in seinem Katalog von ethischen Herausforderungen zahlreiche Akteure, die mit KI zu tun haben: Entwickler, Programmiererinnen, Unternehmen, Forschende, Militärs etc. Doch wo sind wir ‹Endnutzer:innen› bzw. ‹Normaluser:innen› von KI ethisch herausgefordert?

Etwas überrascht, finde ich (nur) drei Herausforderungen, die mir gar nicht so neu vorkommen. Anscheinend bringen KI-basierte Systeme gegenüber ‹Normaluser:innen› nicht wirklich kategorial neue Herausforderungen, sind aber ganz klar eine Art Booster für bereits bestehende ethische Problematiken.

Im Detail:

1. Privatsphäre, Datenschutz und Überwachung: Seit die grossen Techfirmen aus dem Silicon Valley unsere Daten, die wir auf ihren Social-Media-Plattformen selber generieren, als Ressource verwenden und damit big money machen, gibt es eine Datenschutz- und Privacy-Debatte. Dazu sind die Daten aus dem Internet of things und den Smart Systems hinzugekommen. KI-basierte Syteme verstärken das Datenmining: Sie erweitern sowohl die Möglichkeiten der intelligenten Datenerfassung als auch die Möglichkeiten der Datenanalyse. Die Behauptung, dass diese Datensammlungen mehr über uns wissen, als wir selbst, ist nicht von der Hand zu weisen. Weiter ist mit KI-basierten Systemen sowohl eine flächendeckende Überwachung ganzer Bevölkerungsgruppen als auch die klassische gezielte Überwachung (Identifizierung mittels Gesichtserkennung) sehr gut möglich.

2. Manipulation: Die Beeinflussung unseres Verhaltens (beim Kaufen, sich eine Meinung bilden, Abstimmen usw. usf.) bekommt mit dem Einsatz von KI-basierten Systemen eine neue Qualität. Vor allem Personen mit intensiver Nutzung von Datensystemen (und dem damit einhergehenden mehr oder weniger freiwilligen Zurverfügungstellen persönlicher Daten) können anfällig für Nudges und Manipulation werden. Die sozialen Medien sind heute der wichtigste Ort für politische Propaganda. Mit ausreichend vorhandenen Daten können Algorithmen Social-Media-Nutzer:innen mit genau der Art von Input versorgen, die deren Verhalten beeinflussen. Zudem vereinfachen KI-basierte Tools die Produktion von ‹tief gefälschten› digitalen Fotos, Audios und Videos stark («deep fake»).

3. Opazität/Intransparenz: KI-basierte Systeme können bei komplexen Daten helfen, diese zu analysieren und bei Entscheidungen zu assistieren. Wie die Systeme zu ihren Ergebnissen gelangen, bleibt aber undurchschaubar (‹opak›) bzw. intransparent. Der Grund liegt darin, dass sich die neuen Systeme auf Techniken des maschinellen Lernens in simulierten neuronalen Netzen stützen («deep learning») – und es ist für Nutzer:innen nicht gerade vertrauensfördernd, dass darum auch die Progammierer:innen selbst nicht durchschauen können, wie ihre KI-basierte Systeme zu ihren Ergebnissen gelangen. Intransparenz ist in der digitalen Welt keine neue Herausforderung, bekommt aber bei KI-basierten Systemen eine neue Dimension. Zudem hat sich gezeigt, dass KI-basierte Systeme mit verzerrten Daten (Biases) operieren.

Die Liste der Herausforderungen kann gerne ergänzt werden. Habe ich etwas übersehen? Etwas dramatisierend könnte man KI auf Nutzer-Ebene als Datenklau-, Überwachungs-, Manipulations- und Intransparenz-Booster ansehen.

PS: Eine weitere, vierte Herausforderung wäre, dass seit dem Release von Chatbots (ChatGPT, Character AI u. a.) und Bildgeneratoren (MidJourney, DALL-E u. a.) die Nutzer:innen selbst aktiv moralisch problematisch handeln können – beispielsweise, indem sie beim KI-unterstützten Generieren von Texten oder Bildern (wissentlich oder unwissentlich) das Urheberrecht missachten bzw. Plagiate produzieren.

Ethik und KI (#3): Lektüreempfehlungen

Welche Bücher kann ich zum Thema Ethik und KI empfehlen?
Einen schnellen und kurzen Einstieg in das Thema geben Kapitel 10 in der Digitalen Ethik von Grimm et al. (2019) und der (engl.) Übersichtsartikel Ethics of Artificial Intelligence and Robotics von Vincent C. Müller (2020).
Als längeren Einstieg in die KI-Thematik für philosophisch und ethisch Interessierte kann ich die handlichen Publikationen von Catrin Misselhorn bei Reclam empfehlen: Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co (2021), Grundfragen der Maschinenethik (2022) und Künstliche Intelligenz – Das Ende der Kunst? (2023).
Auch im aktuellen Standardlehrbuch Künstliche Intelligenz. Ein moderner Ansatz (2023, 4. Auflage) von Stuart Russell und Peter Norvig findet sich ein sehr informatives Kapitel zu «Philosophie, Ethik und Sicherheit der KI» (Kap. 27, S. 1081 ff.).

Ethik und KI (#2): Ein junges Feld in der angewandten Ethik

Die Ethik der KI ist aktuell noch ein junges Feld in der angewandten Ethik, es zeigt zwar grosse Dynamik, aber wenig etablierte Themen oder massgebliche Übersichten (Müller 2020). Viele ethische Fragen rund um KI sind aber nicht wirklich neu, sie überschneiden sich mit bekannten Diskussionen aus der Medien-, Technik-, Daten- und Maschinenethik zu Problemfeldern wie Datenschutz, Privatsphäre, Urheberrechte etc.

Dass es zurzeit keine differenzierte und entwickelte Ethik der KI gibt, hat auch damit zu tun, dass der Begriff KI unscharf ist. Seit einigen Jahren versuchen verschiedene Expert:innen aus Forschungsinteresse oder auch im politischen Auftrag, ethische Rahmenbedingungen für KI zu entwickeln. Ein Team rund um den Oxforder Philosophen und Informationsethiker Luciano Floridi analysierte unterschiedliche Quellen, fand 47 Prinzipien und verdichtete sie auf fünf Kernprinzipien (Floridi et al. 2019; Floridi et al. 2018), die sie als ein «ethical Framework» für eine «good AI society» versteht:

Beneficence: Ausrichtung an menschlichen Werten.
Non-Maleficence: Gewährleistung von Sicherheit und Vermeidung von Schaden.
Autonomy: Gewährleistung von Handlungsfreiraum in der Mensch-KI-Interaktion.
Justice: Erhaltung und Förderung von Fairness, Diversität etc.
Explicability: Gewährleistung von Transparenz in Bezug auf die Funktionsweise von KI.

Vier der fünf Prinzipien lehnen sich an den traditionellen Prinzipien der Bioethik an. Das Autorenteam sieht das fünfte Kernprinzip, die Explicability, als wesentlich für eine Ethik der KI an. Der Grund liegt darin, dass die Funktionsweise von KI oft unsichtbar oder unverständlich für viele sei, ausser bestenfalls für die erfahrensten Beobachter. Dies wird in der laufenden Debatte auch als Opazitäts-Problematik der KI bezeichnet.

Das Floridi-Framework ist in sich stimmig und nachvollziehbar. Für den praktischen Gebrauch wirkt es aber deklarativ, fast etwas plakativ und leidet am ‹Moses-Syndrom›: Versierte Expert:innen steigen ‹auf den Sinai› und formulieren Die 10 Gebote der KI. Aber: Warum nur sollen sich KI-Akteure (insbesondere gewinnorientierte Unternehmen) an diesen ausrichten? Vor allem dann, wenn von KI-Releases grosse Gewinne zu erwarten sind? Ist es vom Geschäftszweck her gesehen nicht attraktiver, um das Goldene Kalb zu tanzen?

Zudem wirft das AI4People-Modell (wie das Floridi-Framework auch bezeichnet wird) die Frage nach der Operationalisierbarkeit auf. Zentral für mich ist darum herauszufinden, welches die Gelingensbedingungen für die Operationalisierbarkeit einer Ethik der KI sind. Im Vergleich zum Rechtssystem ist Ethik per se schwach: Sie kann mit Argumentationen und Maximen nur auf Einsicht, guten Willen und Selbstregulierung bei den Akteuren (z. B. den Unternehmen, die KI pushen) abstellen. Erst wenn ethische Richtlinien bzw. Maximen in ein Gesetz gegossen werden (z. B. in den AI Act der EU), können sie über die Selbstregulierung und Selbstverpflichtung hinaus wirksam werden.

Da der Begriff KI unscharf ist, wäre zu empfehlen, gleich von Anfang zu differenzieren, ob es bei einer ethischen Reflexion um den Datenschutz bei Empfehlungssystemen, um die Privatsphäre bei der Nutzung von Sozialen Medien, um das Urheberrecht beim Einsatz von KI-Bildgeneratoren, um den Gebrauch von Chatbots bei Hochschularbeiten, um moralische Entscheidungsfähigkeit bei Robotern usw. usf. geht. Die Güte der Debatte steigt, wenn das Reflexions-Feld von Anfang an beschränkt bzw de-finiert wird.

Ethik und KI (#1): Neues Angebot

Mit dem Release von ChatGPT Ende 2022 ist die zweite Welle der KI in der breiten Öffentlichkeit angekommen: “The profession is psyched, the commercial world scrambling, the press giddy with anticipation. But there is also anxiety” (Brian Cantwell Smith, 2019). Aus philosophischem Blickwinkel finde ich, dass das Thema KI wichtige und spannende Fragestellungen aufwirft, die den Kern des Menschseins betreffen:

Wer sind wir? Was macht den Menschen und das Menschsein aus? Welche Rolle spielt dabei Intelligenz? Wie definieren wir diese überhaupt? Wie soll es weitergehen mit uns Sapiens?

Diese und ähnliche Fragen rund um KI stellen sich bereits jetzt und werden uns noch mehr in der Zukunft beschäftigen und eine Antwort von uns verlangen. Zur Thematik KI habe ich ein neues Format in meinen Philosophie-Angeboten erstellt, in dem ich mit unterschiedlichen Zielgruppen die aktuelle Thematik beleuchten und kritisch diskutieren will (siehe hier auf dieser Webseite).