sinnkultur
Weil Kultur Sinn macht.  Nächste Veranstaltungen

Philosophie


Philo-Blog:


11.06.2024

KI-Narrative (#1/3)

DALLE 2024-06-11 11.34.00 - An artistic representation of the theme Science fiction stories shape our worldview, depicting an open book at the center with futuristic illustrati.jpgFür mein Weiterbildungsformat «KI und Ethik» (siehe unten auf dieser Webseite) möchte ich KI-Narrative für einen Einstieg in die Thematik verwenden. Dass «Narrativ» kein scharfer Begriff ist, sehe ich für diesen Zweck als Vorteil. Narrative bzw. Metanarrative können als sinnstiftende Erzählungen verstanden werden, die einen starken Einfluss auf kulturelle und gesellschaftliche Entwicklungen haben (Lyotard 1979, Ricoeur 1984, Bruner 1986, Geertz 2002). Mit dem «narrative turn» hat sich Narrativität zu einem interdisziplinären Schlüsselbegriff entwickelt (Nünning 2011), der auch in die Medienforschung Eingang gefunden hat (vgl. Müller/Grimm 2016). Zwei Haupterkenntnisse meiner kleinen Recherche: 1. Fiktionale KI-Narrative haben einen grossen Einfluss auf nichtfiktionale KI-Narrative. Dieser Einfluss ist meistens nicht bewusst. 2. Im globalen Vergleich differieren KI-Narrative: im Westen eher negativ, im Osten eher positiv.

Mir sind KI-Narrative erstmals in der Jugend in SF-Büchern und -Filmen begegnet – meist in Robotergestalt wie C-3PO (Star Wars) oder T-800 (Terminator). Während C-3PO eher harmlos und lustig daherkommt, ist T-800 eine fast nicht zu stoppende, furchterregende Killer-KI. Nachhaltiger beunruhigt hat mich aber HAL-9000 (2001 Odyssee), der ganz ‹intelligent› (bzw. infam) auf einem Raumschiff unterwegs zum Jupiter einen Astronauten nach dem anderen auslöscht. In der Schlüsselszene des Films kann der einzige noch lebende Astronaut HAL-9000 im letzten Moment abschalten. Das von Stanley Kubrick filmisch meisterhaft geschilderte Duell zwischen menschlicher und maschineller Intelligenz blieb in meinem Gedächtnis hängen, weil HAL ganz anthropomorph auftritt. So ‹regrediert› er während des Abschaltprozesses und singt für sich – nachdem er realisiert hat, dass er den Abschaltprozess nicht stoppen kann – das Kinderlied Daisy Bell – wohl um sich zu beruhigen (so als ob eine KI ‹sterben› und vor ihrem ‹Tod› auch noch ‹Angst› verspüren könnte).

Dass fiktionale Erzählungen wie SF-Filme u. a. einen wichtigen Einfluss auf das kollektive Bewusstein (im Westen) haben, zeigt folgende Untersuchung auf: Nadine Hammele hat die narrative Struktur von 70 Science-Fiction-Filmen analysiert, die zwischen 1970 und 2020 veröffentlicht wurden, und daraus drei Metanarrative extrahiert (Hammele 2024):

• Das Bedrohungsnarrativ: Killerroboter und künstliche Superintelligenzen, die Menschenleben bedrohen (z.B. Terminator, Matrix, I, Robot).
• Das Befreiungsnarrativ: Menschenähnliche KI-Roboter, die nach Freiheit und Gleichstellung mit dem Menschen streben (z.B. Nummer 5 lebt!, Der 200 Jahre Mann)
• Das Beziehungsnarrativ: Liebesbeziehungen und Freundschaften zwischen Mensch und KI, die durch Konflikte auf die Probe gestellt werden (z. B. Her, A.I. – Künstliche Intelligenz, Robot & Frank).

Alle drei Metanarrative zeigen deutlich auf, welche Projektionen (Übertragungen) in Bezug auf Künstliche Intelligenz wirksam sind: die Angst, von einer Maschine beherrscht oder ausgelöscht zu werden, die Erwartung, dass künstliche Intelligenzen (Androide) menschlich werden, oder die Hoffnung, das Bedürfnis nach Zweisamkeit durch die Beziehung zu einer künstlichen Intelligenz auf neue, vielleicht umfassendere Art stillen zu können. Die Metanarrative zeigen ebenso auf, dass solche Projektionen durch Anthropomorphie zustandekommen. Nach meiner Interpretation führt genau dieser ‹Übertragungsmechanismus› zu den üblichen KI-Missverständnissen.

Die Untersuchung von Hammele korrespondiert mit den Befunden des GAIN-Projektes. Dieses untersuchte 2018 bis 2022 weltweit, wie KI in der Populärkultur dargestellt wurde und wird und welche Auswirkungen dies nicht nur auf Leser:innen und Kinobesucher:innen, sondern auch auf KI-Forscher:innen, militärische und staatliche Stellen sowie die breite Öffentlichkeit hat (vgl. auch Cave, Dihal & Dillon 2020). Ein wichtiges Ergebnis von GAIN ist, dass die eher negative Wahrnehmung von KI in westlichen Ländern stark von Filmerzählungen beeinflusst ist. «All the questions being raised about AI today have already been explored in a very sophisticated fashion, for a very long time, in science fiction», betont die GAIN-Leiterin Sarah Dillon (vgl. Roberts 2018). Ein weiteres auffälliges Ergebnis ist, dass es in der Wahrnehmung und Bewertung von KI deutliche interkulturelle Unterschiede gibt. So dominieren im Unterschied zu westlichen Ländern im ostasiatischen Kontext mehrheitlich positive KI-Narrative.

PS: In meinen nächsten Posts werde ich auf KI-Narrative aus der Sicht der Medienethik und auf Thesen zu den interkulturellen Unterschieden in der Wahrnehmung von KI eingehen.

Bild: DALL-E prompted by PN.

Pavel - 11:06 @ Philo-Blog | Kommentar hinzufügen

Kommentar hinzufügen

Die Felder Name und Kommentar sind Pflichtfelder.







Angebote:


KI und Ethik
Lange galt Künstliche Intelligenz als Stoff für Science-Fiction. Mit dem Ausrollen des KI-Bots ChatGPT Ende 2022 ist KI in der breiten Öffentlichkeit angekommen und erlebt gerade ihren «iPhone-Moment» (Meckel/Steinacker 2024: 17). Schon seit Jahren nutzen Millionen Menschen tagtäglich KI-unterstützte Anwendungen – ohne sich dessen in der Regel bewusst zu sein bzw. die Technik im Hintergrund zu kennen oder zu verstehen: KI optimiert unsere Suchanfragen in Suchmaschinen, verhindert, dass wir mit Spams geflutet werden, gibt uns massgeschneiderte Empfehlungen beim Online-Einkauf, beim Streamen auf Netflix und Spotify oder assistiert uns beim Autofahren.



Infolge der massenhaften Implementierung von KI-Systemen bahnt sich wie beim Web 2.0 oder dem Smartphone ein Quantensprung an, dessen Folgen für Gesellschaft, Politik, Wirtschaft, Bildung usw. noch unklar sind. Aktuell wird in der Medienberichterstattung KI als Zukunftshoffnung thematisiert. Neben dem Nutzen, den KI-Systeme bringen, ergeben sich aber auch einige ethische Herausforderungen. Einerseits greifen KI-Systeme tief in Mensch-Welt-Verhältnisse ein, strukturieren und formen diese (Endres/Filipović 2023). Andererseits sind zahlreiche datenbasierte KI-Produkte in vernetzte digitale Medien und Dienste eingebunden und werfen grundlegende Fragen des Datenschutzes bzw. der Datenethik auf (Mühlhoff 2023). Eine ausgefeilte «Ethik der KI» ist erst in den Anfängen vorhanden, im Moment dominieren proklamative Rahmenrichtlinien, die kaum in der KI-Praxis operationalisierbar sind.


Anhand von aktuellen Fallbeispielen möchte das Angebot einerseits bewusst machen, wo und wie im Alltag und Beruf KI-Systeme genutzt werden, andererseits den Gebrauch und die Nutzung von KI-Systemen (z. B. im eigenen Berufsfeld) aus ethischem Blickwinkel kritisch reflektieren.


Anfragen unter kontakt@sinnkultur.art


Nächste Veranstaltungen:

FH OST, 23.08./27.09.2024, Rapperswil

FH OST, 31.01./28.02.2025, St. Gallen


FH OST: "Digitale Ethik in Zeiten von KI": Juni 2025

Medienethik
Die Digitalisierung unserer Lebenswelt stellt uns vor neue moralische Herausforderungen (Grimm et al. 2019). Anhand von aktuellen Fallbeispielen – mit Schwerpunkt aus dem Bereich Bildethik – wird Mediengebrauch und Mediennutzung aus ethischem Blickwinkel thematisiert.


Im Zeitalter von Web 2.0, in dem alle Webuser:innen Beiträge digital im Netz publizieren können, hat sich neben Medienproduzent:innen und Medienkonsument:innen die neue Rolle ‹Medienprosument:in› etabliert. Medienethik muss darum neu vermessen (Prinzing et al. 2015) und neben dem traditionellen journalistischen Berufsethos ebenso thematisiert werden, welche Verantwortung wir Medienprosument:innen in der Nutzung der neuen Medien tragen.


Das Angebot (Kurs, Workshop oder Inputreferat) zeigt die Herausforderungen der Digitalisierung auf und übt in die ethische Reflexion von Medienhandeln ein.


Anfragen unter kontakt@sinnkultur.art


Nächste Veranstaltung:

16. August 2024, Rorschach.


"Digitale Ethik in Zeiten von KI": Juni 2025



 

E-Mail
Anruf
LinkedIn