sinnkultur
Weil Kultur Sinn macht.  Nächste Veranstaltungen

Philosophie


Philo-Blog:


18.06.2024

KI-Narrative (#2/3)

DALLE 2024-06-18 09.33.54 - A grand library filled with many open books scattered around. The library features towering bookshelves filled with books, intricate wooden designs, a.jpgWie werden KI-Narrative aus einem ethischen Blickwinkel beurteilt? Dazu zwei Stimmen:

Petra Grimm (Stuttgart) bündelt in einem aktuellen Input KI-Narrative (am Beispiel ChatGPT) in zwei grosse Metanarrative, die sie mit den mythischen Figuren Prometheus und Pandora versinnbildlicht. Mit «Metanarrativen» sind Muster gemeint, «nach denen eine Kultur ihre Kommunikationen zu einem Thema bzw. einem Diskurs strukturiert» (Grimm). Beim Prometheus-Metanarrativ steht KI positiv für mehr Effektivität, Optimierung, Fülle/Glück, Heilung oder eine Weiterentwicklung der Menschheit; beim Büchse-der-Pandora-Metanarrativ dagegen steht KI negativ für Kontroll- und Autonomieverlust, mehr Überwachung, Destabilisierung, Arbeitsplatzverlust oder Einsatz im Krieg.
Mark Coeckelbergh (Wien) wiederum unterstreicht, dass das Nachdenken über das Verhältnis von Menschen und Maschinen bzw. künstlichen Entitäten gar nicht neu, sondern sehr alt ist und seine Ursprünge bis in die Antike und weiter zurückverfolgt werden können (Coeckelbergh 2020). Dabei spiele im westlichen Kontext die Golem-Legende und Mary Shelleys Frankenstein-Erzählung eine prägende Rolle: «Moreover, as in Frankenstein and the Golem legend, a narrative of competition emerges: the artificial creation competes with the human. This narrative continues to shape our science fiction about AI, but also our contemporary thinking about technologies such as AI and Robotics» (Coeckelbergh 2020: 21). Das «competition narrative» – der Wettbewerb (bzw. Kampf) zwischen menschlicher und künstlicher Intelligenz – ist laut Coeckelbergh das dominierende Narrativ heute.

Tatsächlich weisen Umfragen darauf hin, dass KI in verschiedenen Ländern (AUS, CAN, F, D, UK, JP, SGP, USA) eher mit Misstrauen wahrgenommen wird (Gillespie et al. 2021). Dies stimmt für die USA auch damit überein, dass man die ‹AI-Awareness› in der US-Bevölkerung als durchzogen anschauen muss (Kennedy et al. 2023). Zwar wissen viele US-Amerikaner:innen über häufige Anwendungen von KI wie Chatbots und personalisierte Empfehlungen Bescheid, aber nur 30% erkennen KI in typischen Kontexten (Fitnesstracker, Chatbot, Produktempfehlungen, Sicherheitskameras, Spamfilter). Das Hintergrundwissen zu KI variiert je nach Bildungsstand und Einkommen, wobei höhere Levels mit grösserem Wissen korrelieren. Trotz häufiger Interaktionen mit KI bleibt die US-Öffentlichkeit vorsichtig: 38% sind mehr besorgt als begeistert über die zunehmende Rolle von KI, während 46% gemischte Gefühle haben.

Auch laut dem AI Index Report (Stanford University, 2023) sind sich Menschen der potenziellen Auswirkungen der KI bewusster – und nervöser. Für 2023 ist der Anteil derjenigen, die glauben, dass KI ihr Leben in den nächsten drei bis fünf Jahren dramatisch beeinflussen wird, von 60% auf 66% gestiegen ist. Darüber hinaus äussern 52% Nervosität gegenüber KI-Produkten und -Dienstleistungen (+13 % gegenüber 2022). In den USA geben 52% der Amerikaner:innen an, eher besorgt als begeistert über KI zu sein (+14% gegenüber 2022).

In der Schweiz zeigt eine repräsentative Umfrage der Digital Society Initiative in Kooperation mit der GFS Bern, dass die Skepsis gegenüber der Nutzung von KI steigt, doch gleichzeitig erhofft man sich eine grosse Entlastung für den Berufsalltag (DSI UZH 2024).

Auch in deutschsprachigen Medien, so mein Eindruck, wird mehrheitlich auf das Pandora-Narrativ bzw. das competition narrative referiert. Es ist durchaus plausibel, dass die Bilder und Projektionen aus dem filmischen Bedrohungsnarrativ ihre Wirkung auf die allgemeine Wahrnehmung von KI in der Gesellschaft entfalten. Ich vermute aber, dass dabei auch folgende Faktoren eine Rolle spielen:

1. Medienschaffende verfügen (noch) nicht über ausreichend informatisches bzw. technisches Hintergrundwissen zu KI bzw. KI-Systemen und bedienen sich bei den fiktionalen Narrativen. Fachlich gesehen fussen Medienberichte über KI immer wieder auf Fehlannahmen zu KI oder Missverständnissen (vgl. Rehak 2023). Das zeigt sich u. a. auch darin, dass sich die negativen KI-Narrative in der Regel gar nicht auf die aktuell hypende generative KI, sondern auf die «GOFAI» («Good Old-Fashioned Artificial Intelligence», Haugeland 1985) beziehen.
2. Beiträge in den Medien, die auf das Bedrohungs- bzw. Pandora-Narrativ referieren, versprechen nach dem ‹death sells›-Modell mehr Klicks bzw. Aufmerksamkeit, sind also aus kommerzieller Sicht attraktiver.
3. Der europäische «Techlash»: Europa hinkt im globalen KI-Rennen hinterher und hat es schwer, führende KI-Unternehmen hervorzubringen. KI wird in Europa stark mit den US-amerikanischen Big Five (GAMAM: Google, Apple, Meta, Amazon, Microsoft) in Verbindung gebracht (was ja durchaus Sinn macht), mit denen wiederum gerade in deutschsprachigen Medien gerne das Narrativ der profitgierigen US-Big-Tech-Firmen verknüpft wird.

Aus medienethischem Blickwinkel braucht es für die öffentliche Debatte andere KI-Narrative. Eine Bedingung für adäquatere Narrative ist (u. a.), genauer hinzusehen, wie generative KI funktioniert und wo sie wie genau zum Einsatz kommt. Mehr dazu im nächsten und letzten Post zu KI-Narrativen.

[Bild: DALL-E prompted by PN.]

Pavel - 09:05 @ Philo-Blog | Kommentar hinzufügen

Kommentar hinzufügen

Die Felder Name und Kommentar sind Pflichtfelder.







Angebote:


KI und Ethik
Lange galt Künstliche Intelligenz als Stoff für Science-Fiction. Mit dem Ausrollen des KI-Bots ChatGPT Ende 2022 ist KI in der breiten Öffentlichkeit angekommen und erlebt gerade ihren «iPhone-Moment» (Meckel/Steinacker 2024: 17). Schon seit Jahren nutzen Millionen Menschen tagtäglich KI-unterstützte Anwendungen – ohne sich dessen in der Regel bewusst zu sein bzw. die Technik im Hintergrund zu kennen oder zu verstehen: KI optimiert unsere Suchanfragen in Suchmaschinen, verhindert, dass wir mit Spams geflutet werden, gibt uns massgeschneiderte Empfehlungen beim Online-Einkauf, beim Streamen auf Netflix und Spotify oder assistiert uns beim Autofahren.



Infolge der massenhaften Implementierung von KI-Systemen bahnt sich wie beim Web 2.0 oder dem Smartphone ein Quantensprung an, dessen Folgen für Gesellschaft, Politik, Wirtschaft, Bildung usw. noch unklar sind. Aktuell wird in der Medienberichterstattung KI als Zukunftshoffnung thematisiert. Neben dem Nutzen, den KI-Systeme bringen, ergeben sich aber auch einige ethische Herausforderungen. Einerseits greifen KI-Systeme tief in Mensch-Welt-Verhältnisse ein, strukturieren und formen diese (Endres/Filipović 2023). Andererseits sind zahlreiche datenbasierte KI-Produkte in vernetzte digitale Medien und Dienste eingebunden und werfen grundlegende Fragen des Datenschutzes bzw. der Datenethik auf (Mühlhoff 2023). Eine ausgefeilte «Ethik der KI» ist erst in den Anfängen vorhanden, im Moment dominieren proklamative Rahmenrichtlinien, die kaum in der KI-Praxis operationalisierbar sind.


Anhand von aktuellen Fallbeispielen möchte das Angebot einerseits bewusst machen, wo und wie im Alltag und Beruf KI-Systeme genutzt werden, andererseits den Gebrauch und die Nutzung von KI-Systemen (z. B. im eigenen Berufsfeld) aus ethischem Blickwinkel kritisch reflektieren.


Anfragen unter kontakt@sinnkultur.art


Nächste Veranstaltungen:

FH OST, 23.08./27.09.2024, Rapperswil

FH OST, 31.01./28.02.2025, St. Gallen


FH OST: "Digitale Ethik in Zeiten von KI": Juni 2025

Medienethik
Die Digitalisierung unserer Lebenswelt stellt uns vor neue moralische Herausforderungen (Grimm et al. 2019). Anhand von aktuellen Fallbeispielen – mit Schwerpunkt aus dem Bereich Bildethik – wird Mediengebrauch und Mediennutzung aus ethischem Blickwinkel thematisiert.


Im Zeitalter von Web 2.0, in dem alle Webuser:innen Beiträge digital im Netz publizieren können, hat sich neben Medienproduzent:innen und Medienkonsument:innen die neue Rolle ‹Medienprosument:in› etabliert. Medienethik muss darum neu vermessen (Prinzing et al. 2015) und neben dem traditionellen journalistischen Berufsethos ebenso thematisiert werden, welche Verantwortung wir Medienprosument:innen in der Nutzung der neuen Medien tragen.


Das Angebot (Kurs, Workshop oder Inputreferat) zeigt die Herausforderungen der Digitalisierung auf und übt in die ethische Reflexion von Medienhandeln ein.


Anfragen unter kontakt@sinnkultur.art


Nächste Veranstaltung:

16. August 2024, Rorschach.


"Digitale Ethik in Zeiten von KI": Juni 2025



 

E-Mail
Anruf
LinkedIn