Volltext herunterladen
(484.2 KB)
Zitationshinweis
Bitte beziehen Sie sich beim Zitieren dieses Dokumentes immer auf folgenden Persistent Identifier (PID):
https://nbn-resolving.org/urn:nbn:de:0168-ssoar-80065-9
Export für Ihre Literaturverwaltung
"Don't let me be misunderstood": Critical AI literacy for the constructive use of AI technology
"Don't let me be misunderstood": Kritische KI‑Kompetenz für den konstruktiven Umgang mit KI‑Technologie
[Zeitschriftenartikel]
Abstract Gesellschaftlicher Diskurs sowie Forschung und Entwicklung zu Risiken künstlicher Intelligenz (KI) fokussieren oft einseitig entweder auf praxisferne ethische Aspekte oder auf technokratische Ansätze zur Bewältigung gesellschaftlicher Risiken allein durch Technologie. Es bedarf jedoch praktikabler, ... mehr
Gesellschaftlicher Diskurs sowie Forschung und Entwicklung zu Risiken künstlicher Intelligenz (KI) fokussieren oft einseitig entweder auf praxisferne ethische Aspekte oder auf technokratische Ansätze zur Bewältigung gesellschaftlicher Risiken allein durch Technologie. Es bedarf jedoch praktikabler, problemorientierter Perspektiven. Dieser Beitrag konzentriert sich daher auf ein zentrales Meta-Risiko von KI‑Systemen: Deep Automation Bias. Es wird davon ausgegangen, dass Diskrepanzen zwischen Systemverhalten und Nutzungspraktiken in bestimmten Anwendungskontexten aufgrund KI‑basierter Automatisierung zentrale Auslöser von Bias und gesellschaftlichen Risiken sind. Der Beitrag stellt zentrale Faktoren von (Deep) Automation Bias vor und entwickelt einen analytischen Rahmen mit Indikatoren zur Erkennung von Diskrepanzen in KI‑Systemen. Dieser Ansatz will durch Stärkung von Problembewusstsein und kritischer KI-Kompetenz auch praktischen Nutzen erzielen.... weniger
Research and development as well as societal debates on the risks of artificial intelligence (AI) often focus on crucial but impractical ethical issues or on technocratic approaches to managing societal and ethical risks with technology. To overcome this, more practical, problem-oriented analytical ... mehr
Research and development as well as societal debates on the risks of artificial intelligence (AI) often focus on crucial but impractical ethical issues or on technocratic approaches to managing societal and ethical risks with technology. To overcome this, more practical, problem-oriented analytical perspectives on the risks of AI are needed. This article proposes an approach that focuses on a meta-risk inherent in AI systems: deep automation bias. It is assumed that the mismatch between system behavior and user practice in specific application contexts due to AI‑based automation is a key trigger for bias and other societal risks. The article presents the main factors of (deep) automation bias and outlines a framework providing indicators for the detection of deep automation bias ultimately triggered by such a mismatch. This approach intends to strengthen problem awareness and critical AI literacy and thereby create some practial use.... weniger
Thesaurusschlagwörter
künstliche Intelligenz; Technikfolgenabschätzung; Risikoabschätzung; Automatisierung
Klassifikation
Technikfolgenabschätzung
Freie Schlagwörter
AI assessment; awareness; deep automation bias; machine learning; uncertainty
Sprache Dokument
Englisch
Publikationsjahr
2021
Seitenangabe
S. 44-49
Zeitschriftentitel
TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis / Journal for Technology Assessment in Theory and Practice, 30 (2021) 3
Heftthema
Designing, shaping and experiencing AI systems: concepts, values, applications / KI‑Systeme gestalten und erfahren: Konzepte, Werte, Anwendungen
DOI
https://doi.org/10.14512/tatup.30.3.44
ISSN
2567-8833
Status
Veröffentlichungsversion; begutachtet (peer reviewed)