Trust me! Vorschlag zum Umgang mit der Vertrauensfrage im digitalen Zeitalter

Abstract

Die Arbeit behandelt die Frage, wie in Zeiten umfassender, technologisch beförderter Veränderung, Vertrauen als wirksames Instrument selbstbestimmten Handelns dienen kann. Sie orientiert sich dabei an Luhmanns Begriff rationalen, zur Komplexitätsreduktion dienenden Vertrauens. Sie gliedert sich in zwei Teile. Im ersten Teil wird der digital geprägte Alltag als Grundlage für Vertrauen betrachtet. Dazu wird der Begriff eines „digitalen Systems“ eingeführt. Dieser dient als Erklärungsmodell, das den Systembegriff aus der Systemtheorie aufgreift und darin Merkmale sozialer und technischer Systeme zusammenführt. Es wird argumentiert, dass digitale Kommunikation und der Code, der dieser zugrundeliegt, das sozialen System Gesellschaft zunehmend gestalten und strukturell „ordnen.” Damit wird das Vermögen, Daten zu verarbeiten, und die Verfügungsgewalt über diese Daten zur Voraussetzung für Macht und Teilhabe. Die Freigabe von Daten wird zum digital anschlussfähigen Vertrauenserweis. Inhaltlich fokussiert der erste Teil auf gesellschaftliche Praktiken der Datenerhebung und -verwertung. Es wird aufgezeigt, wie sich Kommunikations- und Kooperationsmechanismen verändern und neue Machtstrukturen mit Tendenz zu einem totalen System entstehen. Ergänzend werden mithilfe soziologischer und historischer Konzepte einige Grundzüge digital determinierter Ordnung herausgearbeitet, und es erfolgt eine Annäherung an deren ideologischen Unterbau. Dieser wird auf die Prämissen ‚Maschinen>Menschen‘ und ‚tertium non datur‘ zurückgeführt. Im zweiten Teil wird untersucht, wie der Einzelne im digitalen Alltag Vertrauen zur Grundlage rationalen und gestaltenden Handelns machen kann. Dazu werden zunächst Vertrauen und Misstrauen als „Mechanismen“ mit bestimmten Funktionen und Kosten betrachtet. Im Anschluss erfolgt, angelehnt an ein Modell von Kelton et al., eine Dekonstruktion des Vertrauensbegriffs und eine Spiegelung vertrauensrelevanter Kriterien an Erkenntnissen aus Wissenschaft und Praxis. Untersucht werden: 1. Vorbedingungen dafür, dass Vertrauen benötigt wird und entstehen kann (Ungewissheit, Abhängigkeit, Verletzbarkeit). Dieser Abschnitt befasst sich mit Machtasymmetrien und Verletzungsmöglichkeiten durch die intransparente Verarbeitung von Daten. 2. Stufen des Vertrauensaufbaus (Gefühlsbindung, Vertrautheit, Eigenkontrolle, Fremdkontrolle und Sinn). Gezeigt wird, wie diese instrumentalisiert werden können und wie insbesondere arational wirkende Mechanismen den Anschein persönlichen Vertrauens und gemeinsamen Sinns befördern können. Betrachtet wird auch die Rolle von Wahrheit, von Erwartungen, Deutungsangeboten und Kommunikationsmustern. Es wird gezeigt, welche Faktoren das Ausüben vertrauensstützender Kontrolle behindern – und wie rationales Vertrauen dennoch gelernt werden kann. 3. Rahmenbedingungen, die das Vertrauen prägen (Selbstvertrauen, das Vertrauen der anderen, Kontext). In diesem Abschnitt wird u.a. beleuchtet, wie technische Voreinstellungen soziale Praktiken befördern und wann einer augenscheinlichen Vertrauensbeziehung keine belastbare Vertrauenspraxis zugrundeliegt. Dies berührt unter anderem die Zuweisung von Risiko und Gefahr. Außerdem werden einige gesetzliche, technische und ökonomische Rahmenbedingungen für rationales Vertrauen aufgeführt. 4. Anzeichen für Vertrauenswürdigkeit (Kompetenz, Berechenbarkeit, Wohlwollen, Rücksichtnahme und Ethik). Es wird argumentiert, dass sich das Vertrauen im digitalen System überwiegend auf einen imaginierten Vertrauenspartner richtet, und mit anderen Vertrauensformen verglichen. In der Auseinandersetzung mit der Praxis fokussiert dieser Abschnitt auf die Möglichkeiten und Grenzen algorithmischer Entscheidungsfindung, unter besonderer Berücksichtigung des Machtanspruchs im Begriff „Ethische KI“. Anhaltspunkte für Ethik werden in einem separaten Kapitel (unter Setzen einer Vertrauensvermutung und Einziehen von „Lernschwellen“ für eventuell notwendiges Misstrauen) weiter vertieft. Es wird aufgezeigt, wie die rationale Auseinandersetzung mit Vertrauen in letzter Instanz auf die Sinnfrage hinführt.