Aktuelle Befunde aus dem Technologiemonitoring: Extremismus und Radikalisierung im Metaverse

Abstract

Das vom Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT) verantwortete Technologiemonitoring untersucht Entwicklungspotenziale und -trends neuer Technologien, die das Potenzial haben, die Möglichkeiten extremistischer Akteur*innen zu erweitern. Eine aktuell viel diskutierte neue Technologie, welcher weitreichende Implikationen für Phänomene von Extremismus und Radikalisierung zugeschrieben werden, ist das Metaverse. Dabei handelt es sich um die Vision eines durch Virtual Reality (VR)erweiterten Internets, das sich als plattformübergreifende digitale Umwelt auf nahezu sämtliche Lebensbereiche erstrecken und dabei den Nutzer*innen immersive soziale Interaktion in Echtzeit ermöglichen soll. Bislang handelt es sich beim Metaverse nur um eine Vision, deren Verwirklichung noch weit in der Zukunft liegt, die aber zugleich den Beginn einer technologischen Entwicklung markiert und dabei Ansprüche an Funktionalität, soziale Wirkung und technologischen Prozess formuliert. Mit Hilfe der in der Technikfolgenabschätzung entwickelten Methode des Vision Assessments zeigen wir alternative Entwicklungsmöglichkeiten für ein zukünftiges Metaverse auf, um dabei auch gesellschaftliche Folgen in Bezug auf Extremismus und Radikalisierung sichtbar, diskutierbar und damit gestaltbar zu machen. Zu diesem Zweck haben wir einen Expert*innen-Workshop mit Teilnehmer*innen aus den Bereichen Extremismusforschung, Kriminologie und Technologie durchgeführt. Dort haben die Expert*innen vier Szenarien entwickelt, die Alternativen aufzeigen, wie sich extremistisches Handeln und Radikalisierung in einem Metaverse im Jahr 2040 möglicherweise verändern und - je nachdem wie dieses gestaltet sein wird - kontrolliert und abgesichert werden könnten. Als zentrale Faktoren für die Handlungsmöglichkeiten extremistischer Akteur*innen in einem Metaverse werden staatliche Regulierung, Moderation von Inhalten, Datenschutz, Jugendschutz sowie technologische Standards ausgemacht. Die Szenarien machen deutlich, dass insbesondere die Rolle des Staates und die Moderation von Inhalten wichtige Faktoren für die Einhegung extremistischer Bestrebungen im Metaverse sind. Damit sind Fragen einer angemessenen Plattform-Governance angesprochen. Hier weisen die Expert*innen auf den Bereich Gaming hin, weil es dort bereits Erfahrungen mit der Verbreitung von Extremismus in immersiven Online-Welten gibt. Weiterhin wird die die Notwendigkeit einer frühzeitigen und umfangreichen Einbindung der zukünftigen Nutzer*innen und zivilgesellschaftlicher Akteur*innen in die Entwicklung hervorgehoben, um eine demokratische Ausgestaltung des Metaverses zu unterstützen. Neben einer solchen Stärkung demokratischer Akteur*innen sollte eine gelingende Governance letztlich eine Multi-Stakeholder-Perspektive im Sinne der Beteiligung politischer Entscheidungsträger*innen, Plattformbetreibenden, Sicherheitsbehörden, Zivilgesellschaft und Forschung berücksichtigen.