Perception of the risks inherent in new AI technologies

Abstract

Artificial intelligence (AI) has undergone rapid development and is becoming one of the major social issues. The advent of generative AI is not only associated with potential benefits but also poses a number of risks, such as increasing malicious misuse. This brings the issue of regulating new AI technologies into focus. In the search for solutions, the article revisits the problem of applying the precautionary principle. We critically evaluate regulatory approaches, particularly with regard to maintaining an innovation-friendly environment. A prudent approach to new AI technologies not only requires regulatory measures but also places new demands on the education system. We also discuss the regulation of AI from the perspective of Czech legislation in a broader international context. Current challenges in the field of AI competence are highlighted. To make the issue more tangible, we provide specific examples from the Czech Republic.

Künstliche Intelligenz (KI) entwickelt sich rasant weiter und wird mehr und mehr zu einem zentralen gesellschaftlichen Thema. Das Aufkommen der generativen KI ist nicht nur mit potenziellen Vorteilen verbunden, sondern birgt auch Risiken, wie etwa einen zunehmenden böswilligen Missbrauch. Damit rückt die Frage der Regulierung neuer KI‑Technologien in den Fokus. Auf der Suche nach Lösungsansätzen für diese Herausforderungen geht der Artikel erneut auf die Problematik der Anwendung des Vorsorgeprinzips ein. Regulierungsansätze werden vor allem mit Blick auf die Aufrechterhaltung eines innovationsfreundlichen Umfelds kritisch bewertet. Ein umsichtiger Umgang mit neuen KI‑Technologien erfordert nicht nur regulatorische Maßnahmen, sondern stellt auch neue Anforderungen an das Bildungssystem. Darüber hinaus wird im Artikel die Regulierung von KI aus Sicht der tschechischen Gesetzgebung im breiteren internationalen Rahmen diskutiert. Dabei werden auch aktuelle Herausforderungen im Bereich der KI‑Kompetenz beleuchtet. Um die Problematik greifbarer zu machen, werden konkrete Beispiele aus der Tschechischen Republik angeführt.