Trojan technology in the living room? Ethics of the "tipping point" between self-determination and heteronomy

Abstract

Assistive technologies, including "smart" instruments and artificial intelligence (AI), are increasingly arriving in older adults' living spaces. Various research has explored risks ("surveillance technology") and potentials ("independent living") to people's self-determination from technology itself and from the increasing complexity of sociotechnical interactions. However, the point at which self-determination of the individual is overridden by external influences has not yet been sufficiently studied. This article aims to shed light on this point of transition and its implications.

Datenverarbeitende assistive Technologien und künstliche Intelligenz (KI) werden in den täglichen Lebensräumen älterer Menschen zunehmend präsent. Ein Ziel dieses Technologieeinsatzes ist es, den steigenden gesundheitlichen Unterstützungsbedarf zu adressieren und sowohl akute als auch chronische Gesundheitszustände im häuslichen Setting besser zu behandeln. Auch wenn assistive Technologien und fürsorgliche Beziehungen darauf abzielen, das (objektive) Wohlbefinden und die Gesundheit zu fördern, steht dies nicht immer im Einklang mit selbstbestimmten Entscheidungen älterer Erwachsener. Ausgehend von dem bekannten normativen Spannungsverhältnis zwischen Wohltun und Selbstbestimmung stellen wir uns die Frage, inwiefern eine Einschränkung von Selbstbestimmung - was wir als Fremdbestimmung bezeichnen - bemerkt werden kann. Obwohl Risiken der Fremdbestimmung durch Technik selbst (Überwachungstechnologie) und durch komplexere soziotechnische Interaktionen häufig untersucht werden, ist über den Übergang von der Selbstbestimmung zur Fremdbestimmung wenig bekannt. Ziel dieses Artikels ist es, diesen Übergang und die damit verbundenen Implikationen zu beleuchten.