Project

Back to overview

Trust and Trustworthiness in Digital Spheres

English title Trust and Trustworthiness in Digital Spheres
Applicant Schaber Peter
Number 187446
Funding scheme NRP 77 Digital Transformation
Research institution Ethik-Zentrum Universität Zürich
Institution of higher education University of Zurich - ZH
Main discipline Philosophy
Start/End 01.02.2020 - 31.01.2023
Approved amount 328'053.00
Show all

Keywords (9)

Democracy; Trust; Digitalization; Medical Ethics; Normativity; Reasons; Media Ethics; Technology; Reliance

Lay Summary (German)

Lead
Die Digitalisierungsprozesse, die in den letzten Jahrzehnten in verschiedenen Bereichen unseres gesellschaftlichen, wirtschaftlichen und politischen Lebens stattgefunden haben, haben die Frage nach Vertrauen und Vertrauenswürdigkeit besonders virulent werden lassen. Das Projekt hat es zum Ziel, diese Fragen in den Blick zu nehmen, ihre Relevanz zu klären und sie aus einer philosophischen Perspektive auf systematisch befriedigende Weise zu beantworten.
Lay summary
Hintergrund
 
Die weite Verbreitung digitaler Strukturen in allen Bereichen unseres Lebens hat, ganz abgesehen von den Vorteilen, die damit verbunden sind, zu massiven Verunsicherungen geführt, die oft im Sinne einer Vertrauenskrise diagnostiziert werden. Während im Hinblick auf Interaktionen zwischen personalen Akteuren bereits in verschiedenen Disziplinen eine Reflexion auf die Frage nach Vertrauen stattgefunden hat, scheint eine analoge Reflexion bezüglich digitaler Strukturen noch auszustehen. Dabei ist bislang völlig unklar, in welchem Sinne die Begriffe des Vertrauens und Vertrauenswürdigkeit zu verstehen sind, wenn wir sie auf nicht-personale ‘Akteure’ anwenden, und es ist insbesondere offen, ob diese Kategorien in diesem Bereich überhaupt angewendet werden können.
 
Ziel
 
Das Projekt soll ausgehend von den systematischen Einsichten und Fragestellungen, wie sie in der philosophischen Debatte formuliert werden, der allgemeinen Frage nachgehen, welche Relevanz dem Vertrauensbegriff im Kontext digitaler Transformationen zukommt. In Auseinandersetzung mit den interdisziplinär geführten Diskussionen zu konkreten Digitalisierungskontexten stellen dabei zwei Fragenkontexte den Fokus des Projekts dar: Erstens geht es darum, das Wesen und die Normativität von Vertrauen in digitalen Kontexten in den Blick zu nehmen, und dabei insbesondere auf die Frage zu reflektieren, was es heissen könnte, dass eine digitale Struktur – wie etwa ein zur medizinischen Diagnose verwendeter Algorithmus – als vertrauenswürdig ausgezeichnet wird: Geht es hier etwa um blosse Verlässlichkeit oder muss von einer normativ umfassenderen Relation ausgegangen werden? Zweitens beschäftigt sich das Projekt mit den verschiedenen Weisen, auf die persönliche, soziale und politische Beziehungen von Prozessen der digitalen Transformation betroffen sind und erforscht die Frage, wie solche Prozesse zu gestalten sind, damit Vertrauensbeziehungen nicht gefährdet oder sogar gestärkt werden.

Bedeutung
 
Im Rahmen des Projekts wird für alle Fragen, die mit Digitalisierungsprozessen zu tun haben, wichtige Grundlagenarbeit geleistet, indem der zentrale Begriff des Vertrauens geschärft und in ein angemessenes Verhältnis zu den in den Debatten um Digitalisierung thematisierten Phänomenen gebracht wird. Das Projekt hat zudem auf mehrfache Weise direkte praktische Relevanz, indem es uns hilft, auf die mit neuen digitalen Technologien einhergehenden Verunsicherungen zu reagieren, und Vorschläge formuliert, wie Vertrauen angesichts fortschreitender Digitalisierung zu schützen ist.
Direct link to Lay Summary Last update: 20.01.2020

Responsible applicant and co-applicants

Employees

Collaboration

Group / person Country
Types of collaboration
Lab for Innovation (Ethix) Switzerland (Europe)
- in-depth/constructive exchanges on approaches, methods or results
Digital Society Initiative, University of Zurich Switzerland (Europe)
- in-depth/constructive exchanges on approaches, methods or results

Scientific events

Active participation

Title Type of contribution Title of article or contribution Date Place Persons involved
Philosophisches Colloquium der Humboldt-Universität zu Berlin Individual talk Vertrauen und Misstrauen in Zeiten von Corona 06.01.2021 Berlin, Germany Budnik Christian;
Trust in Autonomous Machines Talk given at a conference Trust in Autonomous Machines: The Perspective of Philosophy 26.11.2020 Zürich (online), Switzerland Budnik Christian;


Communication with the public

Communication Title Media Place Year
New media (web, blogs, podcasts, news feeds etc.) Digital Trust: Wie fassen Menschen Vertrauen? Avenir Suisse German-speaking Switzerland 2021

Abstract

To the extent that people interact in digital spheres, trust has become an increasingly valuable commodity. Especially in light of what can be considered as severe breaches of trust in digital contexts, e.g. whith regard to online data privacy, health care provision or journalistic disinformation, trust has at the same time proven to be an especially endangered social good. While relationships of trust have traditionally been considered to be exclusively relationships between human persons, these developments have prompted the question whether, and how, we can trust machines, algorithms or other kinds of artificial agents. Working on specific examples and cases, scientists from different disciplines have in recent years put forward different accounts of trust that are designed to allow for trust in digital artifacts.The proposed research project attempts to critically reflect on this development by investigating the following two sets of questions: First, can we really trust digital artifacts, or should we rather conceive of such relationships as relations of reliance? And would it, consequently, be more appropriate to conceptualize questions about processes of digitaliziation and trust as questions about reasons for reliance? Second, what impact do our growing interactions with digital artifacts have on relationships of interpersonal trust? How can it be avoided that trust relationships are undermined or negatively affected by digital processes, and how can such processes be designed to support and help flourish trust relationships between persons?We aim to discuss these questions by systematically examining the debate about digital trust against the background of the philosophical debate about trust. Our starting point is the observation that a systematic discussion of trust is yet missing in the debate about trust in the digital sphere. In particular, trust is often not clearly distinguished from reliance, and normative questions about reasons for trust and the value of trust are not given enough attention. Our working hypotheses are the following: Against the trend to develop a notion of trust that can be applied to digital artifacts, we conjecture that it is in most cases more helpful to conceive of theses debates in terms of reliance. In this regard, we aim to show that current proposals to conceptualize trust within the digital sphere are either accounts of reliance, or make unjustified normative assumptions about digital artifacts. In contrast to such approaches, we discuss in which sense it is more advantageous to clearly distinguish between trust and reliance, and we demonstrate how discussing regulations of digital processes in terms of justified reliance is systematically more adequate and allows for more rational discourses. In a further step, we hypothesize that paying closer attention to the normatively rich phenomenon of temporally extended trust relationships between human persons, it is possible to answer pressing questions about how to design digital processes in order to foster rather than undermine trust relationships that are of crucial importance for our social lives. This second hypothesis is based on the conviction that it is unrealistic but also undesireable to simply dial back processes of digital transformation in order to prevent the erosion of trust relationships that has been characteristic for the social and political developments since the advent of the digital era. In order to make such relationships flourish, however, it is necessary to understand the conceptual relations and the dynamics between trust and the digital sphere.While the proposed project starts from rather general and theoretical reflections about the nature of and the reasons for trust, its results are of practical significance in at least two ways: On the one hand, we will apply and probe the suggested framework with regard to specific cases such as the operation of deep learning algorithms in medical diagnosis or the dangers that processes of digital information pose for the functioning of democratic systems; on the other hand, the conceptual framework provided by the project should be of high interest to other, more applied projects (within the NRP) with whom we are eager to work together.
-