Project

Back to overview

Welcome to the team Dr. Watson: New Roles and Responsibilities in AI-Supported Healthcare Teams

English title Welcome to the team Dr. Watson: New Roles and Responsibilities in AI-Supported Healthcare Teams
Applicant Grote Gudela
Number 183010
Funding scheme Digital Lives
Research institution Departement Management, Technologie und Ökonomie D-MTEC ETH Zürich
Institution of higher education ETH Zurich - ETHZ
Main discipline Applied psychology
Start/End 01.09.2018 - 31.10.2020
Approved amount 248'552.00
Show all

All Disciplines (3)

Discipline
Applied psychology
Psychology
Health

Keywords (5)

Teamwork in healthcare; Human-system-integration; Artificial intelligence based decision-making; Professional roles in healthcare; Digitalization

Lay Summary (German)

Lead
Willkommen im Team Dr. Watson: Neue Rollen und Verantwortlichkeiten in KI-unterstützten Teams im GesundheitswesenIn den Medien und in Fachkreisen wird aktuell viel über künstliche Intelligenz, maschinelles Lernen und autonome Entscheidungsfindungs-/Diagnosesysteme in der Medizin debattiert. Wir wissen jedoch wenig darüber, was die positiven wie auch kritischen Auswirkungen dieser Entwicklungen sind und wie sich die Rollen und Verantwortlichkeiten von medizinischem Fachpersonal verändern werden.
Lay summary

Inhalt und Ziel des Forschungsprojekts

Exponentielles Datenwachstum, erhöhte Rechenleistung und Fortschritte im maschinellen Lernen haben dazu geführt, dass künstlich intelligente Applikationen (KI) in bestimmten Aufgaben unsere kognitive Leistung übersteigen. Forscher sprechen von einem Paradigmawechsel von «Mensch zu Technik», der die Art, wie wir arbeiten, fundamental verändern wird. Wir wissen allerdings noch nicht, welche Auswirkungen dieser Wandel auf berufliche Rollen, Teamarbeit und die Verteilung von Kontrolle und Verantwortung zwischen Mensch und Technik haben wird und welche Chancen und Risiken damit verbunden sind. Dieses Forschungsprojekt geht diesen Fragen anhand detaillierter Fallstudien zu KI-Anwendungen in diversen Bereichen der Medizin am Beispiel von Ärzten und Pflegefachpersonen nach und erfasst zudem die Sichtweisen zu verschiedenen Anwendungsszenarien bei Interessensträgern aus dem Gesundheitswesen sowie aus der Allgemeinbevölkerung.

Wissenschaftlicher und gesellschaftlicher Kontext

Auf der Basis der Forschungsergebnisse werden Kriterien definiert, die zu einer optimalen Gestaltung neuer Arbeitsprozesse bei Nutzung von KI führen und den Menschen ins Zentrum sozio-technologischer Systeme stellen. Zudem zeigt das Projekt Chancen und Risiken von KI im Gesundheitswesen aus Perspektive diverser Interessensträger auf und liefert somit wichtige Informationen für Entscheidungsträger aus Politik, Wirtschaft und Allgemeinbevölkerung.

Keywords

Digitalisierung, Künstliche Intelligenz, Mensch-Technik-Integration, Teamarbeit, Arbeitsrollen, Verantwortung, Kontrolle, Entscheidungsfindung

 

Direct link to Lay Summary Last update: 31.08.2018

Responsible applicant and co-applicants

Employees

Scientific events

Active participation

Title Type of contribution Title of article or contribution Date Place Persons involved
Academy of Management Annual Meeting Talk given at a conference Human-Centered Design of Future Work Systems: Examples of ICU Doctors and Nurses. 07.08.2020 virtual, United States of America Grote Gudela; Kerstan Sophie; Bienefeld Nadine;
Academy of Management Annual Meeting Talk given at a conference Human - AI-Agent Teams and Process Changes Over Time in the Example of Acute Care Teams. 09.08.2019 Boston, United States of America Bienefeld Nadine; Grote Gudela;
DIGIERA Organizing in the Age of Digitization Talk given at a conference How Technologies of Tomorrow Shape Technology Use Today. 01.06.2019 Ascona, Switzerland Grote Gudela; Bienefeld Nadine;
EAWOP Congress 2019 Talk given at a conference Welcome Dr. Watson: New Roles and Responsibilities in AI-Supported Healthcare Teams 15.05.2019 Turin, Italy Bienefeld Nadine; Grote Gudela;
SIOP 2019 Annual Conference Talk given at a conference Welcome Dr. Watson: New Roles and Responsibilities in AI-Supported Healthcare Teams 01.02.2019 Washington D.C., United States of America Bienefeld Nadine; Grote Gudela;


Knowledge transfer events

Active participation

Title Type of contribution Date Place Persons involved
Mensch-Maschinen Interaktion in der Medizin Talk 01.10.2020 Zürich, Switzerland Bienefeld Nadine;
Digitaltag Schweiz: Welcome to the team Dr. Watson: Changing roles and responsibilities in AI-assisted healthcare teams Talk 03.09.2019 Rotkreuz, Switzerland Bienefeld Nadine;
ICU Cockpit NRP75 Neuroscience meeting Workshop 09.07.2019 Zurich, Switzerland Bienefeld Nadine;


Self-organised

Title Date Place
Künstliche Intelligenz in der Intensivmedizin 17.12.2019 Chur, Switzerland
Umgang mit KI Automatisierung 03.12.2019 Zurich, Switzerland
Umgang mit KI Automatisierung 19.11.2019 Zurich, Switzerland
Umgang mit KI Automatisierung 12.11.2019 Zurich, Switzerland
Umgang mit KI Automatisierung 05.11.2019 Zurich, Switzerland

Associated projects

Number Title Start Funding scheme
187331 From Tools to Teammates: Human-AI Teaming Success Factors in High-risk Industries 01.09.2020 NRP 77 Digital Transformation

Abstract

Exponential growth in data generation and compute power combined with advances in machine learning have led to artificially intelligent applications (AI) that have the potential to outperform humans in various cognitive tasks. Researchers speak of a paradigm shift from “mind to machine” that will fundamentally change the way humans work. We do not know, however, how this change will affect professional roles, teamwork, and the distribution of control and responsibility between humans and AI within these new socio-technical-systems. In this study, we explore these questions in the example of healthcare teams (i.e., physicians and nurses), because there the potential opportunities but also the risks of AI are especially high. To this end, we also assess the viewpoints of various stakeholders (e.g., healthcare professionals, AI developers, patients, management, policy makers) to provide an all-around perspective. In sum, the proposed research will make significant contributions to science by exploring how effective work processes - and the technology to support these processes - can be best designed in unison while we still have leeway. The broader impact beyond science consists in providing managers, regulators, politicians, and the general public with the relevant knowledge to make informed decisions on the use of AI in current and future work systems.
-