Project

Back to overview

Governance and legal framework for managing artificial intelligence (AI)

English title Governance and legal framework for managing artificial intelligence (AI)
Applicant Möller Klaus
Number 197485
Funding scheme NRP 77 Digital Transformation
Research institution Institute of Accounting, Control & Auditing Universität St. Gallen
Institution of higher education University of St.Gallen - SG
Main discipline Science of management
Start/End 01.01.2021 - 30.09.2024
Approved amount 612'736.00
Show all

Keywords (9)

Decision support systems; Artificial intelligence; Trust & technology acceptance; Management information systems; Technology regulation; Technology governance; Algorithmic fairness; data-driven decision-making

Lay Summary (German)

Lead
Künstliche Intelligenz (KI) eröffnet neue Perspektiven für die wirtschaftliche Entwicklung. Jedoch ist die Fairness dieser Systeme nicht immer gewährleistet. Wir entwickeln rechtliche und unternehmerische Regeln die eine faire Entwicklung und Nutzung von KI gewährleisten, um den Einsatz von KI zu fördern und das Vertrauen zwischen Mensch und Maschine zu stärken.
Lay summary

Porträt/Projektbeschrieb

KI hat das Potenzial die Entscheidungsfindung in Unternehmen und Organisationen neu zu definieren. Durch KI können Vorteile aus den umfangreichen Daten die über Mitbewerber, Kunden, uvm. geschöpft werden. Jedoch wächst die Besorgnis, dass die Fairness und Transparenz von KI begrenzt ist: KI neigt dazu bestehende Verzerrungen in den Daten zu reproduzieren und somit implizit diskriminierende Vorhersagen zu produzieren. Diese Begrenzungen behindern die weit verbreitete Anwendung von KI.

Ziel dieses Projekts ist es rechtliche und ordnungspolitische Rahmenbedingungen zu entwickeln, die einerseits die Entwicklung und Nutzung von KI mit Gleichheitsprinzipien als Kern der Technologie gewährleisten und andererseits sicherstellen, dass die Verantwortung für die Technologie durchgehend und konsistent gewährleistet wird.

Hintergrund / Ausgangslage

KI entwickelt sich in verschiedenen Bereichen rasant weiter. Unser interdisziplinärer Ansatz aus IT, Management und Recht wird dazu beitragen eine kongruente Terminologie zwischen diesen verschiedenen Bereichen zu schaffen. In der Schweiz gibt es mehr KI-Unternehmen pro Bürger als in jedem anderen Land. KI "Made in Switzerland" ist geprägt von den Prinzipien der Demokratie und Fairness, die dem gesellschaftlichen Kontext der Schweiz innewohnen. Sie stellt somit einen einzigartigen Wettbewerbsvorteil für Schweiz dar.

Ziele

Wir analysieren geltende Gesetze und entwickeln regulatorische Rahmenbedingungen, die die Rechte von Einzelpersonen und Unternehmen schützen und gleichzeitig die Entwicklung sowie den Einsatz von KI ermöglichen. Wir untersuchen die Mechanismen die das Vertrauen in die KI fördern und entwerfen einen Managementrahmen der die Steuerung von KI in Organisationen gewährleistet. Darauf aufbauend entwickeln wir Gestaltungsprinzipien die Fairness, Rechenschaftspflicht und Transparenz der KI inhärent gewährleisten.

Bedeutung / möglicher Nutzen

Wir stärken das Vertrauen in künstliche Intelligenz und fördern ihren Einsatz in der Schweiz. Dadurch helfen wir Organisationen ihre betriebliche Effizienz zu steigern und ihre Produkte oder Dienstleistungen besser an die Anforderungen und Erwartungen der Kunden zu adaptieren.

Direct link to Lay Summary Last update: 10.08.2020

Lay Summary (French)

Lead
L’intelligence artificielle (IA) ouvre des nouvelles perspectives de développement économique. Cependant, l’équité de ces systèmes n’est pas toujours garantie. Nous développons de règles légales et de gouvernance qui assurent un développement et utilisation équitable de l’IA afin de faciliter son déploiement et renforcer la confiance homme-machine.
Lay summary

Portrait / description du projet

L’IA pourrait redéfinir la prise de décision dans les entreprises et les organisations. Ces dernières peuvent tirer profit des données massives qu'elles ont recueillies sur leurs concurrents, clients, etc. Pourtant, on s'inquiète de plus en plus du fait que l'équité et la transparence de l’IA sont limitées : elle tend à reproduire les préjugés existants, présents dans les données de base et, de ce fait, fait des prédictions qui sont implicitement discriminatoires. Ces limites entravent le déploiement à grande échelle de l’IA.

Ce projet vise à développer des cadres juridiques et de gouvernance qui assurent, d'une part, le développement et l’utilisation d'une IA dont les principes d'égalité sont au cœur de la technologie et, d'autre part, des lignes directrices qui garantissent que la responsabilité de la technologie est constamment et systématiquement assurée.

Contexte /Situation initiale

Si l’IA n'est pas nouvelle, elle connaît actuellement une évolution rapide dans divers domaines de recherche. Notre approche interdisciplinaire, mêlant chercheurs et professionnels en informatique, gestion et droit, contribuera à créer une terminologie congruente entre ces différents domaines.

La Suisse compte plus d'entreprises d'IA par citoyen que tout autre pays, ce qui représente un important moteur économique. L'IA « made in Switzerland » est façonnée par les principes de démocratie et d'équité, inhérents au contexte social suisse. Elle représente un avantage concurrentiel unique pour la Suisse.

Objectifs / buts

Nous analysons les lois actuelles et développons les cadres réglementaires, qui protègent les droits des individus et des entreprises (tels que l'équité et la transparence) tout en permettant le développement et le déploiement de l’IA. Nous concevons et validons un cadre de gestion qui assure la gouvernance de l'IA dans les organisations. Nous étudions les mécanismes qui favorisent la confiance dans l'IA. Nous utilisons ces résultats pour développer des principes de conception qui assurent l'équité, la responsabilité et la transparence de l'IA dès la conception.

Signification / importance / utilité pratique

Nous augmentons la confiance dans l'intelligence artificielle et favorisons son déploiement en Suisse, en aidant les organisations à accroître leur efficacité opérationnelle et à mieux adapter leurs produits et services aux demandes et aux attentes des clients.
Direct link to Lay Summary Last update: 10.08.2020

Lay Summary (English)

Lead
Artificial intelligence (AI) opens new prospects for economic development. However, the fairness of these systems is not always guaranteed. We are developing legal and governance rules that ensure the fair development and use of AI to facilitate its deployment and strengthen human-machine confidence.
Lay summary

Portrait / project description

AI could redefine decision-making in companies and organizations. Organizations can take advantage of the massive data they have collected on their competitors, customers, etc. Yet, there is growing concern that the fairness and transparency of AI are limited: it tends to reproduce existing biases, present in the data, and therefore makes implicitly discriminatory predictions. These limitations impede the widespread deployment of AI.

This project aims to develop legal and governance frameworks that ensure, on the one hand, the development and use of AI with equality principles at the core of the technology and, on the other hand, guidelines that ensure that responsibility for the technology is constantly and consistently assured.

Background / Initial situation

While AI is not new, it is currently undergoing a rapid development in various fields of research. Our interdisciplinary approach with researchers and practitioners from IT, Management, and Law will help to create a congruent terminology between these different fields.

Switzerland has more AI companies per citizen than any other country, which represents an important economic driver. AI "made in Switzerland" is shaped by the principles of democracy and fairness inherent in the Swiss social context. It represents a unique competitive advantage for Switzerland.

Objectives / goals

We analyze current laws and develop regulatory frameworks, which protect the rights of individuals and companies (such as fairness and transparency) while enabling the development and deployment of AI. We design and validate a management framework that ensures the governance of AI in organizations. We study the mechanisms that promote trust in AI. We use these results to develop design principles that ensure fairness, accountability, and transparency of AI "by design".

Meaning / importance / practical utility

We increase confidence in artificial intelligence and promote its deployment in the Swiss landscape, helping organizations to improve their operational efficiency and to better adapt their products and services to customer demands and expectations.
Direct link to Lay Summary Last update: 10.08.2020

Responsible applicant and co-applicants

Employees

Associated projects

Number Title Start Funding scheme
183149 The digital manager: How digitalization is transforming managerial decision-making 01.12.2018 Digital Lives

Abstract

Artificial intelligence (AI) has the potential to redefine decision-making in businesses and organizations. Yet there is a growing concern that fairness, accountability, and transparency in artificial intelligence is inherently limited. This results in new governance and legal challenges, and, as a remedy, this interdisciplinary project aims at developing a governance and legal framework for artificial intelligence. To achieve this, we study - and solve - the challenges across a micro/meso/macro-level. (1) Based on a legal analysis and interdisciplinary analysis, we analyze the current laws and develop regulatory implications, that safeguard individual and companies’ rights (such as fairness and transparency) while also permitting the development and deployment of AI. (2) For organizational governance, we develop and validate a management framework that ensures AI governance in business and organizations. (3) For human perception and fairness, we study mechanisms that foster trust in AI. For (4) technological design principles: here we use the previous findings to develop design principles that yield fairness, accountability, and transparency in AI “by design”. In keeping with this, we advance “AI made in Switzerland” towards democratic elements. Across all work packages, we yield actionable interdisciplinary outcomes that aid the implementation of AI in practice.
-