Lead
Was bedeutet es, menschliche Kontrolle ├╝ber intelligente Maschinen zu haben?

Lay summary

Experimental-Philosophen der Universität Zürich, Computerwissenschafter der EPFL und Rechtswissenschafter der Universität St. Gallen (HSG) untersuchen gemeinsam mit Hilfe von Experimenten im Laboratorium, wie intelligente Maschinen ausgestaltet werden müssen, damit eine wirksame Kontrolle seitens der menschlichen Betreiberinnen und Betreiber sichergestellt ist. Im Zentrum der Untersuchung stehen Roboter, welche der Katastrophenhilfe dienen. Die Ergebnisse werden aber voraussichtlich über diesen Anwendungsbereich hinaus relevant sein.

Künstliche Intelligenz und Robotik haben in den vergangenen Jahren grosse Fortschritte gemacht. Computerprogramme und Algorithmen sind mittlerweile lernfähig, Roboter können Aufgaben selbständig erfüllen. Immer weniger menschliche Beteiligung ist für eine einwandfreie Funktionsweise von Maschinen erforderlich, Menschen sind häufig nur noch im Hintergrund tätig. Maschinen können zum Beispiel auf Strassen fahren, am Himmel fliegen oder sogar im bewaffneten Konflikt töten – und dies alles selbständig. Wir untersuchen angesichts dieser Entwicklung, was wirksame menschliche Kontrolle über Maschinen bedeutet.

Im Konkreten geht es um die menschliche Kontrolle über intelligenten Maschinen, die auf der Basis von künstlicher Intelligenz und fortgeschrittener Robotik funktionieren. In einer virtuellen Umgebung, die spielähnlichen Charakter hat, führen wir Experimente durch, um dies herauszufinden. Wir kooperieren mit dem Schweizer Militär, um von dessen Erfahrungen zu profitieren. Das amerikanische Pentagon (Verteidigungsministerium) gewährt uns Zugang zu einer virtuellen Umgebung, welche das Pentagon für einen neuen Wettbewerb geschaffen hat: die so genannte «Darpa Subterranean Challenge». In diesem Wettbewerb wird Katastrophenhilfe in Tunneln und Höhlen mittels von Robotern geleistet. Die dafür geschaffene Umgebung nutzen wir für unsere Experimente.

Das Ziel unseres Projektes ist es, den Begriff der Kontrolle über intelligente Maschine so zu schärfen, dass klar wird, wann und wie menschliche Kontrolle notwendig ist. Entsprechend sollen der Rechtsetzung konkreter Input für Gesetze und Standards bezüglich der Kontrolle über intelligente Maschinen geliefert werden – etwa so wie bei den rechtlichen und technischen Standards, die zum Beispiel heute bei normalen Autos Anwendung finden. Idealerweise erfahren damit Hersteller und Herstellerinnen von modernen Maschinen, z.B. von Robotern, die auf der Grundlage von künstlicher Intelligenz funktionieren, von unserem Projekt, wie sie ihre Produkte bezüglich Kontrolle ausgestalten sollten, damit sie ethisch (und rechtlich) einwandfrei funktionieren.