Lead
Smarte persönliche Assistenten erfahren auf Basis ihres ökonomischen Potentials zunehmende Verbreitung auch in der Schweiz, bedingen aber aus Sicht der NutzerInnen neue Herausforderungen und Fragestellungen. Sie sind einerseits «lernende» Systeme, die sich entsprechend kontinuierlich weiterentwickeln und ihr Verhalten anpassen, und andererseits dialogische Systeme, die auf Basis natürlicher Sprache (dynamisch) mit den NutzerInnen interagieren. Das vorliegende Projekt untersucht den Einfluss dieser neuartigen Mensch-Maschine-Interaktionen auf die Vertrauensbildung und Verhalten der NutzerInnen. Zudem erarbeitet es Gestaltungsprinzipien für die mensch-zentrierte und vertrauenswürdige Entwicklung von smarten persönlichen Assistenten.

Lay summary

Smarte persönliche Assistenten, wie beispielsweise intelligente Sprachassistenten, verheissen die Interaktionen zwischen Menschen und Maschinen grundlegend zu verändern. Allerdings werden diese neuartigen Mensch-Maschine-Schnittstellen von vielen NutzerInnen aufgrund mangelnden Vertrauens nur zögerlich angenommen. Bisherige Forschungsarbeiten beschäftigen sich vornehmlich mit technologischen Fragestellungen, jedoch kaum mit den Implikationen bezüglich Vertrauensbildung und Nutzungsverhalten. Zudem wird Vertrauen in Systeme in der Forschung selten dynamisch betrachtet. Menschen verändern aber über den Zeitlauf unterschiedlich ihre Wahrnehmung und ihr Verhalten in und mit technischen Systemen. Dies wird vor dem Hintergrund des adaptiven Charakters dieser Systeme noch wichtiger, da das Systemverhalten für den Nutzer nicht immer vorhersehbar ist und bleibt.

Das geförderte Forschungsprogramm adressiert diese Forschungslücke und nimmt dabei zwei komplementäre Perspektiven ein. Einerseits wird - einem klassischen verhaltenswissenschaftlichen Ansatz folgend - ein theoretisches Modell zur Vertrauensentwicklung in diese aus dieser Perspektive noch wenig beforschte Mensch-Maschine-Schnittstellen entwickelt sowie auf dieser Grundlage das Vertrauen und die Nutzung über mehrere Zeitpunkte hinweg experimentell untersucht. Andererseits werden auf Basis eines gestaltungsorientierten Ansatzes Erkenntnisse in Form von Gestaltungsprinzipien zum vertrauenswürdigen Design dieser Agenten systematisch abgeleitet und über Labor- sowie Feldexperimente evaluiert. 

Die Ergebnisse dieses Forschungsprojekts tragen zu einem differenzierten Verständnis des Einflusses von intelligenten Sprachtechnologien auf das Nutzungsvertrauen und -verhalten bei. Zudem haben die Erkenntnisse bedeutsame Implikationen für die effektive und vertrauenswürdige Gestaltung von smarten persönlichen Assistenten.