Project

Back to overview

The Linguistic Capacities of Neural Networks: A Perspective from the Philosophy of Animal Psychology

Applicant Gubelmann Reto
Number 190552
Funding scheme Spark
Research institution Universität St. Gallen
Institution of higher education University of St.Gallen - SG
Main discipline Philosophy
Start/End 01.02.2020 - 31.01.2021
Approved amount 87'100.00
Show all

All Disciplines (2)

Discipline
Philosophy
Information Technology

Keywords (8)

AI; Philosophy of Mind; Philosophy of Language; Deep Learning; Neural Networks; Philosophy of Psychology; Machine Translation; Wittgenstein

Lay Summary (German)

Lead
Die Leistungsfähigkeit maschineller Sprachverarbeitungssysteme hat in den vergangenen Jahren sprunghafte Fortschritte gemacht. Neben riesigen verfügbaren Datenmengen zum Training dieser Systeme sowie stark gestiegener Rechenleistung hat das vor allem mit der Wiederentdeckung und Weiterentwicklung einer Methode zu tun, den so genannten neuronalen Netzwerken.
Lay summary

Dieses Projekt versucht, Konzepte und Unterscheidungen, die sowohl in der Philosophie der Psychologie als auch in der Philosophie des Geistes entwickelt wurden, auf neuronale maschinelle Übersetzungssysteme anzuwenden. Es scheint keine prinzipiellen Gründe zu geben, warum diese Anwendung nicht möglich sein sollte, da die entsprechenden Fähigkeiten nach den gleichen Kriterien zugeschrieben werden sollten, unabhängig davon, ob es sich bei dem betreffenden Wesen um ein menschliches Kind, ein nichtmenschliches Tier oder einen Computeralgorithmus handelt. Dennoch müssen einige der Kriterien möglicherweise erweitert oder neu konzipiert werden, da sich Computeralgorithmen stark von Lebewesen unterscheiden.

Von zentraler Bedeutung für das Projekt ist die Tatsache, dass neuronale maschinelle Übersetzungssysteme Searles berühmtem Chinese Room Thought Experiment trotzen. Anstatt lediglich Zeichenfolgen in der Zielsprache mit Zeichenfolgen in der Ausgangssprache zu korrelieren, leiten neuronale maschinelle Übersetzungssysteme ihre eigenen Darstellungen semantischer Beziehungen aus den Trainingsdaten ab, mit denen sie gefüttert worden sind. Es ist die leitende Forschungshypothese dieses Projekts, dass dies einen Wendepunkt in Bezug auf die linguistischen und damit kognitiven Fähigkeiten markiert, die diesen Systemen zugeschrieben werden sollten. Das Projekt vermutet, dass es zwar falsch ist, diesen Algorithmen Sprachkompetenz auf menschlicher Ebene zuzuschreiben, es aber wahr ist, dass diese Algorithmen, anders als die traditionellen maschinellen Übersetzungssysteme, in Bezug auf die sprachlichen Fähigkeiten auf Augenhöhe mit kleinen Kindern sind.

(Haupttext aus dem Englischen automatisch übersetzt von deepl.com - nur leicht editiert)

Direct link to Lay Summary Last update: 05.02.2020

Responsible applicant and co-applicants

Abstract

The project proposed here attempts to apply concepts and distinctions that have been developed in the philosophy of psychology as well as the philosophy of mind to neural machine translation systems. There seem to be no principled reasons why this application should not be possible, as the relevant abilities should be ascribed based on the same criteria, irrespective of whether the being in question is a human infant, a non-human animal or a computer algorithm. Still, some of the criteria might have to be extended or reconceived, as the kind of being of computer algorithms does differ strongly from that of living beings.If successful, the project would provide a highly innovative perspective on the linguistic and hence cognitive sophistication of neural machine translations systems. The results of this project could then provide the ground for a novel angle on what it still takes for AI research to reach strong AI. Furthermore, it could invite a reassessment of what it means in general to have linguistic abilities.Of central importance for the project is the fact that neural machine translation systems defy Searle's famous Chinese Room Thought Experiment. Rather than merely correlating strings in the target language with strings in the source language, neural machine translation systems infer their own representations of semantic relations from the training data with which they are provided. It is the guiding research hypothesis of this project that this marks a watershed with regard to the linguistic and hence cognitive capacities that these systems should be credited with, and that the conceptual tools from the philosophy of mind and psychology are particularly suited to evince this: The project conjectures that, while it is misguided to ascribe human-level linguistic competence to these algorithms, it is true that these algorithms, other than traditional SMT-systems, are on equal footing with young children when it comes to linguistic abilities.
-