David Rumelhart

Rumelhart est né à Mitchell, dans le Dakota du Sud, le 12 juin 1942, fils d'Everett Leroy et Thelma Theora (Ballard) Rumelhart^[2]. Il commence ses études universitaires à l'Université du Dakota du Sud, où il obtient une licence en psychologie et en mathématiques en 1963. Il étudie la psychologie mathématique à l'Université Stanford, où il obtient son doctorat en 1967.

De 1967 à 1987, il enseigne au département de psychologie de l'Université de Californie à San Diego. En 1987, il rejoint l'Université Stanford, où il est professeur jusqu'en 1998.

Rumelhart est élu à l'Académie nationale des sciences en 1991 et reçoit de nombreux prix, dont une bourse MacArthur en juillet 1987, la médaille Warren de la Société des psychologues expérimentaux et le prix de l'APA pour contribution scientifique exceptionnelle. Avec James McClelland, il remporte le prix Grawemeyer de psychologie l'Université de Louisville en 2002^[3].

Atteint de la maladie de Pick, une maladie neurodégénérative progressive, Rumelhart devient invalide et vit à la fin de sa vie avec son frère à Ann Arbor, dans le Michigan. Il meurt à Chelsea, dans le Michigan^[2].

Rumelhart est le premier auteur d'un article très cité de 1985^[4] (co-écrit avec Geoffrey Hinton et Ronald J. Williams) qui applique l'algorithme de rétropropagation aux réseaux de neurones multicouches. Ces travaux démontrent expérimentalement que de tels réseaux pouvaient apprendre des représentations internes utiles des données. Cette approche est largement utilisée dans la recherche fondamentale en cognition (par exemple, la mémoire, la reconnaissance visuelle) et dans des applications pratiques. L'article de 1985 ne cite pas les publications antérieures sur la rétropropagation, telles que la thèse de Paul Werbos de 1974 car ses auteurs n'en avaient pas connaissance.

Rumelhart développe la rétropropagation au printemps 1982 de manière indépendante^[5]. En 1983, il la présente à Terry Sejnowski, qui la teste et constate qu'elle s'entraîne beaucoup plus rapidement que les machines de Boltzmann (développées en 1983). Geoffrey Hinton, cependant, n'a pas accepté la rétropropagation, préférant les machines de Boltzmann, et ne l'accepte qu'un an plus tard.

La même année, Rumelhart publie également Parallel Distributed Processing: Explorations in the Microstructure of Cognition^[6] avec James McClelland, qui décrit leur création de simulations informatiques de perceptrons, donnant aux informaticiens leurs premiers modèles testables de traitement neuronal, et qui est maintenant considéré comme un texte central dans le domaine des sciences cognitives^[1].

Ses travaux de 1986 avec McClelland relancent le débat sur le passé simple lors du regain d'intérêt pour les réseaux de neurones dans les années 1980^[7]. Les partisans du connexionnisme s'opposent à ceux de l'approche symbolique, représentée par Jerry Fodor, Gary Marcus, Zenon Pylyshyn, Steven Pinker, etc. Le débat porte sur la question de savoir si les réseaux de neurones ou les programmes symboliques constituent des modèles adéquats pour expliquer comment les anglophones conjuguent un verbe au passé simple^[8].

Les modèles de cognition sémantique et de connaissances spécifiques de Rumelhart dans une diversité de domaines appris utilisant des unités de traitement neuronales initialement non hiérarchiques continuent d'intéresser les scientifiques dans les domaines de l'intelligence artificielle, de l'anthropologie, des sciences de l'information et des sciences de la décision.

En son honneur, la Fondation Robert J. Glushko et Pamela Samuelson crée en 2000 le prix David E. Rumelhart pour sa contribution aux fondements théoriques de la cognition humaine^[1],[9]. Un sondage de la revue Review of General Psychology, publié en 2002, classe Rumelhart au 88^e rang des psychologues les plus cités du XX^e siècle, à égalité avec John Garcia (psychologue) (en), James J. Gibson, Louis Leon Thurstone, Margaret Floy Washburn et Robert Woodworth^[10].