Évolution du langage et de la communication
#ZOOM SUR...
Titulaire d’une Chaire de professeur junior (CPJ) CNRS au Laboratoire de sciences cognitives et psycholinguistique (LSCP, UMR8554, CNRS / EHESS / ENS-PSL), Raphaëlle Malassis mène ses recherches chez diverses espèces de primates. Ses travaux visent à comprendre l'évolution des mécanismes cognitifs impliqués dans le langage, et plus largement la communication. L'approche adoptée est interdisciplinaire, mêlant éthologie, psychologie cognitive et linguistique. Ces travaux sont réalisés en collaboration avec des institutions telles que le Museum national d'histoire naturelle, les centres de primatologie du CNRS ou encore le Max Planck Institute for Evolutionary Anthropology.
Plutôt que de considérer le langage humain et les systèmes de communication des autres espèces comme deux catégories étanches, les envisager à la lumière de leur histoire évolutive, de leurs propriétés partagées, et de leurs spécificités respectives ouvre la voie à des réponses que leur étude cloisonnée peine à offrir. C’est l’approche adoptée dans les travaux de Philippe Schlenker, directeur de recherche CNRS à l’Institut Jean-Nicod1, Emmanuel Chemla, directeur de recherche CNRS, et Raphaëlle Malassis, chercheuse CNRS, tous deux membres du Laboratoire de sciences cognitives et psycholinguistique au sein du Département d’Études Cognitives de l’ENS-PSL : analyser les systèmes de communication des espèces non humaines à l’aide des outils et des questions de la linguistique formelle, et appliquer les méthodes de la psycholinguistique — et, plus largement, de la psychologie expérimentale — à ces espèces, afin de mieux comprendre les bases cognitives de leurs systèmes de communication.
L’une des propriétés remarquables du langage humain est notre capacité à combiner des unités signifiantes — les mots — pour former des phrases, décuplant ainsi la diversité des messages que nous pouvons communiquer. Des séquences de signaux — vocalisations, gestes — ont été décrites chez certaines espèces, bien que dans une moindre mesure que chez l’humain. Comment expliquer l’apparition de ces séquences au cours de l’évolution et leur essor fulgurant dans le langage humain ?
De l’unité à la séquence
Pour explorer cette question, il ne suffit pas de décrire et analyser ce que ces espèces font dans leurs propres systèmes de communication. En effet, l’enjeu est d’identifier les opérations cognitives permettant de passer de l’unité à la séquence, et de retracer leur histoire évolutive. Or, si une espèce n’utilise pas, ou peu, de séquences de signaux de communication, est-ce à dire qu’elle n’en possède pas la capacité ? Pas nécessairement. Il se peut qu’elle en ait la compétence, mais que celle-ci ne s’exprime pas, du moins pas dans le contexte de la communication. Les travaux décrits dans cet article s’inscrivent dans cette approche complémentaire : tester la capacité de différentes espèces à traiter des régularités séquentielles plus complexes que celles documentées dans leurs productions naturelles (en l’état actuel de nos connaissances), afin de retracer l’histoire évolutive des facultés cognitives qui rendent le langage possible.
Les régularités séquentielles caractérisent la structure et les règles qui régissent l’organisation des unités au sein de ces séquences. Il en existe une grande diversité dans les systèmes de communication étudiés à ce jour : un nombre déterminé de répétitions d’une certaine syllabe dans un chant d’oiseau, un ordre non-aléatoire des vocalisations chez une espèce de singe, ou encore une structuration hiérarchique permettant l’enchâssement récursif dans le langage humain.
Pour étudier les capacités de traitement des régularités séquentielles, la cognition comparée — qui explore la cognition à travers les espèces — utilise un paradigme initialement conçu pour l’étude en laboratoire de la syntaxe humaine : l’Apprentissage de Grammaires Artificielles. Ce paradigme permet de dissocier les traitements syntaxiques, sémantiques et pragmatiques. Les expériences sont réalisées hors de tout contexte de communication, en présentant des séquences généralement composées d’éléments dépourvus de sens — syllabes, sons, formes géométriques, etc. — organisées selon des règles plus ou moins complexes. L’objectif est d’évaluer la capacité des participants à apprendre ces règles.
Par exemple, dans une série d’études menées à la station de primatologie de Rousset sous la direction de Joël Fagot et Arnaud Rey2, nous avons entrepris de cartographier les capacités d’une espèce de primate non-humain : le babouin de Guinée (Papio papio ; Figure 1). Nous avons pour cela employé une tâche à la fois très simple et très puissante, elle aussi empruntée de la littérature expérimentale humaine : le suivi de cible (Figure 2). Sur un écran tactile, les babouins doivent suivre un rond se déplaçant d’une position à l’autre. De manière cruciale, nous examinons ce qu’il se passe lorsque les positions de cette cible ne sont pas aléatoires, mais suivent une régularité séquentielle particulière. Nous observons deux choses : premièrement, les réponses vont accélérer au fur et à mesure de l’apprentissage de la règle qui permet de prédire la position suivante, et deuxièmement, il se produira un brusque ralentissement si la cible n’apparait pas à la position attendue. Si toutefois la règle n’est pas apprise, alors rien de tout ceci ne sera observé : les réponses garderont une vitesse constante.
Ces travaux ont permis d’établir que les babouins possèdent la capacité d’apprendre un grand nombre de règles : des règles de répétition, des règles probabilistes, et des règles issues de grammaires dites « supra-régulières »3. Ces dernières, qui génèrent par exemple des séquences en miroir, ou « palindromes », sont particulièrement complexes, et la capacité à les traiter était considérée jusqu’ici comme unique à l’humain. Pourtant, nos babouins y sont parvenus !
Nos résultats s’alignent ainsi avec les conclusions mises en évidence par la littérature au fil des années : pour chaque régularité séquentielle testée, ou presque, la capacité de la traiter a été démontrée chez au moins une espèce, dans au moins une modalité — auditive, visuelle ou motrice. Ces données appuient l’idée d’une continuité phylogénétique : les prérequis cognitifs au traitement de nombreuses régularités présentes dans le langage humain se retrouvent chez des espèces qui nous sont contemporaines.
Pour autant, un certain nombre d’éléments suggèrent que traiter des régularités séquentielles n’a rien de trivial pour ces espèces. De fortes contraintes mnésiques semblent notamment s’appliquer. En effet, dès lors que la longueur des séquences est augmentée, qu’un délai entre ses éléments est introduit, ou encore que deux éléments réguliers ne se suivent plus immédiatement dans la séquence mais sont séparés par un élément variable — une régularité dite alors « non-adjacente » — ils rencontrent de grandes difficultés. Nos études soulignent par exemple que chez le babouin de Guinée, l’apprentissage de régularités adjacentes ne requiert que quelques dizaines de répétitions de la séquence ; tandis qu’une régularité non-adjacente en nécessitera plusieurs centaines, voire milliers.
Les contraintes mnésiques ne sont pas sans conséquence. Imaginez une conversation dans laquelle arrivé à la fin d’une phrase de votre interlocuteur, vous en auriez déjà oublié la première moitié. Une conversation, dans laquelle vous seriez capable de distinguer entre « un chien » et « deux chiens », mais n’en sauriez plus le compte si « adorable » se glissait entre « chien » et son déterminant. Comment envisager l’émergence d’un système de communication basé sur la recombinaison d’éléments au sein de séquences dans de telles conditions ?
D’autant que le constat ne se limite pas à la littérature sur l’apprentissage de grammaires artificielles. Un article venant de paraître dans la revue Trends in Cognitive Science va jusqu’à proposer l’hypothèse d’un « Goulot séquentiel » : la quantité et la qualité de l’information séquentielle que les animaux non-humains peuvent mémoriser seraient, selon les auteurs, drastiquement limitée4.
Pour mieux comprendre les causes et conséquences de ce double constat (les capacités d’apprentissage de séquence des animaux non-humains vont bien au-delà que ce qui avait été théorisé, mais diffèrent grandement d’un contexte à l’autre et sont fortement contraintes), différentes pistes sont explorées.
Sonder les représentations mentales des séquences
L’une de ces pistes, développée avec Jérôme Sackur, directeur d’études EHESS au LSCP, au sein du projet européen IMPEXPRIMATES, a consisté à s’intéresser à une dimension jusque-là mise de côté : la nature implicite ou explicite des représentations mentales des séquences.
Les recherches en sciences cognitives ont en effet démontré que le langage humain repose sur un mélange de deux types de représentations des régularités : des représentations implicites — par exemple, des règles grammaticales de notre langue maternelle que nous ne pouvons souvent que difficilement décrire mais parvenons parfaitement à employer dans la vie de tous les jours — et des représentations explicites — ce qui nous est typiquement enseigné lorsque nous apprenons une seconde langue à l’école. Qu’en est-il des autres espèces ? Les autres primates peuvent-ils également former des représentations implicites et explicites, selon le contexte ou leur âge, pour traiter des régularités séquentielles ? Examiner le caractère explicite ou non de représentations mentales chez des individus non-verbaux présente un véritable défi. Les récentes avancées conceptuelles et méthodologiques nous offrent cependant de nouveaux angles par lesquels le relever. Avoir une représentation explicite, c’est pouvoir la décrire verbalement. Mais c’est également pouvoir exercer un degré de contrôle plus élevé sur l’influence que cette représentation aura sur notre comportement.
Pour diagnostiquer si une représentation séquentielle est explicite ou non chez l’humain, on peut utiliser un test simple : après exposition à des séquences, on demande aux participants de les reproduire, puis de produire d’autres séquences — sauf celles déjà vues. Cette seconde tâche est facile si les séquences sont explicitement représentées, mais presque impossible si elles ne le sont qu’implicitement. Ce test constitue un outil précieux pour évaluer la nature explicite ou implicite d’une représentation à partir de réponses comportementales.
L’objectif du projet IMPEXPRIMATES a donc été de transposer ce test pour le proposer à des primates non-humains, tout l’enjeu étant de remplacer les instructions verbales par un entraînement. Il s’agit donc de laisser les animaux découvrir ces deux règles (reproduire, et éviter de reproduire) par essai-erreur, en leur délivrant une récompense alimentaire à chaque réponse correcte (Figure 3). Les données issues de ces travaux, en cours d’analyse, nous permettront d’apporter de premières réponses quant au caractère implicite ou explicite des représentations séquentielles chez les primates non-humains.
Wolfgang Köhler primate research center, Max Planck Institute for Evolutionary Anthropology © R. Malassis
Une enquête à travers les espèces
Pour comprendre l’histoire évolutive des capacités cognitives impliquées dans le langage, il est essentiel d’élargir notre perspective. Lorsqu’une capacité est observée chez un grand nombre d’espèces phylogénétiquement proches de la nôtre, comme les primates, cela suggère que certains prérequis étaient déjà présents chez nos derniers ancêtres communs avec ces espèces. À l’inverse, si seules quelques espèces possèdent ces caractéristiques, cela évoque un phénomène d’évolution convergente : ces capacités auraient émergé indépendamment à plusieurs reprises au cours de l’évolution, sous l’effet de pressions de sélection similaires. Pour distinguer entre ces deux hypothèses, il est nécessaire d’examiner la répartition de ces capacités à travers les espèces.
La suite de nos travaux consistera donc, d’une part, à cartographier les capacités de traitement séquentiel et leur représentation mentale à travers les espèces de primates non-humains — comme cela a été entrepris avec les babouins. D’autre part, il s’agira de mettre en lien cette cartographie, non seulement avec les caractéristiques de leurs systèmes de communications, mais également avec les caractéristiques socio-écologiques, comportementales et cognitives de ces espèces.
Cette approche intégrative permettra ainsi de tester différentes hypothèses. Par exemple, une hypothèse influente dans le champ de l’évolution du langage propose que les mécanismes cognitifs impliqués dans le traitement des séquences ont été initialement sélectionnés pour des fonctions autres que la communication, comme la planification de séquences motrices complexes nécessaires à l’élaboration d’outils. Nos travaux permettront ainsi d’examiner cette question : existe-t-il une corrélation, au niveau de l’histoire des espèces (phylogénie) et des individus (ontogénie), entre d’une part les capacités d’apprentissage séquentiel en laboratoire et d’autre part la production de séquences communicatives complexes ou de séquences motrices liées à l’utilisation d’outils5 ?
Dans le domaine de la cognition comparée, comme dans les sciences cognitives en général, les conclusions ont longtemps été limitées par l’isolement des recherches. Un protocole est appliqué sur un petit nombre d’individus d’une espèce, un autre sur un échantillon tout aussi restreint d’une autre espèce ; les résultats sont équivoques et le tableau reste incomplet. Pour y remédier, des stratégies collaboratives émergent progressivement dans nos disciplines. C’est dans cette dynamique que sont nés des collectifs comme ManyPrimates, regroupant des primatologues qui mettent en commun leurs questions de recherche et mutualisent leurs moyens. Leur objectif : appliquer un même protocole expérimental à des dizaines d’espèces à travers le monde. Grâce à ces initiatives, un nouveau tournant s’offre à la cognition comparée. Pour répondre à la question de l’émergence des séquences communicatives, c’est précisément ce type d’approche que nous devons et pouvons désormais adopter.
Contact
Notes
- Institut Jean-Nicod (IJN), UMR8129, CNRS / ENS-PSL.
- Au Centre de recherche en psychologie et neurosciences (CRPN, UMR7077, CNRS / AMU).
- Minier L. 2015, Extraction de régularités en situation d'apprentissage de séquences : étude chez l'humain et le primate non-humain, Mémoire original, Thèse de doctorat en psychologie. Aix-Marseille Université.
Malassis R. 2018, Apprentissage de dépendances non-adjacentes et traitement de grammaires supra-régulières chez le babouin et l'humain, Mémoire original, Thèse de doctorat en psychologie. Aix-Marseille Université. - Lind J., Jon-And A. 2024, A sequence bottleneck for animal intelligence and language?, Trends in Cognitive Sciences.
- Howard-Spink E., Hayashi M., Matsuzawa T., Schofield D., Gruber T., Biro D. 2024, Nonadjacent dependencies and sequential structure of chimpanzee action during a natural tool-use task, PeerJ.