Comment émanciper les sciences cognitives du syndrome de Frankenstein, du Golem, c'est-à-dire de la quête insensée de la simulation de la pensée?

 

LE COMPLEXE DE PYGMALION

L'ordinateur, la mémoire, l'information et nous

 

On entend beaucoup parler en ce moment d'intelligence artificielle (le fameux duel IBM, Kasparov), de réseau neuronal planétaire (Internet), et l'on se demande, ou plutôt l'on se redemande, car cette question se pose de manière récurrente depuis le XIXè siècle, les machines vont-elles finir par nous supplanter? Ne sommes-nous pas destinés à devenir les esclaves des machines et l'exploitation de l'homme par la machine va-t-elle finir par remplacer la bonne vieille exploitation de l'homme par l'homme? Et régulièrement les réponses apportées à cette lancinante question sont invariablement les mêmes depuis plus d'un siècle ou presque. Alors pourquoi? Pourquoi cette question? J'imagine l'histoire suivante:

A un certain moment du processus d'hominisation certains individus d'un groupe homo eurent l'idée de tailler des pierres pour chasser les animaux, en découper les chairs et en séparer la peau. La pierre n'était plus une pierre mais une dent artificielle et le bras qui la portait une mâchoire artificielle, tandis que la flèche qui la portait devenait un bras artificiel et la peau de l'animal une seconde peau de l'homme. Artificiel! oui, comme artifice, comme artefact. Bref, comme art. L'homme devenait l'esclave de la pierre taillée. Nulle doute qu'à l'époque, certains redoutèrent cette dangereuse invention qui allait bouleverser toutes les traditions, renverser tous les rituels ancestraux et dévoyer notre belle jeunesse. Après la pierre taillée vint le silicium taillé en passant par quelques intermédiaires sans grande importance. A cette époque, certains se demandait curieusement si le silicium taillé n'allait pas finir par faire le travail à leur place, les commander, les diriger, bref soumettre le genre humain tout entier. Les machines vont-elles se mettre à penser, entendait-on? Vont-elles devenir intelligentes? Et ainsi de suite.

A cette époque, les êtres humains, qui avaient de graves problèmes à résoudre, avaient peur des machines. Ils avaient en fait peur d'eux-mêmes. Ils n'avaient pas encore réalisé que l'être humain ou encore la nature humaine n'est qu'un concept figé, loin de la vie des banlieues. Qu'entre celui qui a inventé la pierre taillée et celui qui tailla le premier transistor, il s'est passé une formidable suite irréversible d'événements pendant lesquels, malgré le fait que le concept restait apparemment identique, les individus changèrent. Changèrent? Mais changèrent en quoi? En quoi avons-nous changé? Nous avons des ordinateurs et Internet, mais nous sommes les mêmes depuis Cromagnon et peut-être même depuis bien avant. Voilà l'exclamation de la génération qui a contribué au changement de ce que la génération précédente avait faite, mais qui refuse le changement à la génération qui la suit. Leur changement s'appelle tradition, celui des autres bouleversements et malheurs. Et cela depuis un certain temps déjà. Il y a trente siècles, sur les bords de l'Euphrate, des tablettes d'argiles stigmatisent la jeunesse pour le peu de piété dont elle faisait montre. Mais en quoi cela répond-il à la question sur l'intelligence des machines?

A cette époque toujours, on n'avait pas encore réalisé que l'intelligence n'était qu'un mot de 12 lettres. Et qu'en fait, penser n'est pas calculer, c'est-à-dire effectuer des opérations logiques, et résoudre des problèmes préalables posés par d'autres. Penser humainement, c'est créer des logiques, créer des problèmes et des questions et les techniques de penser qui vont avec. Et toute nouvelle machine à "simuler l'intelligence humaine", en tant qu'objet technique créé par un être humain, loin de se rapprocher d'une copie (certains à l'époque disaient pompeusement isomorphie) du processus qui l'a engendré, exprime au contraire une transformation de celui-ci. C'est ce processus qu'il fallait nommé information afin de faire subir à ce concept un remarquable retournement paradigmatique permettant de sortir des nombreux paradoxes qu'il engendrait dans toutes les sciences.

Certains parmi ceux qui cherchaient à faire des machines qu'ils voulaient appeler intelligentes, se disaient pourtant que nous sommes encore loin de pouvoir expliquer et de comprendre ce que sont la mémoire, l'apprentissage, la perception et autres actes dits cognitifs. Ce qui revenait à dire que nous sommes encore loin de pouvoir décrire la description que nous décrivons. En fait, ces gens s'étaient enfermés dans un insoluble paradoxe. Et plus il se posait la question, qui apparaît il est vrai aujourd'hui assez naïve: quel est le rapport entre les modèles cognitifs et le cerveau? plus ils étaient victimes du complexe de Pygmalion et sombraient dans une fascination narcotique face à leur créature. Ainsi, plus le créateur, c'est-à-dire, que l'on ne s'y trompe pas, l'être humain, créait des machines sophistiquées, plus il se demandait si un jour ce n'est pas elles qui le créeront. Il n'avait pas encore réaliser que penser n'est pas non plus acquérir quelque chose, ni même avoir de la mémoire, mais c'est se transformer soi-même en transformant ce qui est déjà là. Autrement dit que l'invention des techniques, des machines, techniques de penser comprises, et le développement des êtres humains doivent être considérés comme le même processus irréversible et imprévisible. Et ce n'est pas tout car le processus accélère, complexifie, sélectionne, produit et différencie, et tout cela conjointement.

Il se passa encore un certain temps avant que l'on arrête de se poser ces questions. En fait, cela dura jusqu'à ce que nous tombions d'accord pour dire que nous ne décrivons rien, que nous n'expliquons rien, qu'il n'y a même rien à expliquer, mais que nous devons tous participer à la construction d'un monde humain, pleinement humain, c'est-à-dire où chacun est considéré comme le seul créateur de ses paroles et de ses autres actes. Et que le rapport entre ce qu'un être humain dit et ce à propos de quoi il le dit, n'est nullement un rapport entre un objet éternellement là, égale à lui-même et attendant d'être connu, et un sujet connaissant, comme nous le disait la philosophie depuis plus de 25 siècles, mais un rapport humain, bien humain, dans la fulgurance de la socialisation humaine. Et si l'on n'a pas en tête cette formidable fulgurance que constitue cette socialisation depuis la pierre taillée jusqu'au silicium taillé, on ne peut sortir de l'autoréférence que nous entretenons avec nos concepts clos. Bref, on ne peut sortir de la métaphysique.

Ainsi, l'ordinateur et la technique numérique ne constituent pas davantage une reproduction ou un modèle de la pensée ou du cerveau que la pierre taillée fut un modèle ou une reproduction de la dent. Si l'on veut parler de modèle, c'est plutôt le contraire, c'est-à-dire que c'est la dent qui était le modèle de la pierre taillée et c'est nos techniques de penser, en l'occurrence les idées que nous nous faisons à propos de la mémoire, du cerveau, de l'apprentissage et de la perception, qui servent de modèle pour construire nos ordinateurs et non l'inverse.

Par exemple, nous utilisons le terme mémoire en désignant toujours, selon les termes actuels, que ce soit pour l'ordinateur ou l'être humain, "un mécanisme de traitement du stockage et de l'accession à des informations". Mon point de vue est très différent. Il n'y a pas d'un côté la mémoire et de l'autre côté l'organisme et son développement. L'organisme n'est pas quelque chose qui a ou n'a pas de la mémoire, mais le développement de l'organisme, - je ne dis pas son fonctionnement car l'organisme n'est pas une machine qui fonctionne, mais un processus qui, disons, lorsque tout se passe bien, va de la fusion des gamètes à la mort du vieillard - et la mémorisation sont une seule et même chose. Mémorisation est donc aussi analogue à créations de différences. C'est ce processus que nous devrions nommer information. Et cette création doit se saisir, tout comme le processus de socialisation, sous les angles conjoint de l'accélération, de la complexification, de la différenciation, de la sélection et de la quantification.

Prenons un exemple. Vous désirez apprendre à jouer du violon. Au début de la première séance, le professeur vous enseigne comment tenir le redoutable mais fabuleux instrument. A la fin de la première séance, vous aurez peut-être appris à glisser difficilement une note sur la chanterelle en tirant sur votre archet tout en tordant votre bras droit de manière incommode. La deuxième séance, allez-vous refaire les mêmes séquences de gestes que la première? Non. Il se sera produit une transformation, ce que j'appelle une information. De telle sorte que, d'une séance à l'autre, et dépendamment de votre opiniâtreté et de votre goût pour jouer cet instrument, le processus irréversible dont je parle va se produire. Les séquences kinésiques de vos doigts, de vos bras et de votre corps tout entier vont être sélectionnées (vous ne retiendrez que celles qui vous permettront de progresser dans l'apprentissage que vous avez délibérément projeté), elles vont aussi se complexifier dans la mesure où vous jouerez des pièces de plus en plus difficiles; elles vont aussi de différencier puisque vous pourrez exprimer une variété croissante d'émotions; elles vont également de quantifier, car vous jouerez de plus en plus de pièces; et elles vont s'accélérer car vous serez capable de jouer de plus en plus vite, compte tenu de ce qui est musicalement acceptable. Ce processus s'appelle apprentissage, et dans mon approche il s'appelle aussi information. Il est irréversible car vous ne pourrez pas davantage le désapprendre que vous pouvez désapprendre à monter à bicyclette, à marcher ou à parler; et il est imprévisible car il dépend de vous.

Vous remarquerez qu'il ne s'agit là d'aucun stockage de quoi que ce soit, il s'agit d'une transformation (information) organique ou, plus précisément, socio/organique. Nous retrouvons ce processus dans ce que nous appelons l'histoire, notre mémoire sociale. L'histoire, que j'ai appelé processus de socialisation, comme l'apprentissage du violon, n'est pas donnée une fois pour toute. Nous sélectionnons constamment les événements qui nous semblent importants en fonction des projets humains que nous nous donnons, et nous les réinterprétons. Ces événements s'accélèrent en même temps que la socialisation se complexifie, qu'ils s'accroissent en nombre et qu'ils se différencient. Et nous pourrions employer la même logique pour penser notre propre histoire personnelle.

Je pourrais dire que la mémoire de l'ordinateur n'est ni sa RAM, ni sa ROM, mais le fait, qu'en tant que création humaine, il exprime une transformation de la socialisation. L'ordinateur et les techniques numériques contiennent et sont issus d'une accélération, d'une complexification, d'une sélection, d'une différenciation et d'une quantification de toutes les techniques humaines antérieures. En ce sens, la mémoire d'un ordinateur n'est pas dans l'appareil que vous avez devant vous, mais c'est la suite des générations successives des ordinateurs et même de toutes les techniques précédentes créées par les êtres humains; elle se confond donc avec la succession des générations humaines et donc, du processus de socialisation.

Dans cette perspective, le concept de mémoire est inutile. Ou alors réservons cette mécanique pour la RAM ou la ROM de l'ordinateur, mais l'être humain et sa socialisation n'ont pas cette mémoire-là, car ce sont des processus créatifs, irréversibles, imprévisibles, qui tout ensemble, s'accélèrent, se complexifient, se sélectionnent, s'accroissent et se différencient. Nous poursuivons notre information, c'est-à-dire la construction du monde humain.

Je terminerai sur la notion d'intelligence que l'on accorde aussi bien maintenant aux machines qu'aux êtres humains. La vision mécanique défendue actuellement en sciences cognitives ne permet pas d'envisager le processus dont je parle. Cela à pour conséquence que certains sont prêts à accorder de la mémoire aux machines numériques tout en leur refusant l'intelligence. D'autres trouvent de la créativité qui émergerait spontanément des algorithmes mécaniques, dûment préparés, de leurs ordinateurs. Tandis que les mêmes ne voient que reproduction et programmation dans un nid de fourmis.

Dans ma perspective, cette notion d'intelligence est également inutile. L'idée que nous nous faisons de l'intelligence ne cesse de se transformer avec les machines que nous construisons avec l'intention paradoxale de l'imiter et de la reproduire. Et il est aussi vain de la remplacer par celui de pensée. Car l'acte d'énonciation d'une théorie de la pensée ne peut jamais, en tant que pensée, être compris dans la théorie. Ou encore, toute proposition qui se présenterait comme une explication de la pensée est une pensée qui ne peut être comprise dans l'explication. Ce paradoxe n'est surmontable que si on abandonne tout idée de reproduction, de modélisation et de loi. En fait, intelligence, mémoire, apprentissage, perception, cognition ont fusionné dans le concept d'information que je propose. C'est la manière la plus simple et la plus radicale de s'extraire non seulement de la vieille opposition cartésienne entre matière et esprit; mais de déposer ces concepts au musée des concepts. Le "je pense, donc je suis", peut être remplacé par "je pense, donc je participe à l'information du monde humain".

La question n'est donc pas de savoir si les machines, et en l'occurrence aujourd'hui les machines numériques, vont devenir intelligentes, voire plus intelligentes que nous, ou encore si elles vont se mettre à penser. Cette question n'a pas davantage de sens que de se demander si votre bibliothèque, dont vous ne lirez jamais tous les livres, est plus intelligente que vous ou si votre automobile va un jour partir se promener toute seule. La question est plutôt d'envisager clairement les enjeux et les projets humains que constituent chacune de nos créations. La peur que nous pouvons ressentir face aux techniques n'est que l'angoisse devant notre changement permanent. C'est l'angoisse de l'irréversible, de la mort, de notre mort individuelle, insupportable, et que l'on imagine mort générale. Mais la vie continue.

Jacques Jaffelin

 

barupbtnne.gif (886 octets)   remonter   barupbtnne.gif (886 octets)                              flechec.gif (880 octets)    bulletins   flecheD.gif (875 octets)                              flechec.gif (880 octets)    télécharger ce texte   flecheD.gif (875 octets)