Intelligence artificielle
La chambre chinoise
Est-ce que les ordinateurs et, plus généralement, les machines digi-tales peuvent être intelligents, conscientes, et penser ? Vastes questions, mais auxquelles, dans les années 1960 et 1970, plusieurs chercheurs en Intelligence artificielle répondaient par un « oui » enthousiaste, assurant même qu’on mettrait au point sous peu de telles machines intelligentes.
Ce bel enthousiasme a été tempéré (et pour certains à jamais éteint), non tant par le fait qu’on n’y soit pas encore parvenu, mais par une célèbre expérience de pensée imaginée par le philosophe John Searle (né en 1932). La voici.
Searle nous demande d’imaginer une personne enfermée dans une pièce hermétiquement close, à l’exception d’une fente pratiquée dans un des murs : cette pièce, il l’appelle la Chambre chinoise.
Par la fente, de l’extérieur, sont introduits des bouts de papier couverts de signes qui sont incompréhensibles à la personne se trouvant dans la Chambre chinoise. Mais quand elle en reçoit un, cette personne consulte aussitôt un immense registre dans lequel elle repère les signes se trouvant sur la feuille : y correspondent d’autres signes, qu’elle recopie ensuite sur une nouvelle feuille de papier, qu’elle envoie, toujours par la fente, à l’extérieur de la Chambre chinoise.
Pourquoi cette chambre s’appelle-t-elle chinoise ?
C’est que les signes reçus et envoyés sont du chinois, une langue qu’ignore totalement la personne dans la chambre, qui ne sait pas qu’il s’agit d’une langue et encore moins du chinois. Mais à l’extérieur de la Chambre chinoise, une personne parlant cette langue a posé une question en Chinois et a reçu, après un délai plus ou moins long, une réponse
pleinement satisfaisante. La questionneuse pourrait donc croire que la chambre (ou quoi que ce soit qui s’y trouve ou la constitue) parle chinois. Et pourtant non, comme on vient de le voir.
Vous aurez compris la signification de cette analogie. La personne dans la pièce représente l’unité centrale de l’ordinateur ; les instructions qu’elle consulte dans le registre représentent le programme ; les bouts de papier qui entrent et sortent sont respectivement les inputs et les outputs. Eh oui, la chambre chinoise fait exactement ce que ferait un ordinateur programmé pour parler chinois et elle le fait comme lui. Mais c’est sans les comprendre qu’elle manipule des symboles.
C’est ce que Searle a voulu suggérer avec cette expérience de pensée à propos de l’ordinateur. Il conclut que, pour cette raison, l’ordinateur ne pourra jamais être « une machine qui pense ». Pour le dire autrement : un ordinateur n’a qu’une syntaxe, c’est-à-dire des règles permettant de manipuler des symboles (plus précisément : des séquences de 1 et de 0), mais il n’a pas de sémantique ou d’intentionnalité.
Searle a-t-il raison ? On en débat encore.
