Le cerveau artificiel

Le Figaro révélait un article hier sur les projets de cerveaux artificiels.
Une équipe aurait promis le premier cerveau artificiel pour dans dix ans.
Vous pouvez voir l'article >> juste ICI.

Je me demandais quel intérêt l'Homme avait il à reproduire un cerveau à l'aide d'ordinateurs et autres supercalculateurs. Quelle est la finalité d'une telle entreprise ? Est-ce dangereux à votre avis ?

J'aurais envie de dire que créer une "intelligence supérieure" prouve la supériorité de l'intelligence du créateur. Première entrée en matière.
Ensuite, c'est extrêmement "confortable" d'entretenir une machine capable de s'autoalimenter, d'apprendre par elle-même et non de rester figée dans ce que son créateur lui a inculqué.
Pour répondre à la question "est-ce dangereux?", je crois qu'il y a toujours un envers et un endroit, sans pour autant parler d'un HAL (2001, l'Odyssée de l'espace) ou d'un soulèvement des machines (Terminator).

Voilà une question qui pourrait rejoindre le débat sur la science sans conscience avec cet apport : la science comme conscience. Une conscience non humaine. Dangereux, sans doute. Instructif, évidemment.

Ça me rappelle une expérience faite il y a des ça déjà presque 15 ans : un scientifique avait créé un bassin virtuel et y avait mis des organismes constitués d'un assemblage de formes géométriques simples, qui avaient pour mission de trouver un moyen de se déplacer dans le bassin. Rapidement certains on réinventé l'hélice, mais d'autres ont trouvé des moyens qu'un homme n'aurait jamais pu imaginer. Ce n'étaient pas forcément les plus efficaces, mais ils avaient la particularité d'être les plus étranges à mes yeux.

Pour info, Grattepoil, ton lien vers le figaro ne fonctionne plus.

je viens de vérifier, le lien marche toujours ici...étrange...

Si tu retrouves des liens vers cette expérience, ça m'intéresserait de voir ça !

Ah oui, quand j'essaie une deuxième fois j'y arrive.

Pour ce qui est de l'expérience, j'avais trouvé ça dans un magazine alors que je n'avais pas 20 ans donc difficile de retrouver ça. Ceci dit, moi aussi j'aimerai bien retomber dessus.

Monsieur Toti a écrit:Voilà une question qui pourrait rejoindre le débat sur la science sans conscience avec cet apport : la science comme conscience. Une conscience non humaine. Dangereux, sans doute. Instructif, évidemment.

Cela pose également la possibilité de conscience du cerveau artificiel. Un cerveau non vivant (cad dénué d'ADN) est-il capable de conscience? Pour la SF, oui, généralement. Mais pour certains qui se sont posés la question, non (par exemple Roger Penrose, voir http://fr.wikipedia.org/wiki/Roger_Penrose) - sauf dans le cas d'ordinateurs quantiques, peut être.

En fait il s'agit de déterminer si la conscience est quelque chose de "magique" ou si c'est le résultat d'un processus neurobiologique. Du moins je crois que c'est l'enjeu de la question.

Qu'est-ce que la conscience ? Est-ce que le "je pense donc je suis" de Descartes peut nous servir comme préambule à une définition de la conscience ? Peut-on créer une machine consciente d'être une machine ?

Pour en revenir à la question initiale et après lecture de l'article, il semble que la possibilité matérielle de reproduire le fonctionnement d'un cerveau humain n'est pas si éloignée. La peur de voir ce jour arriver me fait penser aux peurs qui sont nées lors de l'ouverture de l'accélérateur de particules LHC. Certains scientifiques ont eu peur de voir se créer un trou noir qui aurait englouti la terre.

N'y a t'il pas aussi une peur liée à la religion, l'homme se prenant pour un dieu capable de créer la vie ?

Monsieur Toti a écrit:En fait il s'agit de déterminer si la conscience est quelque chose de "magique" ou si c'est le résultat d'un processus neurobiologique. Du moins je crois que c'est l'enjeu de la question.

Tu crois que la seule motivation est de comprendre cela ? J'aurais tendance à dire : qu'est-ce que ça va nous apporter de le savoir si on veut juste s'arrêter là ? J'imagine que si l'on parvient à découvrir que la conscience est un processus neurobiologique, on voudra forcément reproduire une conscience artificielle. Et c'est là que je demande dans quel but...Quel intérêt l'homme aurait-il à créer une conscience artificielle, alors que cette conscience est justement le propre de l'homme...

Monsieur Toti a écrit:
N'y a t'il pas aussi une peur liée à la religion, l'homme se prenant pour un dieu capable de créer la vie ?

J'irai même plus loin. Puisque la conscience de soi est le propre de l'homme. S'il parvient à construire une conscience artificielle, consciente de son état, c'est comme si l'homme était capable de créer l'homme... il se rapprocherait donc de dieu. Est-ce là le but de la manœuvre ?

Pour moi la question : les animaux ont-ils une conscience ? est aussi pertinente que la controverse de Valladolid, à savoir pas du tout.

Je ne pense pas que la conscience soit le propre de l'homme. Je pense
que les animaux ont une conscience. Et pas uniquement les chimpanzés ou
les bonobos.

Quant à l'intérêt de la création d'une conscience artificielle, il me semble aussi évident que l'intérêt d'écrire un livre ou de composer de la musique.

Et pour ce qui est de se rapprocher de dieu, encore faudrait-il qu'il y ait un dieu et un ordre à ne pas bouleverser, ce que je ne pense pas.

Attention, tout ce que je dis là n'est que ma vision des choses, je ne cherche pas à convaincre.

Je précise par ailleurs, et pour rejoindre à nouveau la discussion sur la science sans conscience, que je suis réfractaire à une vision purement mécaniste de l'être humain. Je crois d'ailleurs que lorsqu'on aura réussi à reproduire le fonctionnement d'un cerveau humain, et bien c'est tout ce qu'on aura fabriqué, un cerveau, et non une conscience.

Le sujet m'intéresse pas mal vu que ma future thèse va s'approcher du concept.

Je pense que le but final n'est pas forcément de créer une conscience artificielle juste pour créer une conscience artificielle, mais plus de concevoir un modèle pour mieux comprendre le fonctionnement de notre propre cerveau.

Car au final, comment à partir de simple impulsions électriques et transferts chimiques notre conscience est-elle née? Pour moi c'est la recherche de cet inconnu qui prime sur le fait de jouer à dieu (même s'il y a peut etre un peu de ça aussi... )

Quel sera le concept de ta thèse exactement alors?

Comprendre les mécanismes et processus de la création artistique, et essayer de créer un modèle capable de faire une création "artistique" autonome

Effectivement, tu vas donc essayer de reprogrammer un modèle de cerveau, en te limitant au domaine de l'artistique.
Comment vas-tu t'y prendre pour comprendre les processus de création artistique alors que la subjectivité et le gout y tient une place prépondérante ?

C'est une bonne question... heureusement j'ai 3 ans pour y répondre

...
Créer une véritable intelligence artificielle, (ou plus exactement, un simulateur de personnalité humaine), c'est comme le voyage sur Mars : on en parle depuis des décennies, et on en reporte toujours la réalisation concrète.

Entre les premiers projets et aujourd'hui, la puissance des ordinateurs a été multiplié des milliers de fois, et pourtant rien n'a été accompli dans ce domaine.

Sur mon vieil Atari 1024, y avait un jeu de rôle, où on pouvait parler au programme. Par exemple, si on lui disait "merde", il me demandait d'écrire 50 fois "je ne dois pas dire de gros mots", hihi ! C'était rigolo, on avait l'impression que l'ordinateur nous comprenait.

En fait, on finissait par s'apercevoir que toutes les questions les plus courantes étaient prévues mais ça n'allait pas plus loin. Et on n'est toujours pas allé plus loin.

L'intérêt d'une telle chose ?
Ha moi, j'aimerai bien pouvoir causer avec mon ordinateur, c'est déjà mon meilleur ami !

...

Trisre, Gerard, d'avoir pour meilleur ami un ordinateur.
C'est un bel outil, d'accord, mais les amis, j'aime à leur parler, et qu'ils me répondent. Tu me diras, c'est ce qu'on fait maintenant, mais ça reste virtuel.
J'ai plus de dialogues avec mes chats qu'avec un pc.

Ce que je voulais dire, c'est qu'on ne cherche pas un "ordinateur intelligent", on cherche un ordinateur qui nous ressemble. Pareil pour les animaux.

Tout cela dénote évidemment d'une forme de solitude ou de rejet des vrais gens. Ton chat ne va pas te dire que tu as tort, c'est pour ça que tu l'aimes bien.

Et avec un ordinateur "intelligent", on se dit que quelque part, il serait peut-être le seul à pouvoir nous comprendre et nous aimer (ou nous donner l'illusion de le faire).

Bref, c'est peut-être triste, mais ça existe depuis longtemps, Mary Shelley avait déjà tout dit sur le sujet avec son "Frankenstein".



...

Gerard a écrit:
En fait, on finissait par s'apercevoir que toutes les questions les plus courantes étaient prévues mais ça n'allait pas plus loin. Et on n'est toujours pas allé plus loin.

L'intérêt d'une telle chose ?
Ha moi, j'aimerai bien pouvoir causer avec mon ordinateur, c'est déjà mon meilleur ami !

Ce genre de recherche est un des grands point de l'IA : les chatter-bots. Le plus connu est Elisa, et le but est de trouver une machine capable de passer le test de turing.

Imaginons un homme (Alan par exemple) qui "chat" par ordinateur interposé avec deux individu, l'un humain, l'autre un ordinateur. Si Alan n'est pas capable de distinguer l'homme de la machine, alors c'est que l'IA est "parfaite". D'ailleurs il y a chaque année un concours, le prix Loebner, qui récompense les meilleurs chatter bot.

La vanité humaine est sans mesure. Tout ce nous sommes sur le point de découvrir, nous le mesurons à nous-mêmes et rien qu'à nous-mêmes. Cet anthropocentrisme est sans doute la marque la plus évidente de l'inintelligence humaine. Parce que nous toucherions au Big Bang, nous touchons à la création du monde, alors que le Big Bang est sans doute, d'un point de vue philosophique au moins, un événement infime et d'une banalité déconcertante dans des dimensions qui ne sont les nôtres.

Idem pour l'intelligence artificielle. Concept creux s'il en fut et tautologique de surcroit. L'homme est dans l'incapacité de se penser lui-même, l'équation sur laquelle il butera à l'infini est la conscience de soi, définitivement insoluble. Mais demeure cette prétention démiurgique d'être son propre dieu.

Ce que nous devons craindre n'est pas tant l'intelligence artificielle, que nous n'effleurons même pas, mais la création de machines infiniment bêtes et puissantes. Parce que nous aurons conféré un statut d'intelligence à des machines qui en sont totalement dépourvues, nous leur attribuerons des pouvoirs : machines à juger, machines à prouver, machines à décider. Il n'est que de constater où nous ont menés de longues et savantes formules de mathématiques financières pour comprendre qu'il n'existe pas de principe supérieur à la conscience de soi et que celle-ci seule est en mesure de gérer les perceptions, les apprentissages, les émotions et les jugements avec intelligence.

Le philosophe ne peut que sourire à cette maladie humaine.

J'ai eu à tester un jour une machine causeuse : en 30 secondes, elle se plante dans ces réponses dans la mesure où l'homme est fou ou se comporte comme tel. Il suffit de glisser dans le surréalisme illogique pour que tout se grippe.

Je crois davantage à des théories encore naissantes sur la création d'organismes intelligents à partir de bactéries stimulées électriquement et mises en réseau. C'est-à-dire la mise en usage artificiel de l'inconnaissable vivant.

Jean-Dominique a écrit:La vanité humaine est sans mesure.

Je n'y vois pas la une forme de vanité mais plus une curiosité.

Jean-Dominique a écrit:Idem pour l'intelligence artificielle. Concept creux s'il en fut et tautologique de surcroit. L'homme est dans l'incapacité de se penser lui-même, l'équation sur laquelle il butera à l'infini est la conscience de soi, définitivement insoluble. Mais demeure cette prétention démiurgique d'être son propre dieu.

Tenter de comprendre le fonctionnement de la conscience, du cerveau, même si cela s'avère vain, vaut mieux que de ne pas chercher et rester assis à se dire qu'on ne pourra jamais trouver une réponse.

Jean-Dominique a écrit:Ce que nous devons craindre n'est pas tant l'intelligence artificielle, que nous n'effleurons même pas, mais la création de machines infiniment bêtes et puissantes. Parce que nous aurons conféré un statut d'intelligence à des machines qui en sont totalement dépourvues, nous leur attribuerons des pouvoirs : machines à juger, machines à prouver, machines à décider. Il n'est que de constater où nous ont menés de longues et savantes formules de mathématiques financières pour comprendre qu'il n'existe pas de principe supérieur à la conscience de soi et que celle-ci seule est en mesure de gérer les perceptions, les apprentissages, les émotions et les jugements avec intelligence.

Jusqu'à présent il n'a jamais été question d'utiliser l'Intelligence Artificielle pour "juger", "prouver" ou "décider", et ce ne sera probablement jamais le cas. Ce genre de choses n'existe que dans la littérature, ou au cinéma. Tout au plus, les décisions se feront avec les résultats d'analyses menées par un ordinateur, et c'est d'ailleurs déjà le cas (analyses statistiques, probabilités, avec de "savantes formules mathématiques financières").

Et si aujourd'hui seule la "conscience de soi" peut "gérer les perceptions, les apprentissages, les émotions et les jugements avec intelligence" (d'ailleurs je veux bien un éclaircissement sur ce que vous appelez gérer avec intelligence), cela ne sera pas forcément toujours le cas. Qui sait de quoi demain sera fait? Jusqu'à il y a plusieurs décennies, on n'imaginait pas qu'il était possible d'aller dans l'espace, ou marcher sur la lune.

Jean-Dominique a écrit:J'ai eu à tester un jour une machine causeuse : en 30 secondes, elle se plante dans ces réponses dans la mesure où l'homme est fou ou se comporte comme tel. Il suffit de glisser dans le surréalisme illogique pour que tout se grippe.

Sur ce point je suis tout a fait d'accord avec vous, dès que l'on gratte sous la surface, la plupart des chatter bot montrent leurs limites. Mais les agents conversationnels ne sont qu'une partie de tout ce qu'englobe l'intelligence artificielle, parmi laquelle on va trouver la reconnaissance de forme qui permet aux webcam de suivre un visage, ou a certains appareils photos de se déclencher lorsque tout le monde a le sourire.

Jean-Dominique a écrit:Je crois davantage à des théories encore naissantes sur la création d'organismes intelligents à partir de bactéries stimulées électriquement et mises en réseau. C'est-à-dire la mise en usage artificiel de l'inconnaissable vivant.

N'est-ce pas là aussi une façon de jouer à Dieu, beaucoup plus évidente que la recherche informatique? Jouer avec des êtres vivants pour créer une créature potentiellement intelligente?

Malentendu Xaebhal.

Je ne dénigre absolument pas la recherche sur le cerveau, sur les mécanismes cognitifs ni sur l'exploitation qu'on peut en faire industriellement : je ne suis pas frileux sur ce point. C'est la dénomination retenue qui me parait grotesque et révélatrice d'une vanité humaine : intelligence artificielle.

La question de la conscience de soi est insoluble, cela n'a pas de rapport avec les progrès scientifiques et techniques : c'est la limite infranchissable de l'esprit humain. De la même façon que nous ne sommes pas en mesure d'aller en amont du Big Bang, car cela reviendrait à objectiver notre univers, notre espace et notre temps, donc à se situer au delà (Dieu), de même sommes-nous incapables de nous objectiver nous-mêmes et de connaître les ressorts de notre conscience. Entendons-nous bien sur les termes, la conscience de soi n'est pas le catalogue de nos mécanismes intellectuels, c'est le fait que vous soyez conscient dans votre corps et que je sois conscient dans mon corps. Vous ne pouvez pas vous abstraire de cet état, vous ne pouvez donc pas objectiver. Aucune des sciences cognitives ne porte d'ailleurs sur la conscience de soi, c'est tout bonnement impossible.

La crainte que j'exprime est donc dans la vanité humaine qui, croyant progresser dans ce qui serait une "intelligence" artificielle lui confèrerait un pouvoir en rapport avec cette prétendue intelligence. Pas question, dites-vous, de donner de tels pouvoirs à une machine. C'est déjà fait en partie, sur des aspects certes mineurs de la vie quotidienne. Votre boîte aux lettres est remplie de courrier que vous envoie des ordinateurs sans qu'un être humain en ait même connaissance. Lorsque vous vous faites flasher par un radar, vous recevez un papier à en-tête d'un tribunal de police (qui ne s'est jamais réuni), sur réquisitions du procureur (qui n'a jamais requis), vous condamnant (sans qu'un juge humain n'ait prononcé de jugement). Les progrès techniques amplifieront cette tendance à déléguer à la machine des décisions.

"gérer avec intelligence", c'est user du discernement, de l'expérience, de l'empathie pour porter un jugement ou prendre une décision. Ce qui revient à joindre à des critères objectifs (dossier bien rempli etc.) des critères subjectifs d'appréciation. (Intelligence inter lego en latin, parler ensemble, se comprendre).

Parlons plutôt d'automatismes complexes. J'ai assisté dernièrement au lancement d'une caméra incroyable capable de reconnaitre des formes, des couleurs et de piloter des robots : avec un tas de biscuits disparates, elle est capable de faire prendre au robot les biscuits similaires où qu'ils se trouvent pour les ranger ensemble à une vitesse incroyable. Il ne s'agit pas d'intelligence.

Oui l'utilisation de systèmes à partir de bactéries est une forme démiurgique de recréation d'un outil d'intelligence. Je ne dis pas que je m'enthousiasme là dessus, mais c'est à partir d'un tel modèle que l'on peut parler d'intelligence artificielle.

Au temps pour moi, je n'avais pas compris que votre message parlais du terme "intelligence artificielle" en lui même et non du fond du problème. Cela dit le mot reste "intelligence" et non "conscience" artificielle (ce qui est cela dit un problème sur lequel certains chercheurs se penche il me semble).

Du coup peut-il exister un intelligence sans conscience de soi ou les deux sont indissociables? Quelle définition donner à l'intelligence?

Ne dit-on pas que la conscience est irreproductible ?
L'intellegence, passe encore, mais la conscience de soi requiert un cerveau vivant, non?

L'intelligence signifie la compréhension. Une personne est dite intelligente lorsqu'elle comprend. La compréhension, c'est bien différent du savoir ou de l'apprentissage. L'ordinateur peut éventuellement apprendre, à partir des programmes qui lui sont injectés. Il peut recevoir une information nouvelle pour l'intégrer à ses processus de calculs futurs, soit. Mais est-ce qu'il comprend ? Non, car la compréhension suppose la conscience de soi, c'est-à-dire savoir que l'on existe, être conscient que l'on a reçu une information intelligible.

Mes cours de philos sont très loin, ou peut être suis-je une machine, mais j'ai du mal a comprendre le lien entre la comprehension et la conscience de soi.
Un peu de lumière pour m'éclairer?