J'avais mentionné il y a peu la rationalité bayésienne à laquelle j'ai été introduit via une compilation de posts de blog rédigés par Eliezer Yudkowski qui fait tout de même 1750 pages sans compter la bibliographie. Je n'en suis qu'au deux tiers, mais j'ai déjà pu en retirer de substantifiques bienfaits philosophiques.
Plutôt que de partir de la théorie volumineuse et expliquer ce que j'en ai conclu, je vais faire le chemin inverse, exposer mes conclusions et développer les raisons en fonction de la demande populaire.
Une échelle d'intelligence faussée
Sur une échelle graduée de l'intelligence, j'avais coutume de placer les génies humains tout en haut, et les animaux tout en bas. C'est évidemment un cas d'école d'anthropomorphisme, mais je n'avais pas eu l'occasion de remettre en question cette échelle interne jusqu'à ce que je lise les travaux d'Eliezer Yudkowski sur l'Intelligence Artificielle. Il semblerait au vu des différents travaux de psychologie cognitive que les humains soient en fait dans la partie basse de l'échelle, vu le nombre de raccourcis que notre cerveau prend pour éviter d'avoir à faire effectivement preuve d'intelligence. Mais cela s'explique par le fait que notre cerveau a une "fréquence d'horloge" finalement plutôt basse. Elle est naturellement compensée par l'exécution de tâches complexes de manière automatique comme les associations d'idées qui permettent de fournir des réponses rapides mais pas toujours correctes. En admettant des ressources illimitées, il est possible de concevoir une intelligence (artificielle ou non) qui serait bien plus performantes que ce dont les humains sont actuellement capables.
La lecture de ces mêmes travaux m'a dans le même temps gâché presque tous les films à propos d'intelligence artificielle que j'ai eu l'occasion de voir avant ou après la lecture. Cet acharnement hollywoodien à vouloir représenter l'intérêt de l'intelligence artificielle par la seule manifestation d'émotions me semble aujourd'hui tellement étriquée. Ex Machina est d'ailleurs l'exemple le plus récent de cette ligne scénaristique de pensée.
De l'existence de Dieu
Ma relation avec la religion a connu plusieurs phases. Mes parents me lisaient des histoires de l'Ancien Testament au lieu de Oui-Oui, du coup j'ai acquis très tôt une culture chrétienne des personnages fondateurs comme Noé, Abraham ou encore Zachée. Cela m'a valu d'ailleurs de m'ennuyer ferme au catéchisme car je connaissais déjà tout ce qu'on nous apprenait. J'ai fait ma première communion mais je n'ai pas fait ma confirmation. Entre temps, j'ai dû me dire que tout ces efforts de présence et de rituels n'en valait pas le cierge. Entre mes parents croyants mais pas prosélytes et des copains athées, j'ai choisi l'agnosticisme peut-être pour ne pas avoir à trancher une question épineuse. Et puis, c'était très rationnel et scientifique comme position : en l'absence de preuve concrète, on ne peut pas décider. Jusqu'à ce que je découvre la rationalité bayésienne qui assigne des malus de probabilités à une proposition au fur et à mesure que l'on lui ajoute des détails, surtout s'il n'existe aucune preuve expérimentale de la proposition initiale.
La probabilité de l'existence d'une entité intelligente supérieure en elle-même n'est pas si basse que l'on puisse la balayer du revers de la main. De même, la probabilité qu'un personnage cité dans un texte sacré ait réellement existé n'est pas négligeable non plus. Mais dès lors que l'on prête à cette entité tous les comportements et lignes de dialogue rapportés dans les textes considérés comme sacrés, cela ajoute une telle ribambelle de malus de probabilité qu'il n'est plus possible de se cacher derrière le 50/50 de l'agnosticisme. En vertu des simples lois de probabilité, personne ne devrait s'attendre à ce que Dieu (ou Allah, ou Yahve, ou Thor) existe. Est-ce que c'est une preuve expérimentale au sens scientifique de l'inexistence de Dieu ? Non. Est-ce que c'est suffisant pour croire qu'il n'existe pas sans craindre d'être détrompé jusqu'à sa mort ? Absolument.
La nuit, tous les chats sont gris
J'ai appris à respecter l'opinion de chacun et à essayer de me mettre à la place des autres assez tôt dans ma vie. Si j'ai bien tiré quelques cheveux de filles à l'école primaire, je n'ai jamais pris part à l'injustice populaire envers les gros, les noirs, les gens du voyage, etc... qui avait cours. J'ai d'ailleurs personnellement reçu ma part de quolibets, entre "intello" et "serpent à lunette", et si cela me faisait rager, je n'ai jamais été assez stupide pour entreprendre une quelconque vengeance.
C'est donc tout naturellement qu'arrivé à l'âge des débats philosophiques, j'ai adopté la croyance que presque toutes les opinions se valent, que chacun a le droit à son opinion et que le monde, loin d'être noir et blanc, est en fait une vaste nuance de gris. Jusqu'à ce que je découvre la rationalité bayésienne qui assigne de façon précise une probabilité à chaque proposition. Si on considère une opinion comme une tentative de représentation de la réalité unique que nous partageons tous, alors non, toutes les opinions ne se valent pas, surtout les opinions contraires. Même si elles sont toutes les deux éloignées de la réalité, il y en aura forcément une qui sera plus juste (ou moins fausse) que l'autre. Et si les opinions ne sont pas censées s'approcher de la réalité, il n'y a dès lors aucun intérêt à les débattre.
Les limites de la Science
Avec le dédain précoce de la politique m'est venu une vénération de la Science. Vu l'accélération des progrès scientifiques et techniques, il me paraissait probable que la Science nous sauverait tous un jour ou l'autre. La méthode scientifique classique qui forme le socle de la Science me paraissait à toute épreuve : toute nouvelle théorie se doit d'être confirmée expérimentalement. Le summum fut l'invention de la Relativité Générale par Einstein : il a formé sa théorie en se basant sur peu ou pas de données expérimentales, en partant du simple principe que la physique newtonienne, qui ne faisait absolument pas débat alors, ne suffisait pas pour modéliser le monde. Il s'est enfermé quelques années, a conçu sa théorie en se basant sur la manière avec laquelle il créerait lui-même l'univers, est ressorti plus tard avec une théorie non seulement juste, mais immédiatement confirmé par des résultats expérimentaux frappant.
Jusqu'à l'invention de la mécanique quantique pour expliquer et prédire le comportements des particules subatomiques. Et là, c'est le drame. Depuis près de 100 ans, des physiciens même parmi les plus célèbres ont commis l'erreur logique de projection mentale. Au lieu d'admettre l'évidence que la réalité est tout ce qu'il y a de plus normal et que la confusion est subjective, l'incapacité des scientifiques à expliquer des résultats expérimentaux a servi à déclarer que les particules subatomiques sont intrinsèquement bizarres, ce qui a donné lieu à la naissance de l'interprétation de Copenhague en 1930. J'avoue mon ignorance des tenants et aboutissants physiques de la mécanique quantique en général et de l'interprétation de Copenhague en particulier, mais d'autres interprétations ont été fournies depuis, et cette interprétation a été largement disséquée et critiquée dans l'intervalle. Pourtant, elle continue d'être l'une des interprétations les plus populaires. On touche là aux limites de la Science.
Le problème des interprétations de la mécanique quantique est qu'elles ne sont pas facilement séparables par l'expérimentation, pierre angulaire de la méthode scientifique. Cette dernière, popularisée en occident par Roger Bacon au XIIIè siècle, tranchait radicalement avec le climat philosophique de l'époque, encore basé sur les enseignements d'Aristote, qui considérait que l'on pouvait tout déduire du monde simplement en fournissant un travail intellectuel suffisant. La méthode scientifique est donc particulièrement puissante pour séparer les hypothèses scientifiques concurrentes quand il est possible de concevoir des procédés expérimentaux ayant la capacité d'invalider chaque hypothèse. Une fois les résultats expérimentaux obtenus, l'une des hypothèses concurrentes sort vainqueur. Il y a donc une discrimination des théories scientifiques à posteriori de l'expérimentation. A l'inverse, rien n'est prévu pour discriminer les théories a priori de l'expérimentation, ce qui rend les choses compliquées quand l'expérimentation est difficile à mettre en oeuvre.
Des disciplines scientifiques plus récentes comme la théorie des probabilités bayésiennes ou la psychologie cognitive pourraient aider à discriminer les théories scientifiques à priori de l'expérimentation, ce qui accélérerait le progrès scientifique, mais elles ne sont pas actuellement intégrées à l'enseignement de la méthode scientifique, ce qui rend leur acceptation basée sur le volontariat des scientifiques en herbe de vouloir être plus strict que la méthode scientifique ne l'est déjà, du coup elles ne sont pas très populaires. C'est sans doute entre autres cette lenteur de la science qui a inspiré cette citation:
Max Planck a écrit :
Une théorie nouvelle ne triomphe jamais. Ce sont ses adversaires qui finissent par mourir.
Conclusion
Cet article ne mentionne que mes points de vue qui ont changé à la lecture de Rationality: From AI to Zombie, je n'ai volontairement pas mentionné mes points de vue qui ont été confirmés comme la politique comme mort de la raison, l'existence des biais cognitifs qui réduisent notre efficacité à nous approcher de la réalité, l'absurdité de faire référence à Skynet dans n'importe quelle discussion sur l'Intelligence Artificielle ou encore le rejet de l'hypothèse de l'intelligent design. D'autre part, je me suis débarrassé d'un tas de doutes que j'avais sur plein de choses, mais que je ne voulais pas forcément creuser. Je trouvais qu'avoir des doutes sur tout était forcément mieux que d'avoir un avis tranché parce que cela empêchait d'avoir tort. Depuis ma lecture de la rationalité bayésienne, je suis revenu sur cet avis, et j'assigne maintenant des probabilités bien plus importantes à certaines hypothèses qu'à d'autres, quitte à les mettre à jour en présence de nouvelles preuves. Et pour les sujets pour lesquels je ne veux pas faire d'efforts de recherche, j'ai simplement ignoré mes doutes, ce qui a clarifié une partie de ma vision du monde. Je n'en sais pas plus qu'avant, mais maintenant je sais sur quoi je veux en savoir plus et je ne suis plus fier de douter.
Bannière extraite d'une photographie prise par Matt Buck d'un néon représentant l'équation du théorème de Bayes dans les locaux de la société Autonomy à Cambridge au Royaume-Uni.
Je partage ton dépit face à l'IA au cinéma. Le cinéma qui voudrait faire émerger l'émotion à partir d'un assemblage de composants au lieu de la faire simplement jaillir de la pellicule. Un bien misérable substitut.
Stephen Jay Gould avait déjà remis l'espèce humaine à sa juste place en comparant les humains avec les fourmis et les bactéries. Numériquement parlant, lesquels ont davantage colonisé la planète, lesquels ont le mieux multiplié leurs gènes ?
Comme tous les transhumanistes, Eliezer Yudkowski a besoin d'un accélérateur de progrès pour mieux nous convaincre que nous approchons de la singularité. C'est ce qui fait de lui un futurologue. Moi je crois encore à l'expérience. Et je n'aime pas les prétentions délirantes. Qu'Eliezer Yudkowski nous montre d'abord un artefact capable d'imiter tous les misérables "raccourcis" du cerveau humain. C'est à cette condition seulement que j'accorderai quelque crédit à sa démarche pour reproduire (ou dépasser) des fonctions intellectuelles supérieures.
En vérité le transhumanisme est tout-à-fait comparable à une secte apocalyptique en ceci que plus on se rapproche de la singularité plus elle s'éloigne de nous.
J'ajouterai enfin qu'un philosophe qui fait de la logique ça force mon admiration, tandis qu'un scientifique qui fait de la philosophie ça me paraît souvent fumeux.
Article très intéressant
Tu dis peut-être cela parce que les moments où l'on commet des erreurs sont visibles, alors que tous les autres moments où l'on n'en commet pas sont anodins. Prendre un verre sur une table et le tendre à quelqu'un, cela nécessite une puissance de calcul : tu as pu prendre le verre dans ta main sans te tromper d'objet, tu ne l'as pas renversé, il ne t'a pas échappé des mains, tu as dosé ta force pour économiser de l'énergie, et tu l'as tendu à la bonne personne. Tu as reconnu la personne à qui tu devais tendre le verre, tu l'as comprise lorsqu'elle t'a demandé le verre, et cette personne tu l'associes à tout un tas de souvenirs, d'émotions, tu sais comment te comporter, etc.
À chaque instant un nombre impressionnant de calculs sont faits. Je ne sais pas sur quoi tu bases le fait que la "fréquence d'horloge" est plus plutôt basse chez l'humain. À notre connaissance, il n'existe pas de créature ayant un cerveau plus développé que l'humain (note que je ne considère pas l'humain comme étant une créature très très intelligente... Mais d'après nos connaissances, il fait partie du haut de l'échelle de ce que l'on a pu voir jusque là ; je parle là en nombre de connexions entre neurones). La plus puissante machine créée aujourd'hui ne dépasse pas la puissance de calcul d'une mouche (c'est en tout cas ce que j'ai entendu jusque là).
Sans doute. Mais nous ne possédons pas de ressources illimitées, et le monde lui-même ne peut en fournir. Il manque également de la technologie et des connaissances.
J'ai pensé longtemps la même chose que toi. Et pourtant, je pense que les émotions font partie de l'intelligence, qu'elles la décuplent. Une émotion, c'est un raccourci pour la mémoire, c'est une simplification pour pouvoir occuper ses ressources cérébrales sur autre chose. Je n'ai pas creusé le sujet mais j'en suis intimement convaincu. D'ailleurs, on voit dans la nature que plus un cerveau est développé, plus il existe de palettes et nuances d'émotions, et ce chez tous les animaux.
Pour Skynet en revanche c'est différent : il ne me semble pas avoir entendu que Skynet comptait des émotions. On sait juste qu'un jour il a décidé de faire de l'humain son ennemi, mais l'on ne sait pas spécialement pourquoi en fait. Et d'une certaine façon, il représente le danger de la création humaine qui peut se retourner contre lui.
Concernant Dieu, plutôt que de se demander s'il existe ou non, pour moi la véritable question serait : existe-t-il une probabilité pour que Dieu, ou un dieu, puisse avoir une influence sur nos vies ? Pour moi cela ne découle pas de savoir si Dieu existe ou pas, car c'est subsidiaire ; qu'il existe ou non, la probabilité qu'il intervienne est quasi-nulle.
Quant à la Science, elle a une limite : elle est dirigée par des humains. Et ça change tout
SpiceGuid a écrit :
Il semble au contraire prendre la démarche inverse, montrer qu'un humain peut arriver à des fonctions intellectuelles supérieures par la logique mathématique. Il s'est d'ailleurs livré par deux fois à une expérimentations lors de laquelle il a joué le rôle d'une intelligence artificielle contenue dans une boîte hermétique qui n'a accès qu'à un écran et un clavier qui devait convaincre un humain de la sortir de sa boîte pour la laisser accéder à d'autres fonctions physiques. Les deux personnes choisies semblaient fermement convaincues qu'aucune IA ne pourrait les convaincre de leur faire ouvrir la boîte pour donner sa liberté à l'IA. Les deux discussions n'ont pas été publiées, mais les deux personnes ont admis qu'elles avaient libéré l'IA incarnée par Eliezer Yudkowski.
Je ne suis pas d'accord avec cette idée qu'il faudrait que l'IA passe forcément par la reproduction d'un comportement humain et passe avec succès un test de Turing. Pour moi, c'est viser trop bas par rapport au potentiel d'une intelligence artificielle capable de s'auto-optimiser. Cela ressemble à un délit d'anthropomorphisme. Quelle forme prendra la première vraie intelligence artificielle ? Je ne peux pas le savoir, puisque je suis moi-même confiné dans ma perception de l'intelligence car je ne connais que la mienne et celle des humains en général. Il y a donc de grandes probabilités que la première vraie intelligence artificielle me paraisse tout sauf humaine. Est-ce que la première vraie intelligence artificielle sera remisée parce qu'elle ne passera pas un test de Turing avec succès ? Ce serait un peu dommage, non ?
Après, tout l'enjeu des travaux actuels d'Eliezer Yudkowski à travers la structure dont il fait partie, c'est de partir du postulat qu'on ne sait pas quelle forme prendra la première intelligence artificielle, du coup il faudrait formaliser le fait qu'elle soit utile à l'humain. C'est plus difficile qu'il n'y parait, et Asimov avait touché au sujet avec ses trois (voire quatre) lois de la robotique. 4 lois fondamentales immuables, c'est déjà une énorme contrainte pour une intelligence artificielle qui est censée pouvoir s'optimiser elle-même.
Dragoris a écrit :
Parce que l'on a mesuré que les neurones s'activaient entre 1 et 1000 fois (1000 Hz ou 1kHz) par secondes. Après, l'architecture du cerveau diffère d'un ordinateur par le fait qu'il n'est pas centralisé comme le sont les microprocesseurs. On est donc capable d'assurer plusieurs tâches complexes (mais routinières) à la fois, mais si tu essayes de multiplier deux nombres aléatoires à trois chiffres de tête, tu iras forcément moins vite qu'une simple calculatrice. Et pendant tout le temps que tu mettras à faire le calcul, tu seras moins sensible à ton environnement, ce qui signifie que ton cerveau diminue son activité dans les zones sensorielles pendant que tu tentes de te rappeler de la retenue des centaines. Le mot-clé ici est "routinier". Tu peux prendre un verre et le porter à ta bouche sans y penser parce que tu l'as déjà fait des milliers de fois. Mais la première fois que tu as eu la volonté de porter un objet à ta bouche, je te garantis qu'il a fallu que tu t'y reprennes à plusieurs fois avant de 1°) Attraper l'objet et 2°) Viser correctement ta bouche. Si on était vraiment intelligent, on peut penser qu'on y arriverait du premier coup.
Alors oui, tu avais moins d'un an quand tu as essayé ça. Ton cerveau n'était pas complètement développé, c'est vrai. Mais ce n'est pas vraiment un argument, parce qu'on constate que les adultes ont plus de mal à apprendre une nouvelle discipline que les enfants. On peut sans doute intuitivement obtenir de meilleurs résultats initiaux parce que la discipline ressemblerait à une autre dans laquelle on est performant, mais on est de moins en moins capable d'apprentissage au fur et à mesure de notre vie. Ce fait montre que nous ne sommes pas aussi intelligents que nous pourrions théoriquement l'être.
Suite du commentaire
Je suis tout à fait d'accord avec toi, mais pour moi c'est la différence entre dire qu'on ne peut pas aller plus vite que 30km/h ou dire qu'on peut aller plus vite mais que l'on n'en est techniquement pas capable pour le moment (ou jamais). C'est en quelque sorte une histoire d'humilité de savoir exactement où on est sur l'échelle de l'intelligence, même si on sait qu'on ne pourra jamais techniquement atteindre le haut de l'échelle.
Il me semble qu'il est expliqué dans les films que Skynet a été conçu pour protéger/défendre l'humanité, et il a identifié que la menace principale des humains était les autres humains. Retirer les humains de l'équation lui permet donc d'atteindre son but initial. C'est déjà plutôt tiré par les cheveux niveau analyse logique, et le reste des films n'est pas mieux, entre voyage dans le temps et robots humanoïdes...
Plus généralement, la théorie de l'intelligence artificielle veut qu'elle puisse concevoir elle-même des émotions si cela peut servir son but final. Je dis bien concevoir, pas ressentir, qui est plutôt du domaine du sensoriel.
Si un agent intelligent supérieur existe, nous obéissons aux mêmes lois fondamentales qui régissent la réalité que lui, même si nous ne les connaissons pas encore (y a-t-il un niveau plus petit que le niveau quantique ?). Il n'y aurait donc aucune raison de le vénérer de la même manière que nous ne vénérons plus le Soleil depuis que l'on a découvert que nous faisions parti d'un même tout (en l'occurence, le système solaire). Qu'il intervienne ou non n'est dès lors pas forcément une question pertinente, parce que cela ferait de toute façon parti de la réalité.
J'ai adopté la distinction entre la Science et le processus social scientifique décrite par Eliezer Yudkowski. Tout la politique autour de l'obtention (et le maintien) des chaires universitaires, l'obtention des subventions et la publication d'article scientifique fait partie du processus social scientifique qui ralentit de toute façon le progrès scientifique quelles que soient les bases de la Science, qui est la conception de modèles s'approchant de la réalité.
Quelle définition donnes tu à l'intelligence ? Je viens de le googler et en philosophie la définition dit
. J'ai donc du mal à faire le lien entre notre "fréquence de calcul" et l'intelligence ! D'ailleurs étant en école d'ingé électronique j'avais aussi pensé à ce trait de l'être humain, quelle cadence pour notre cerveau, et au final sans réponse je m'étais demandé si on pouvait comparer avec un µpro car je ne sais pas si les neurones fonctionnent de manière binaire ou autres ...
En parlant de ça il me semble avoir lu un article sur les qubit, qui sont des bits quantiques et qui ont donc plus de valeurs possibles que 0 ou 1 : donc vitesse de calcul augmentée (on gère moins de bit mais plus de valeurs ...), et il me semble que c'est une étape nécessaire pour arriver à une IA digne de ce nom !
Et sinon j'ai aucune connaissance en la matière mais on peut vraiment approximer le fonctionnement du cerveau à du binaire pur ?
C'est exactement ma définition également. Ce qui veut dire qu'il est possible d'évaluer la rapidité et surtout la précision avec laquelle nous adoptons des pensées proches de la réalité et des actes qui ont la meilleure issue par rapport à nos buts. Plus nous arrivons rapidement à un modèle proche de la réalité, et plus on est intelligent. Plus nos actes nous rapprochent de nos buts dans un laps de temps le plus court possible, et plus on est intelligent.
Pas pour le moment que je sache même si la psychologie cognitive fait des progrès, mais par contre il est possible de formaliser l'intelligence par la théorie décisionnelle par exemple. C'est une bonne nouvelle, cela veut dire qu'une intelligence artificielle parviendra à faire des bons choix avant de savoir faire les choix qu'un humain ferait
Ertaï a écrit :
Désolé, pour moi c'est une définition de l'opportunisme.
Ça c'est une définition de la perception.
Pour moi l'intelligence se distingue :
@Ertaï: on ne peut pas ignorer que tout ce que tu as lu ou compris de Eliezer Yudkowski est forcément entaché de transhumanisme. Ou du moins les autres peuvent l'ignorer mais pas moi.
Et l'opportunisme ne pourrait pas être une forme d'intelligence ?
Oui cela transpire de transhumanisme, est-ce un mal pour autant ? Qu'est-ce qui te révulse dans le transhumanisme ?
Dans un jeu l'opportunisme et l'intelligence se confondent.
Mais la vie n'est pas le jeu puisque le jeu n'est pas la vie.
En fait, dans TRON-Legacy, le transhumaniste est le gentil Flynn.
Et CLU serait le méchant qui veut certifier tous les programmes en Coq pour les obliger à respecter leurs spécifications.
Sur un plan moral/religieux le transhumanisme est blasphème et pêché d'orgueil (créer la vie, se prendre pour Dieu...). Sur un plan éthique le transhumanisme professe que l'humanité est déjà obsolète, qu'elle n'existe plus que pour retarder le moment inévitable où elle ne sera plus qu'un reliquat dispensable. Un passage obligé de l'évolution vers une forme supérieure de vie. Et moi je crois au contraire que le monde a besoin de plus d'humanité, que l'humanité a plus de valeur que l'intelligence. Soutenir le contraire ça me paraît inquiétant. Si en plus on réduit l'intelligence à l'opportunisme alors on flirte avec le danger.
La raison pour laquelle je ne tire pas plus fort sur le signal d'alarme c'est que je suis convaincu d'une chose : l'orgueil démesuré du transhumanisme en fait une chimère irréalisable.
Les transhumanistes ne sont pas le mal, ils sont juste des charlatans.
Je ne sais pas trop quoi penser de l'article parce que ne connaissant globalement rien à la rationalité bayesienne dont tu ne parle pas, il ne reste que ce que tu en as tiré.
Apparemment tu en as tiré quelques certitudes qui t'ont débarrassé de certains doutes. Je ne vois pas très bien le progrès dans ça parce que dans mon expérience, tous ceux que j'ai pu définir comme étant des cons étaient tous bercés de toutes sortes de certitudes, et devenaient cons selon ma définition par leur incapacité à en sortir même quand il s'avère qu'elles ne sont pas meilleurs que d'autres.
Là on dirait qu'en te basant sur cette manière statistique de penser, tu trouve une manière de juger qui te semble meilleure qu'une autre, dans l'absolu (dis-moi si je me trompe). Or ça, c'est la première pierre de tout intégrisme (quand on considère que sa manière de juger est meilleure dans l'absolu, quelles qu'en soient les raisons), non ?
Sinon on peut arriver à tes conclusions sans connaître bayes, je ne sais pas quoi en penser non plus.
Mais là on touche à quelque chose de très différent. La machine a été créée dans un but spécifique, calculer les chiffres entre eux. Les humains ont été créés pour vivre dans un certain environnement. Chacun est adapté à son but, l'un calculer des chiffres, l'autre effectuer des tâches complexes. Toute notre puissance de calcul est dédié à la survie et à la reproduction, entre autres choses, je ne pense pas que l'ordinateur puisse être aussi bonne que nous sur ce sujet. Nous avons nos traditionnels cinq sens, l'équilibre à gérer, le traitement et la priorisation quasi-instantané des informations...
Mais quel est l'intérêt de créer une échelle où l'on dit que l'on est petit, alors que l'on ne sait même pas s'il existe plus haut que nous. On peut théoriser mais est-ce que ça débouche vraiment sur quelque chose ?
Je ne crois pas qu'il faille cela pour devenir humble, rien qu'en terme spatial dans l'univers déjà nous sommes quasiment inexistants.
Je te renvoie aux travaux d'Antonio Damasio et son livre "L'Erreur de Descartes" (que je n'ai pas lu). Il y a une page web qui explique rapidement comment les émotions sont nécessaires chez l'humain à la prise de décision.
En fait, et si j'ai bien compris, les émotions permettent de prendre très rapidement des décisions qui vont dans notre intérêt, ainsi que de prioriser les informations à traiter.
Concernant Skynet, de toute façon cela a été ajouté ensuite (qui a dit "par les scénaristes sans imagination d'aujourd'hui" ?), les deux premiers au moins ne font aucune mention des motivations de l'intelligence artificielle.
Il me semblait au contraire que le pouvoir de Dieu (et ce qui fait qu'il est un dieu) était de pouvoir modeler l'univers selon sa volonté, sans se soucier des lois qui régissent le monde. Sans quoi, il ne serait pas un dieu.
Vraiment ? Même sans atteindre leur but ultime, les transhumanistes sont capable d'atteindre plusieurs de leurs objectifs intermédiaires, et notamment celui de remplacer le corps biologique par un corps métallique. Qui sait quel serait les effets sur la mentalité des hommes alors ? Quid des lentilles connectées ? Je pense que l'on y vient quoiqu'il arrive.
Dieu est un dieu créateur.
Son pouvoir principal c'est de tout créer à partir de rien.
Dragoris a écrit :
Ça s'appelle un dogme. Tu es censé l'accepter parce que tu ne peux pas prouver que c'est faux.
C'est vrai qu'on nous présente avec enthousiasme des "miraculés" bénéficiaires de la robotique. En oubliant que se sont d'abord des victimes de guerre (préventive!) ou des victimes de la violence routière. À aucun moment on nous rappelle que ces personnes auraient sans aucun doute préféré conserver toute leur habileté naturelle. Il est vrai qu'avec les prothèses connectées et l'internet des objets les transhumanistes ont gagné la bataille de la communication.
À mon avis il faut faire confiance aux américains. Si les transhumanistes dépassent les bornes dans l'hybridation du corps humain tu peux être certain que la contre-attaque protestante sera féroce. Car Dieu nous à fait "à son image".
Dieu n'est pas que créateur. Dans l'Ancien Testament, il est même très destructeur. Et il commande, beaucoup, pour très cher, pour modifier ce qui existe déjà.
Aujourd'hui les prothèses sont moins fonctionnelles aussi que le corps d'origine. Le jour où les jeux paralympiques montreront dans tous les domaines des performances plus grandes que celles des jeux normaux, à ce moment-là on aura vraiment de quoi s'inquiéter
Ha, de ta part, j'attendais le mot mathématique pour cette définition (mais je ne me souviens plus lequel c'est)
@Le Bashar: Je comprends parfaitement ton ressenti à propos des certitudes. Si l'intégrisme est défini uniquement par les certitudes, alors je suis un intégriste mathématique. Si par contre il faut une composante d'immuabilité des certitudes et de prosélytisme, alors je ne suis pas un intégriste. Tu remarqueras que je n'ai pas présenté la rationalité bayésienne comme un bienfait absolu, juste ce que j'en ai retiré pour moi, parce que je ne pense pas que cela puisse être utile à tout le monde. Cette philosophie basées sur les probabilités me parle parce qu'elle résout quelques blocages philosophiques personnels et étends ma perception du monde.
Après, oui, c'est une manière de juger que je considère meilleure pour moi, mais c'est également une manière de juger qui est fondée sur un théorème de mise à jour de probabilité, donc une certitude à un instant T n'en est une que parce que je ne dispose pas d'avantages d'informations. C'est évidemment une discipline risquée parce que je peux toujours décider d'écarter de nouvelles informations pour m'accrocher à mes certitudes précédentes. Mais je sais que je suis plutôt honnête avec moi-même, j'ai eu l'occasion de changer d'avis sur pas mal de sujets en obtenant de nouvelles informations, donc je faisais déjà une mise à jour interne des probabilités avant d'apprendre le théorème de Bayes, que je n'utilise jamais dans sa forme mathématique.
Ertaï a écrit :
Au départ ça me paraissait plus hasardeux parce que P(A) et P(B) sont des probabilités a priori c'est-à-dire fondées sur ton seul jugement. Ce n'est qu'à l'itération suivante qu'apparaît la première probabilité calculée (à partir des valeurs a priori). Néanmoins d'après wikipédia "l'effet de la distribution a priori s'estompe à mesure que les observations sont prises en compte"
Il y a une similitude frappante entre P(A|B) = 1 et B ⇒ A.
Intuitivement cela semble signifier la même chose.
En appliquant le théorème de Bayes j'en déduit que (A ⇔ B) ⇒ (P(A) = P(B)).
La réciproque est (P(A) = P(B)) ⇒ (P(A|B) = P(B|A)).
Pour moi c'est du chinois avec quelques mots français
Ertaï, dans ce cas j'ai l'impression que cette rationalité bayésienne n'a servit qu'à te permettre de justifier le comportement que tu appliquais déjà intuitivement. N'est-ce pas alors un retour à une forme de dogmatisme simple consistant à trouver quelque chose pour asseoir ce qu'on fait (se donner l'impression durable qu'on a raison de le faire)?
Au sujet du transhumanisme perso je ne crois pas une instant à la durabilité des prothèses qu'on pourra inventer (ni en terme de fonctionnement, ni en terme de possibilités de production) ce qui les relègue à l’excentricité de quelques uns. En revanche je trouve le corps humain de toute évidence inachevé et réclamant encore un bon bout de chemin d'évolution.
Je ne comprends pas la signification de "⇒" dans
Pour avoir eu la chance (ou pas) d'avoir des proba en début d'année et donc le théorème de Bayes, ce que je ne comprends pas c'est comment vous le justifiez pour arriver à de nouvelles conclusions. J'ai toujours compris ce théorème comme un moyen d'affiner des résultats, mais pas comme un outil de calcul pur et dur.
D'ailleurs pour en faire un exemple si on voulait calculer la probabilité que Dieu existe je ne vois pas ce qu'on peut poser comme événement A et B, surement A : Dieu existe, mais B ?
Pour les prothèses c'est marrant je veux m'orienter dans la biomécanique l'année prochaine
Dragoris a écrit :
Ta dernière phrase est particulièrement représentative de ce que j'essaye d'expliquer. Oui, en terme spatial nous sommes inexistant. Mais depuis quand es-tu en mesure de le dire ? Pas depuis si longtemps que ça. Certains ont même été brûlés pour l'avoir affirmé, à un moment où il était physiquement dangereux d'avoir des hypothèses à l'encontre des dogmes chrétiens. L'humilité spatiale n'a pas toujours été une évidence, l'humilité à propos de l'intelligence non plus. L'avantage est que cela permet d'envisager des axes de recherche qui n'étaient pas possible avant. Si on est capable de se replacer sur l'échelle de l'intelligence, cela veut dire que nous pouvons accepter nos défauts cognitifs et éventuellement progresser.
Dragoris a écrit :
N'oublie pas que jusque là, le concept de dieu reste une invention humaine, un simple exercice intellectuel. Il faut donc prendre tout ce qui est dit à propos de la nature et des capacités des dieux avec d'extrêmes réserves. C'est comme la phrase "Cette phrase est fausse", elle n'induit de boucle logique que si tu prêtes à la phrase un sens, or à la base c'est une une phrase, un assemblement de mots qui sont eux-mêmes un assemblement de lettres tirées d'un alphabet arbitraire.
Le Bashar a écrit :
Pas vraiment justifier, le théorème de Bayes ne justifie rien en lui-même, et même en utilisant Bayes (et surtout, je dirais), tu peux te tromper si tes a priori sont erronés. Je dirais que le théorème de Bayes a fourni un formalisme fiable à mes intuitions. Par défaut, je ne fais pas confiance à mon cerveau. Juste en me basant sur mes intuitions, je ne pouvais donc pas savoir si la méthode que j'utilisais pour naviguer dans la vie était efficace et si oui pourquoi. Le théorème de Bayes et la philosophie qui peut en découler selon Eliezer Yudkowski m'ont permis de me rendre compte que je n'étais pas complètement à côté de la plaque sur la méthode pour déterminer mes actions, mais ne fournissent aucune justification pour les actions en elles-même.
@xila. le symbole "⇒" signifie "implique". En probabilité, B ⇒ A signifie "quand l'événement B arrive, l'événement A arrive", quelle que soit la probabilité de B.
Ertaï a écrit :
Je ne suis pas d'accord, nul besoin d'avoir attendu Bayes ou l'astronomie pour se rendre compte que l'on est de petites choses. Nous sommes des milliards d'êtres humains, avant cela des centaines de millions, rien qu'en terme de population et du côté aléatoire de la vie et de la mort, nous pouvions comprendre que nous n'étions rien. Et puisque tu cites la religion catholique comme empêchant de se rendre compte de cette donnée en terme spatiale (la Terre était le centre de l'Univers, d'accord, mais on ne savait pas pour autant quelle était la grandeur de l'Univers), en terme spirituel c'était plutôt "Tu es poussière, et à la poussière tu retourneras".
Donc idem pour l'intelligence : intuitivement tout le monde comprend bien que l'Homme ne représente pas le summum et la perfection en matière d'intelligence ; que ça y est, il n'y a plus besoin d'évoluer, l'Homme est arrivé à maturité, ça ne bougera plus. Rien que les surdoués, représentant 2% de la population, sont déjà encore plus intelligents que la moyenne, avec des degrés différents.
Ertaï a écrit :
Là encore je ne suis pas d'accord. Oui, la représentation que l'on se fait d'un dieu est humain, mais c'est un mot avec une définition : tu ne peux pas appeler "dieu" n'importe quel être ni n'importe quelle créature, il faut des spécificités propres aux dieux. Et comme toute définition, elle a une part de subjectivité, donc la notion de dieu ne représente pas la même chose selon les individus, même si ceux-ci appartiennent à la même religion (et même au plus petit sous-groupe de la même religion).
Même le propre d'un dieu, c'est bien d'avoir le pouvoir de contrôler les éléments (ou certains éléments) de l'Univers à sa guise.
Dragoris a écrit :
Encore une fois, ce qui te semble une évidence (et c'est tant mieux pour toi) ne l'était pas pour moi jusqu'à ce que je lise Eliezer Yudkowski. Donc non, ce n'est pas une compréhension intuitive universelle. Note que ce n'est pas lié directement à Bayes, il se trouve juste qu'Eliezer Yudkowski ne parle que de sujets qui ont de près ou de loin un rapport avec l'intelligence artificielle (il l'admet lui-même).
Et quand bien même, entre savoir intuitivement que nous ne sommes pas le haut absolu de l'échelle et envisager qu'on pourrait être vers le bas de l'échelle, il y a un monde. Comparer les surdoués avec la moyenne humaine fait partie des bons indicateurs que ton échelle est bien plus petite que ce qu'il semblerait qu'elle soit en réalité. Et même parmi les surdoués, il se trouve une partie qui n'arrive pas à vivre correctement dans le monde où ils sont nés. L'intelligence ne découle pas directement et uniquement des capacités cognitives.
Dragoris a écrit :
Je voudrais t'arrêter là-dessus tout de suite. Tout d'abord, "dieu" est un mot avec plusieurs définitions qui varient suivant le contexte. Ensuite, les auteurs des dictionnaires ne sont pas des oracles capables de connaître la seule et intangible définition d'un mot. Ils couchent sur papier la définition la plus courante des mots qui peut changer (ou pas) au cours du temps. Argumenter "par définition" n'a donc pas de sens absolu. Comment définirais-tu "dieu" si tu ne pouvais pas utiliser les mots "divinité", "religion" et "surnaturel" ?
Car la vraie nature de la définition, c'est bien celle que nous employons toi et moi. Si nous ne sommes pas d'accord sur cette définition, c'est comme si on parlait de deux sujets différents. La seule solution ? Revenir à un niveau de moindre complexité verbale, où l'on utilise des mots pour lesquels nous avons les mêmes définitions.
Je ne sais pas sur quoi tu te base pour dire ça mais perso j'ai croisé bien plus de gens qui pensent que l'être humain est le summum de la création que l'inverse. Encore aujourd'hui, la plupart des gens que je croise considèrent que l'être humain n'est pas un animal; que nous sommes de nature différente...
Toutefois, est-ce que le fait de découvrir d'autres moyens d'être intelligent les aidera à changer d'avis, j'ai de gros doutes.
Ertaï a écrit :
J'ai pu lire ce que voulait dire exactement le terme de "surdoué" donc je sais de quoi tu parles. Mais je ne parlais d'eux qu'à cause du fait que déjà, ils sont légèrement plus "hauts" sur l'échelle de l'intelligence (si tant est que l'on puisse dire qu'il y a une échelle, étant donné qu'il y a plusieurs types d'intelligence, et que les surdoués en sont une bonne démonstration) ; mais j'avais bien compris que les surdoués ne sont pas, eux, le summum de l'intelligence, mais disons un barreau un peu plus haut.
Après réflexion peut-être que ce n'est pas si intuitif que cela, vous avez raison.
Ertaï a écrit :
C'est dommage que tu te sois arrêté là, parce que si tu avais continué, tu te serais rendu compte que je disais la même chose que toi
Donc oui, "dieu" est un mot dont la définition varie avec les individus. Et j'ai également défini dieu sans tes termes tabous : celui qui a le pouvoir de contrôler les ou des éléments de l'Univers, que l'être humain ne saurait contrôler. Et chaque fois que l'humain sera capable d'avoir un contrôle qu'il n'avait pas avant sur quelque chose, alors sa définition de dieu en sera modifiée.
Quant à revenir à une moindre complexité verbale, je ne sais pas... On peut continuer à parler d'un sujet en essayant de converger vers une compréhension mutuelle, même si à la base nous ne sommes pas forcément d'accord sur la même définition de certains mots. Dans un débat ici, on s'est souvent rendu compte au bout d'un moment que les définitions divergeaient, mais cela n'empêche pas de se comprendre : chacun donne alors sa propre définition, chacun comprend ainsi l'autre dans ce qu'il veut dire, et l'on peut continuer à débattre. Une moindre complexité verbale entraîne certainement une moindre complexité de débat.
Soit, Dragoris, mais je suis encore moins d'accord avec toi après ce que tu viens d'écrire. Si la définition de dieu change effectivement en fonction des capacités technologiques humaines, c'est encore plus absurde que ce que je postulais. Dieu ne serait du coup qu'un avatar de l'ignorance technique humaine que certains vénéreraient... je trouve ça plutôt triste en fait.
Mais il ne me semble pas que ce soit le cas (que la définition de dieu change en fonction du progrès technique humain). Zeus est tombé en désuétude bien avant les expériences de Benjamin Franklin sur la foudre.
Pour revenir à l'objet initial de la discussion, à savoir si Dieu obéit aux mêmes lois fondamentales que nous même si nous ne les avons pas encore découvertes, ce n'est encore une fois pas une certitude au sens scientifique du terme, c'est-à-dire soutenu par une quantité non négligeable de résultats expérimentaux, mais encore une fois une très forte probabilité au vu de toutes les données historiques à chaque fois que l'on a cru qu'un phénomène échappait aux lois que nous croyions alors fondamentales et s'est vu englobé dans la version suivante des lois fondamentales. Il est donc possible, bien que relativement improbable, que dieu existe. Et si dieu existe, il est possible, bien que relativement improbable, qu'il n'obéisse pas aux mêmes lois fondamentales que nous. D'une manière générale personne ne devrait s'attendre à l'existence de dieu, et encore moins qu'il soit dans un plan d'existence différent de nous.
Que nous qui, d'ailleurs ? Est-ce que le concept de dieu a un sens même en-dehors de l'humanité ? Est-ce que le concept de dieu a un sens sur Pluton ? Dans la Voie lactée ? Dans la galaxie d'Andromède ?
Si dieu existe dans l'absolu oui, si c'est juste une construction intellectuelle humaine pour avoir moins peur du noir, non
De l'intelligence
J’ai beaucoup de mal à suivre la discussion sur l’intelligence, en raison de parti-pris qui paraissent, de mon point de vue, absurdes.
D’abord, le lien fait entre intelligence et vitesse de calcul n’a aucun sens pour moi. Les ordinateurs actuels sont capables d’effectuer des calculs bien plus rapidement que n’importe quel humain. Ca leur permet certes de nous vaincre aux échecs. Il n’en reste pas moins que l’ordinateur n’est qu’un outil sans intelligence.
Pour moi, cette histoire d’échelle graduée de l’intelligence est purement et simplement sans aucun sens. Et ce, qu’on nous place en bas ou en haut de l’échelle. Il n’y a de concours d’intelligence en mode “tu l’as vu ma grosse intelligence” que dans les fantasmes d’humains n’ayant rien trouvé de mieux pour interpréter le réel. La hiérarchie c’est social, pas naturel. Du coup, la notion même d’intelligence plus performante qu’une autre... Peuh !
Quant a mettre de côté l’émotionel... Pour moi, vous faites la même erreur que Descartes. (On a les mêmes références avec Dragoris. Il faut que je retrouve ce bouquin !). Le rationnel et l’émotionnel sont les deux facettes d’une même pièce. Une nécessité. Je ne conçois pas l’intelligence sans sensibilité.
Je suis du même avis que Spiceguid sur le transhumanisme. Autant d’un point de vue fictionnel ça me passionne, autant appliqué au réel ça ne me plaît pas. Cela rejoins ma critique de Nietzsche dans mon texte sur l’humilité. Il n’y a pas de surhomme. Il y a l’Homme et rien que lui.
J’ai un côté esprit de contradiction. Lorsqu’on me parle sciences, je réponds philosophie. Lorsqu’on me parle philosophie, je réponds sciences. Tout simplement parce que ces domaines répondent de manière incomplète au monde et tenter de construire son idée du réel (car le réel est inaccessible) sur une seule matière mène droit dans le mur.
De dieu, de la religion et de cette autre religion qu'est la science
Avec Ertaï, nous avons eu une longue discussion sur le fait que chercher à déterminer l'existence de dieu avec des moyens mathématiques a, pour moi, à peu près autant de sens qu'utiliser la magie pour tracer le carré de l’hypoténuse. A méthode d'interprétation du réel (ou plutôt de création de la vérité) différente, moyens différents. User des outils de l'un sur l'autre n'a, de nouveau, aucun sens. On ne fait pas une baguette de pain avec un ciseau à bois.
De moins point de vue donc, la religion est une méthode de création de vérité comme une autre. Dieu n'a pas été créé pour répondre à une peur mais pour répondre à une question. "Pourquoi ?"
Pourtant, je rejoins Dragoris. Même si je redéfinirais les termes. Ce n'est pas les capacités techniques le problème (la question à déjà été posée et répondue, voir le mythe de Prométhée) c'est plutôt la connaissance scientifique. La science est une méthode d'interprétation du réel concurrente à la religion et dont le succès a obligé cette dernière à se redéfinir. Et donc à redéfinir dieu (ou notre rapport à dieu, ce qui est à peu près la même chose).
Ertaï a écrit :
Je constate en fait que nous ne voyons pas l'existence de Dieu de la même façon, et c'est sans doute dû à notre éducation. Comme le résume bien le Bashar, pour toi Dieu a une existence absolue, même si peu probable, alors que pour moi il s'agit bien d'une construction humaine.
Ertaï a écrit :
Tu raccourcis peut-être un peu trop. Zeus n'est pas intimement lié à la foudre, il s'agit là avant tout d'un pouvoir divin, voilà tout. Ce qui rendait Zeus si réel pour ses contemporains, c'était sa personnalité, ses actions avec une morale, ses faiblesses aussi, etc.
Le progrès technique change forcément la donne, car l'imagination est peu à peu remplacée par la connaissance. Si tu prends une lampe à pile avec quelques pétards et que tu voyages jusqu'à l'époque de Charlemagne, on t'accusera de sorcellerie démoniaque, ou on te prendra pour un Ange, l'un et l'autre lié à la religion. De la même manière, la religion a toujours freiné des quatre fers devant la Science qui progresse.
Mais je trouve que Cathaseris l'a mieux dit que moi
Cathaseris a écrit :
Une hiérarchie sociale est forcément naturelle si on la retrouve dans tout un tas d'espèces, en l’occurrence les mammifères.
Ensuite, il y a forcément une hiérarchie dans l'intelligence, ne serais-ce que dans le règne animal entre différentes espèces. Un insecte et une souris sont à des barreaux différents sur l'échelle de l'intelligence, forcément, le cerveau n'est pas développé de la même façon.
Est-ce qu'une machine capable de nous vaincre aux échecs est dénuée d'intelligence ? C'est peut-être une question de définition, mais pour moi cette intelligence existe. Cette machine est capable, dans les règles définies dans les jeux d'échecs, d'appliquer une stratégie, et de l'adapter en réponse aux mouvements de l'adversaire.
Si on prend les choses comme ça, l'instinct social est dans la nature, ce qui signifie que la société est naturelle. De ce point de vue, rien à dire. Mais c'est évidemment pas là où je voulais en venir.
La nature n'est pas une chose consciente. Elle n'évalue pas car elle est pure objectivité. On se contente de constats, de faits. Des choses naissent, d'autres meurent. Dire que certaines sont "meilleures" parce qu'elles prolifèrent mieux que d'autres, c'est déjà être dans l'analyse. Donc plus dans l'objectivité pure.
Pourquoi "forcément" ? Les insectes ou les oiseaux ont des fonctions cognitives qui nous sont inconnues. On les intègre comment dans cette pseudo-échelle de valeur ? L'intelligence même est un concept, donc une notion artificielle qui n'a pas réalité concrète. Pour certains, le QI permet d'évaluer l'intelligence pour d'autres, comme Barjavel, il n'évalue qu'une certaine forme d'intelligence. Comment déterminer qu'une intelligence vaut mieux qu'une autre ? Qu'une capacité cognitive est propre à l'intelligence ou qu'elle dépend d'autre chose ? On peut le faire, hein, mais ce sera purement arbitraire. Alors, c'est rigolo de se dire "tiens, on est en haut de l'échelle", "tiens non, en fait on est en bas". Ce n'est qu'une question de définition. Ce qui répond à toutes nos questions sur le divin. Dieu s'appelle Larousse, c'est lui qui décide du vrai et du faux, du bien et du mal.
Que fait une machine qui met sa race à Kasparov aux échecs ? Elle calcule. Elle joue pas, n'innove pas, n'interprète pas. Elle se contente de calculer. Et comment calcule-t-elle ? Grâce à un programme inventé par des Hommes. Sans ce programme, qu'elle est infoutue de créer elle-même, elle n'est rien. Je n'y connais rien mais je suppose que les mecs qui ont programmé la machine, si tu leur laisse du temps (beaucoup de temps) ils sont capable de faire les mêmes calculs que la machine. L'ordinateur n'est que l'accélérateur du génie humain. Bref, ordinateur - calculette : même combat.
Quelle différence alors avec un Homme qui lui aussi est une création humaine ? Bah, l'Homme sa capacité d'interagir avec le monde, si elle se base sur un inné, se créé, se corrige, se recrée en permanence. Notre "programmation" d'origine n'est qu'un point de départ. L'intelligence qu'elle créé est un voyage qui ne prendra fin qu'à notre mort.
Tout ça pour dire que, de mon point de vue, l'intelligence commence par l'analyse de l'information, le traitement de l'information (deux choses que savent faire la machine) et finit sur la création d'une nouvelle information. L'innovation est une condition sine qua none de l'intelligence. En tout cas de l'intelligence que l'on prête à ces géniales calculatrices que sont nos gros lourdauds d'ordinateurs. Géniaux et lourdauds à la fois. Comme leur créateur. Mais pas intelligent comme eux.
Tiens question aux pros de l'IA. Une IA est-elle capable de construire un deck magic compétitif ?
Cathaseris a écrit :
Je n'ai pas dit que l'intelligence des souris était "meilleure" que celle des insectes, mais que les souris avaient un cerveau plus développé, et qu'elles étaient plus intelligentes. C'est différent car il n'y a pas de jugement de valeur dans ce que je dis, simplement les souris sont capables individuellement de plus de choses que les insectes grâce à leur intelligence.
De la même façon, les humains sont capables de plus de choses individuellement que les souris. Ça ne fait pas d'eux des meilleures créatures. Mais c'est cette intelligence plus élevée qui a permis de se développer partout dans le monde (y compris dans des conditions extrêmes à l'opposé du climat de départ), ce dont une intelligence moins élevée est incapable.
Quant au QI, je ne pense pas qu'on puisse le considérer comme une échelle de l'intelligence, mais plutôt un outil qui permette une comparaison entre la normale et l'extra-normal. D'ailleurs le test doit s'accompagner obligatoirement d'un test de personnalité pour que les résultats soient utilisables correctement (et donc pour savoir si la personne est normale ou extra-normale).
Je ne comprends pas pourquoi tu sépares le calcul de la machine et celui de l'humain. Pour moi il s'agit de la même chose, la stratégie nécessite de calculer pour gagner.
Être créé par la main de l'Homme ou par l'écosystème, quelle importance ? L'être humain est lui-même une machine, organique, avec une programmation qui lui est propre : elle est programmée pour avoir des instincts, et elles est programmée pour apprendre. Ce qui découle de l'apprentissage ne fait pas partie de la programmation, certes, mais si nous n'étions pas condamnés à notre naissance à être curieux, il n'y aurait pas d'apprentissage.
La machine créée par l'Homme pour jouer aux échecs est programmée pour calculer et s'adapter aux agressions de l'adversaire. Ne peut-on appeler cette adaptation "imagination" ? Quelle est la différence avec l'Homme pour toi ?
Tu as raison Drago, j'ai commis une grosse erreur. J'ai confondu évaluer et hiérarchiser. Ce n'est pas parce qu'on dit que l'Everest est plus haut que le Mont Blanc qu'on crée une hiérarchie entre les deux.
Maintenant ça ne change pas vraiment mon interrogation. Est-il pertinent d’évaluer ou de hiérarchiser l’intelligence ? D’ailleurs qu’est-ce réellement l’intelligence. Plus haut dans le débat, Xila et Ertaï reprenait une définition wikipédia “Fonction mentale d’organisation du réel en pensées [et] en actes.”. Personnellement, ça ne me parle pas trop. Trop vague.
Comme les notions de “cerveau plus développé” et de “capacité”.
La "capacité" est une notion floue. Il faudrait la définir. Ensuite, il faudrait déterminer en quoi ça définit l'intelligence. On lâche Moundir de Koh Lanta sur une île déserte avec Stephen Hawking. Moundir sera "capable" de plus de choses qu'Hawking pourtant réputé plus intelligent. Enfin, on peut se poser la question de la pertinence à évaluer (parce qu'il s'agit encore d'évaluer. Placer sur une échelle hiérarchique, c'est évaluer) l'intelligence d'un animal sur un seul individu. Surtout si on parle de capacités. Les animaux grégaires partent désavantagés.
Sinon, en ce qui concerne la machine, l'Homme et l'intelligence. Tu me cites mais en écartant le plus important selon moi. Tout le passage où j'explique que la machine, pour moi, n'est qu'un exécutant. L'Homme est capable de faire tous les calculs parce qu'il les a créé, posé, théorisé. La machine se contente de les appliquer. Ca semble hautement intellectuel parce qu'on parle de math et d'algorithme mais ce n'est qu'un boulot de tâcheron. L'Homme dicte, la machine applique sans comprendre en bonne main d'oeuvre qu'elle est. Pire, la machine n'est qu'un outil. Dire qu'elle est intelligente -ou, mieux, qu'elle est plus intelligente que Kasparov parce qu'elle le bat aux échecs (je sais que tu ne l'as pas dit, c'est pour l'exemple)- ce serait comme dire qu'un tournevis visse mieux que l'Homme. Ca n'a, pour moi, pas de sens.
Notre "programmation" naturelle n'est pas aussi rigide. Certes, nous exécutons aussi certaines tâches innées (manger, baiser, vivre) mais nous sommes capable de produire nous-même du code. Pour rester dans l'image informatique, nous sommes des lignes de code capable de s'auto-produire. Et ça change tout. Nous sommes même capable d'aller à l'encontre du code originel, en nous suicidant par exemple. Si tu trouves une machine capable de se suicider (volontairement hein, pas planter, sinon windows est la plus parfaite IA au monde) alors oui on pourra commencer à parler d'IA.
Je suis d'accord avec tout ça. On a beau en parler souvent et avec passion, il reste tout à faire en matière d'intelligence artificielle. La fiction ne parvient pas à dépasser l'ersatz d'humain, tandis que la réalité ne propose pour le moment que des machines apprenantes (et non comprenantes). Nous-mêmes humains ne sommes pas des intelligences artificielles idéales : nous sommes capables dans une certaine mesure de changer nos propres processus cognitifs, mais beaucoup moins souvent qu'on ne le pense, et surtout pas dans les mêmes proportions qu'on ne le pense.
Ensuite, je peux citer plusieurs capacités relevant de l'intelligence qui ne sont pas floues, comme la création et l'utilisation de langages comme systèmes de signes conventionnels plutôt que de signes fonctionnels génétiquement déterminés. Ou encore l'éthique et la morale dont on aime à voir les rares manifestations chez l'animal mais qui ne fait débat que dans les sociétés humaines.
Enfin, tu parlais de Moundir et de Stephen Hawkins lâchés sur une île déserte. Séparément, il n'y a effectivement pas photo niveau chances de survie, mais c'est plus parce qu'Hawkins est paralysé (capacité physique) que parce qu'il ne serait pas intelligent. S'ils sont lâchés ensemble, par exemple, il y a de fortes chances pour que Stephen Hawkins convainque Moundir de faire le boulot de survie pour deux. Jusqu'à ce que les batteries du fauteuil d'Hawkins lâche, l'empêchant de communiquer avec Moundir. Mais là encore, ce n'est pas un défaut d'intelligence.
Cathaseris a écrit :
Évaluer et hiérarchiser l'intelligence me semble effectivement important dans une compraison entre différentes espèces. Dans le cadre de la survie, l'intelligence prend toute sa place dans notre monde, et plus le cerveau est gros et fonctionnel dans ce but, plus il y a de chances d'effectuer des tâches complexes qui te permettent de mieux survivre par rapport aux autres. Un cerveau coûte cher à l'organisme à entretenir, et c'est une zone fragile, mais visiblement indispensable à la survie de nombreuses créatures.
Je suis incapable en revanche de te donner une définition claire, précise et indiscutable de l'intelligence. Je suis sûr que je ne trouverai pas les bons mots et que tu y décèleras les lacunes inévitables.
Mais je vais quand même m'y risquer, pour que tu en saisisses l'essence : l'intelligence, c'est ce qui te permet d'analyser les informations extérieures, puis calculer pour formuler une réponse la plus adéquate possible.
Note que certains parlent d'intelligence végétale. Doit-on vraiment faire entrer les végétaux dans la catégories des êtres vivants possédant une intelligence ? Je ne le crois pas. Les plantes sont de formidables machines, mais sans capacité de pensée. Or, la pensée est un calcul en interne selon moi. Et plus la puissance de calcul est grande (dû en général au nombre de connexions), plus l'intelligence est grande et permet une rapidité d'action et de pensée élevée.
Dans le cadre de cette définition, la machine ayant battu Kasparov est une machine intelligente. Certes, elle a été fabriquée avec une intention : gagner aux échecs ; et elle ne sait rien faire d'autre.
Mais l'Homme est-il si différent ? Je reprends tes dires :
- L'Homme est capable de faire tous les calculs parce qu'il les a créé, posé, théorisé. La machine se contente de les appliquer. À travers des milliards d'années d'évolution, la Nature (appelons ainsi l'écosystème qui nous a créé) a créé l'Homme à travers moults ratages aléatoires et brusques accélérations dans l'évolution. L'Homme se contente d'appliquer ce qu'on lui a appris : grandir, être curieux, manger, dormir, niquer, bavarder, créer, réfléchir... Rien de ce que nous ne faisons ne sort du cadre dans lequel nous avons été créés.
- Ca semble hautement intellectuel parce qu'on parle de math et d'algorithme mais ce n'est qu'un boulot de tâcheron. Le corps et le cerveau humains ont l'air hautement compliqués, mais ce n'est qu'un boulot de tâcheron : quelques milliards d'années d'évolution, et à présent il suffit de neuf mois pour reproduire une quasi-copie de nous-mêmes. Avec des goûts différents certes, mais un être humain tout de même.
- L'Homme dicte, la machine applique sans comprendre en bonne main d’œuvre qu'elle est. Pire, la machine n'est qu'un outil. L'être humain n'est-il pas sensé être un outil pour augmenter l'équilibre de l'écosystème ?
Tu cites le suicide pour montrer que nous pouvons aller contre notre programmation originelle, mais le suicide ne vient pas naturellement, il y a plusieurs moyens d'y parvenir et tous sont très complexes. Il y a d'abord la dépression (peut-on considérer que la dépression est contrenature ? Ça m'étonnerait), plus aucune volonté de s'alimenter, de bavarder, de prendre plaisir à la vie... C'est un suicide tout en longueur, jusqu'à ce que la personne décide d'y mettre fin brutalement. Aussi tragique que ce soit, je ne pense pas que c'est là une preuve montrant que nous sommes capables d'aller contre notre programmation, mais hélas qu'il est difficile de lutter contre.
Ensuite il peut y avoir le suicide pour sauver son enfant, ou un membre important de l'entourage de l'individu. Encore dans le cadre de notre programmation.
Enfin il y a aussi le suicide grâce à un long et difficile entraînement, ou à travers une culture exerçant une importante pression. Mais pour moi il s'agit toujours et encore de la même chose : on exerce sur l'individu une pression plus forte que celle de la survie individuelle : la survie du groupe. Ce n'est pas l'intelligence qui permet cela, c'est au contraire l'absence d'intelligence, l'absence de remise en question de la pression qui est infligée.
Peut-être les machines ne sont-elles pas capables de se suicider. Mais peut-être est-ce parce que nous n'avons pas réussi à les rendre vraiment plus intelligentes qu'une mouche, pour le moment.
Cathaseris a écrit :
Ton exemple ne me semble pas pertinent si tu voulais définir l'intelligence. D'ailleurs nous sommes des animaux sociaux, faits pour vivre en communauté. Est-ce que Moundir apporterait plus au groupe que Hawking ? Pour ma part, Moundir apporterait au groupe certains atouts, disons physiques, et Hawking apporterait sans doute encore d'autres avantages, disons amélioratifs. Mais comparer les deux pour savoir qui est le plus intelligent au prétexte de voir qui va survivre, c'est comme dire que le cerveau d'une souris est meilleure que celui d'une fourmi.
Cathaseris a écrit :
Tu es pourtant capable de dire que le guépard est plus rapide que la tortue, en terme de vitesse. Ici, Kasparov a été battu sur le terrain précis des échecs. Ça veut simplement dire que Kasparov est moins performant à ce niveau-là, mais il est certainement considérablement plus intelligent que cette machine qui l'a battu.
Je t'enjoins à me donner ta propre définition de l'intelligence, histoire que nous comparions.
Ertaï a écrit :
C'est vrai, mais ce sont des capacités qui découlent de l'intelligence, ce n'est pas une définition de l'intelligence.
Reprenons du début. J'en ai besoin pour ne pas me retrouver dans une posture d'opposition permanente et stérile.
Donc l'idée première que je défend c'est, l'évaluation, la hiérarchisation (et la comparaison) des espèces en matière d'intelligence n'a pas de sens parce que :
1. On ne peut définir clairement l'intelligence.
2. Comme on ne peut pas la définir clairement, on n'a pas de moyen de l'évaluer clairement.
3. Hiérarchiser (L'espèce A est plus intelligente que l'espèce B qui l'est moins que l'espèce C) n'apprends rien sur les espèces elles-même.
Le deuxième point que je défendais est qu'on ne pouvait parler d'intelligence pour parler d'une machine.
Mais finalement pourquoi pas. Comme l'intelligence est un concept aux frontières floues, pourquoi ne pourrait-on pas. Personnellement, je ne le ferais pas. Tout comme je ne définirais pas l'intelligence. Puisque je pense que ce n'est pas possible. Je me contenterais, comme je l'ai déjà fait, de poser deux trois jalons. Pour moi, pour parler d'intelligence, il faut développer des "capacités" au-delà de son code originel. Je ne pense pas, comme tu l'as dit Dragoris, que l'Homme se contente d'appliquer sa programmation première. Parce que, quelque part, dans sa programmation, il y a la phrase "soit curieux" et qu'en l'appliquant, cela le mène à quelque chose de nouveau, d'imprévu, d'inédit. Et que cela, à ma connaissance, aucune machine ne peut le faire.
Pourquoi ces idées ? Pour critiquer ce point de vue très hiérarchique de l'intelligence proposé par Ertaï. Personnellement, je le trouve tout bonnement absurde. Je m'y suis expliqué longuement mais je recommencerais avec plaisir si on me le demande.
J'avoue que je ne suis pas particulièrement attaché à cette échelle. Je pense qu'on peut évaluer chaque intelligence sur des sortes de sous-échelles correspondant à des tâches précises, tout comme le niveau de QI permet d'évaluer la capacité d'une intelligence à résoudre des tests de QI. On pourrait éventuellement attribuer un score général en combinant les scores obtenus sur les différentes sous-échelles mais cela ne voudrait pas dire grand-chose. Ce qui a changé dans ma perception du monde est que je croyais l'humain en haut de toutes les échelles, quelles qu'elles soient. Maintenant, j'arrive à concevoir qu'on puisse ne pas être en haut d'au moins une de ces échelles.
Est-ce moins absurde dit comme ça ?
En 1966 Frank herbert publiait "destination vide" qui me semble dépasser les limitations que tu vois aux histoires habituelles sur les IA. Est-ce que tu l'as lu ? Si ce n'est pas le cas tu devrais tester (même si les livres de la série du "programme conscience" ne sont pas les plus faciles à lire de Herbert, qui n'est déjà pas réputé d'un abord facile
)
Drago, je ne vois pas dans cette définition ce qui exclu les plantes, au contraire. Si ce n'est peut-être la difficulté qu'il y a pour nous à percevoir leurs réponses, tant elles s'effectuent sur une échelle temporelle différente bien trop lente pour notre perception habituelle. Si tu change a vitesse du film et le met à celle des plantes, les animaux disparaissent en revanche tu vois clairement les plantes agir et réagir.
Au sujet de la définition de l'intelligence, j'avais trouvé quelque part une possibilité que je trouvais satisfaisante qui disait que l'intelligence c'est la capacité de créer de l'information et de l'additionner à la réalité. De ce point de vue l'humain sera toujours plus intelligent que l'ordi qui le bat, et celui-ci ne se différencie pas d'un outil très compliqué.
Pour que ce soit le cas il faudrait admettre une intentionnalité dans la création de l'être humain. Parce qu'on ne créé pas des outils par hasard.
Ertaï, ce que Cath trouve absurde c'est que l'on puisse créer une échelle de l'intelligence, car selon lui il n'y en a pas ou cela n'a pas de sens. Ce dont toi et moi ne sommes pas d'accord.
Bonne idée de reprendre les idées de départ Cath.
Concernant la hiérarchisation de l'intelligence :
Ce n'est pas parce que l'on n'est pas capable de définir l'intelligence clairement que l'on ne peut pas l'évaluer clairement ni la hiérarchiser. Ou alors on peut la définir à travers la façon dont elle s'exprime et ses multiples conséquences.
Exemple : les surdoués (j'ai bientôt fini un deuxième bouquin sur le sujet). Il est indéniable que la surdouance (une plus grande intelligence que la moyenne) modifie profondément la personnalité. Ainsi, on retrouve des tendances comme l'hypersensibilité et l'hyperémotivité, une tendance à être en décalage par rapport aux autres, un perfectionnisme assidu et trop fort sur les sujets qui leur tiennent à cœur, un manque de confiance en soi, des moments de blanc où les pensées sont ailleurs, et j'en passe. Ce sont des êtres humains qui sont à part des autres du fait de leur intelligence plus grande que leurs congénères. Il s'agit bien là d'une échelle de l'intelligence, et qui a une grande utilité ici pour les surdoués : le fait que les surdoués sachent qu'ils sont surdoués peut leur changer la vie (et apparemment il faut un travail sur soi pour l'accepter, car les surdoués ont tendance à le nier de prime abord).
Exemple 2 : les différents stades de l'évolution avant l'arrivée de l'homo sapiens intéressent grandement les scientifiques, et le développement de l'intelligence fait partie des armes de la survie.
Concernant l'Homme et sa programmation :
Pourtant les enfants également sont curieux, mais ils obéissent aux mêmes lois psychologiques, avec des stades de développement, et ne s'en écartent que très peu.
Et quand je regarde ce que donne l'ensemble des individus, et la société dans laquelle nous vivons, je constate que tout est gouverné par l'égo, par le pouvoir et son attrait, quelle que soit sa forme, par le choix entre "plaisir" et "déplaisir", bref uniquement tout ce qu'il peut y avoir de plus instinctif et d'animal chez nous. Nous sommes et demeurons des animaux.
Edit : le Bashar a publié une minute avant moi, damned !
Je confirme, le cycle du Programme Conscience est difficile à lire, je me suis arrêté au début du 2e. Je ne connais pas la valeur scientifique de ce qui y est écrit, mais je me souviens qu'il était dit que pour avoir une vraie IA, avec une conscience, il fallait d'abord qu'elle distingue un extérieur d'un intérieur ; puis, qu'elle est un instinct de survie. C'est à peu près tout ce que je peux me rappeler
Pour moi les plantes ne calculent pas, elles n'ont que des réactions physiologiques certes très complexes ; mais c'est complètement différent d'un cerveau qui se contente d'absorber du glucose pour ressortir de sa mémoire le théorème de Pythagore. Sans calcul, pas d'intelligence dans ma définition.
Le Bashar a écrit :
Je ne suis pas sûr de comprendre réellement cette définition et ce qu'elle implique
Le hasard ne peut-il créer une intentionnalité ?
Le Bashar, merci pour le conseil de lecture. Pour l'instant, ma connaissance des IAs traitées dans la fiction provient presque entièrement de films. 2001: A Space Odyssee, Terminator, I, Robot, Her, et récemment Ex Machina. Le seul livre que j'ai lu vaguement approchant le sujet est War Games, et le Jihad butlérien m'a empêché de lire à ce sujet dans les livres du cycle de Dune
Le Bashar a écrit :
Jusqu'à ce que l'on arrive à programmer l'induction et la déduction (entre autres), et alors les machines seront capables de créer de l'information et de l'additionner à la réalité. Ce qui est difficile à comprendre au sujet de l'intelligence artificielle, c'est que la marche entre "l'intelligence artificielle n'existe pas" et "l'intelligence artificielle existe" est gigantesque, mais une fois franchie, l'humanité aura extrêmement peu de temps pour se retourner et constater qu'elle (ou elles) sont partout. Il n'y pas vraiment d'intermédiaires comme on a pu en connaître pour la voiture, le téléphone, etc... Les intermédiaires que l'on nomme actuellement "intelligence artificielle" n'en sont clairement pas.
Je rejoins aussi le scepticisme du Bashar quand à notre "rôle" dans l'écosystème. La sélection naturelle est aveugle et stupide. Elle n'assigne pas de "rôle", elle se contente de propager les gènes les plus aptes à faire se reproduire les individus qui les portent, rien de plus. La meilleure preuve que nous n'avons pas de rôle programmé par la Nature est que nous ne le suivons absolument pas, et sommes en bonne voie pour nous éteindre, ce qui, au bout du compte, rendrait de facto nos gènes obsolètes niveau sélection naturelle.
Sur les IA dans la fiction, et sans trop spoiler ce qu'Herbert en dit dans son cycle du programme conscience, il y a heureusement d'autres traitement que le sempiternel golem qui se retourne contre son créateur (en plus dans le seul but d'être libre et reconnu, en fait... comme nous). Dans destination vide, lorsque les humains arrivent finalement à créer leur IA, c'est leur réalité toute entière qui s'en trouve altérée : ce sont eux, les humains, qui se retrouvent totalement incapables d'appréhender la nature de la conscience artificielle qu'ils ont créé. Du coup ça relativise toutes les réflexions qu'ils se sont faites pour tenter de la créer, car une fois réussi avec une grande part de hasard, le résultat est au delà de leur compréhension. L'IA n'a ni hostilité ni attrait particulier pour les humains, qui ne sont pour elle guère plus intéressant que ne le sont pour nous les acariens. L'ensemble devient assez mystique parce que finalement on se demande si en voulant créer cette IA, ils n'ont pas créé quelque chose d'étrangement proche de Dieu.
Tiens sinon je me souviens que tu aimais bien le jeu sid meier alpha centauri : une bonne partie du scénario sur la vie indigène est directement issue des tomes 2 et 3 du cycle du programme conscience.
Sinon dans dune il n'y a pas grand chose sur les IA, le jihad butlérien c'est plutôt une astuce scénaristique pour rendre possible cet univers futuriste sans ordinateurs. A moins que tu fasse allusions aux séquelles écrites par le fiston : je ne les aies pas lues, elles n'ont pas d'intérêt pour moi, puisqu'elles tentent de raconter la partie de l'histoire qui n'était qu'un prétexte. Pareil dans les films que tu cite, l'IA est un prétexte à chaque fois, sauf peut-être dans I robot, mais ce film est lui-même un ridicule contresens à l'oeuvre de Asimov. Les deux derniers je ne connais pas. Mais en matière de film et d'intelligence non humaine, je te proposerais plutôt "solaris". Je ne sais pas si on peut considérer ça comme une IA, dans le sens où ce n'est pas une création humaine. Mais c'est une relation, difficile, entre deux formes d'intelligences qui cherchent un moyen de se comprendre.
Il faudrait que tu définisse alors ce que tu entend par "calcul". parce que personnellement me dire que mes réflexions sont calculées ne me parle absolument pas, le calcul pour moi c'est des maths, et c'est un langage que je comprend très mal. En revanche si mes réflexions sont le résultat d'interactions chimiques et électriques, alors les plantes en ont aussi, bien que sous une forme différente, elles restent pour moi de même nature, fonctionnant avec les mêmes principes physiques et chimiques et les mêmes éléments.
ça implique plusieurs choses :
- la réalisation d'un imaginaire capable de combiner différentes situations pour en tirer une solution utilisable sur une autre pourtant jamais vécue.
- l'émergence d'un langage, car cette information que tu créé, il faut pouvoir la transmettre pour qu'elle existe.
- le développement d'une pensée abstraite qui fabrique à toute vitesse de la subjectivité, pour créer "la réalité" qui n'est en fait que la tienne.
Enfin, la capacité de créer quelque chose qui n'a pas d'existence physique. L'information n'a pas d'existence en dehors de notre capacité à l'interpréter.
Et rejoindre ainsi tous les autres représentant disparus du genre "homo" qui en leur temps eux aussi ont du se considérer comme le sommet de l'évolution
Des créatures présentant (ou croyant présenter) des intentions peuvent apparaître d'une suite d'événements imprévisibles, si c'est ce que tu veux dire, mais ça ne donne pas pour autant d'intention à cette suite d'événements.
Je pense que considérer une partie de la biosphère comme un outil au service de cette dernière est un contresens. Nous sommes des créatures multicellulaires, et pourtant ça ne fait pas de nos organes des "outils", car on ne peut pas se passer d'eux et eux ne survivent pas seuls. Ils ne sont pas des outils au service de notre cerveau et on ne peut pas modifier ceux qu'on trouve mal foutus. Ils sont une partie de nous, et influencent directement nos décisions "intelligentes".
Concernant la hiérarchisation de l’intelligence
Ertai a écrit :
En vérité, je ne vois pas trop ce que cela change. Tu passes d’un système d’échelle à un système d’échelles multiples. D’un système hiérarchique à un autre système hiérarchique. Si je dois bien admettre que la dissociation me paraît déjà plus logique, elle n’anéantit pas pour autant ma critique principale.
Par contre, j’aimerais beaucoup que tu développes un peu plus l’importance que cela a pour toi. Passer de l’idée qu’on est supérieurement intelligent à l’idée qu’en fait pas tant que ça à changé pour toi ? J’aimerais aussi que tu imagines ensuite ce que l’idée d’abandonner cette (ou ces) échelle(s) de valeur pourrait changer.
J’en ai discuté avec Lucie (ma femme) et j’ai trouvé son point de vue intéressant. Il est très proche de celui du Bashar. Pour elle, l’intelligence est un ensemble de capacités cognitives comme d’autres. Nous les possédons non pour participer à un concours mais pour survivre. Par conséquent, classer les capacités des différentes espèces est intéressant. Par contre, les placer sur une échelle n’est pas pertinent.
Il y a plusieurs choses qui me gênent dans ton exemple de surdoué Drago. D’abord, on parle de la même espèce. Ce qui finalement est un sujet proche mais tout de même différent. Ca peut paraître bizarre mais comparer l’intelligence d’un humain et d’un canard me paraît crétin, alors qu’évaluer l’intelligence de différents individus d’une même espèce (ou d’un même individus à différents moments de sa vie) me paraît plus intéressant. Ensuite, et c’est une vraie question, dans le cas d’un surdoué, comment détermine-t-on que les capacités intellectuelles supérieures sont la cause et non la conséquence des troubles mentionnés ? Autrement dit, l’intelligence supérieure est-elle l’origine du “problème” ou un symptôme parmi d'autres ?
L’Homme n’est pas né avec la capacité instinctive d’écrire français, de conduire une voiture, de fabriquer une bombe atomique ou de faire une oeuvre d’art. Il en avait le potentiel mais tout cela il l’a appris, créé.
Après cette histoire d’égo va nous faire glisser sur un autre débat mais ce n’est pas grave, j’aimerais quand même brièvement y répondre. Pour moi, percevoir le comportement humain sous le seul angle de l’égoisme c’est ignorer la subtilité de l’esprit humain. C’est se laisser berner par la conception de notre société, qui en analysant l’Homme ainsi exacerbe, chez lui, ce trait de caractère. Selon moi, nous agissons pour plein de raisons différentes et d’apparence contraires, parfois dans le même actes.
Une célébrité qui donne une grosse somme à une oeuvre de charité le fait-elle pour se faire bien voir ou seulement par générosité. Et bien certainement des deux.
Il y a encore deux problèmes que je me pose concernant votre histoire d’IA.
Intelligence et expérience
Nous le savons tous, le petit humain emploie ses capacités cognitives à la découverte du monde. Mais ce sont également ses expériences empiriques qui lui permettent de développer ses capacités cognitives. Si on empêche un enfant de se stimuler le bulbe et explorant son environnement ce dernier deviendra un gros beuh-beuh une fois grand.
Du coup, je me demande comment une entité coincée dans une boite, sans lien sur le monde, même programmée pour être capable d’apprendre par le plus génial des ingénieurs et bien... Je vois pas très bien comment elle pourrait développer une intelligence. Elle en aurait le potentiel bien sûr. Mais un potentiel gâché n’est rien d’autre qu’une sale manie.
Rationalité et émotion
Je reviens sur l’idée défendue précédemment par Dragoris, moi et l’industrie cinématographique hollywoodienne que l’intelligence n’est pas que raisonnement hypothético-déductif. Je reste convaincu du lien très fort entre intelligence et émotion. L’un sans l’autre me paraît juste impossible. J’intuite qu’une IA ne pourra développer d’intelligence sans avoir d’émotions au préalable ou, à l’inverse, ne développera pas son intelligence sans, à un moment de son développement, faire germer des émotions.
Cette idée un peu contre-intuitive chez nous, cartésiens, provient d’études faites sur des individus ayant des déficits émotionnels. Les vulcains de star trek seraient, en réalité, un gros fake. Etre dénué d’émotions n’améliorerait pas sa rationalité. Cela serait plutôt le contraire.
Encore une réponse transhumaniste.
J'imagine que le révérend Bayes avait sa propre foi et sa propre rationalité. Et cela semble contredire la "rationalité Bayésienne" de Eliezer Yudkowski.
Cathaseris a écrit :
J'aimerais bien passer pro
En attendant tu vas devoir te contenter d'une réponse d'amateur. Je ne sais pas s'il existe une IA capable de construire un Deck compétitif, ni si cela est actuellement possible. En tout cas cela ne me paraît pas hors de portée. Ça existerait que ça ne me paraîtrait pas une révolution. Ça ne serait que l'application d'un résultat de probabilités cumulées et/ou de l'algorithme de construction approprié. Ça ne veut pas dire que tu n'es pas créatif dans ton activité de construction de Deck. Ça veut juste dire qu'une IA pourrait éventuellement faire aussi bien (ou "mieux") sans pour autant faire preuve de créativité.
Les transhumanistes ont anticipé cet argument.
Ils l'ont appelé thèse de l'embodiment.
D'après les partisans de la thèse de l'embodiment toute intelligence forte est une intelligence en rapport au monde et à l'altérité. Ils en concluent que l'IA forte n'apparaîtra que dans des communautés de robots sociaux.
Les transhumanistes non-partisans de la thèse de l'embodiment pensent au contraire qu'une intelligence forte peut très bien apparaître dans une boîte grise avec un clavier.
IA et jeux
Il existe quelques (2 ou 3) jeux de stratégie abstraite créés artificiellement.
Par contre il n'existe à ma connaissance aucun jeu de société créé artificiellement.
IA et maths
De façon assez contre-intuitive les IAs sont particulièrement faibles en maths.
Aucune IA n'a jamais énoncé un nouveau théorème.
Pire : aucune IA n'a jamais prouvé (de façon autonome) un théorème connu non-trivial.
Il est déjà arrivé qu'une fois la démonstration humaine presque achevée il reste un important corpus calculatoire pour en finir avec une preuve. Ça a été le cas pour le théorème des 4 couleurs. Dans ce cas on présente cet imposant calcul à un calculateur qui fait le sale boulot. Et la preuve complète est achevée. Cependant toute la partie véritablement créative est de fabrication humaine.