J'avais mentionné il y a peu la rationalité bayésienne à laquelle j'ai été introduit via une compilation de posts de blog rédigés par Eliezer Yudkowski qui fait tout de même 1750 pages sans compter la bibliographie. Je n'en suis qu'au deux tiers, mais j'ai déjà pu en retirer de substantifiques bienfaits philosophiques.
Plutôt que de partir de la théorie volumineuse et expliquer ce que j'en ai conclu, je vais faire le chemin inverse, exposer mes conclusions et développer les raisons en fonction de la demande populaire.
Une échelle d'intelligence faussée
Sur une échelle graduée de l'intelligence, j'avais coutume de placer les génies humains tout en haut, et les animaux tout en bas. C'est évidemment un cas d'école d'anthropomorphisme, mais je n'avais pas eu l'occasion de remettre en question cette échelle interne jusqu'à ce que je lise les travaux d'Eliezer Yudkowski sur l'Intelligence Artificielle. Il semblerait au vu des différents travaux de psychologie cognitive que les humains soient en fait dans la partie basse de l'échelle, vu le nombre de raccourcis que notre cerveau prend pour éviter d'avoir à faire effectivement preuve d'intelligence. Mais cela s'explique par le fait que notre cerveau a une "fréquence d'horloge" finalement plutôt basse. Elle est naturellement compensée par l'exécution de tâches complexes de manière automatique comme les associations d'idées qui permettent de fournir des réponses rapides mais pas toujours correctes. En admettant des ressources illimitées, il est possible de concevoir une intelligence (artificielle ou non) qui serait bien plus performantes que ce dont les humains sont actuellement capables.
La lecture de ces mêmes travaux m'a dans le même temps gâché presque tous les films à propos d'intelligence artificielle que j'ai eu l'occasion de voir avant ou après la lecture. Cet acharnement hollywoodien à vouloir représenter l'intérêt de l'intelligence artificielle par la seule manifestation d'émotions me semble aujourd'hui tellement étriquée. Ex Machina est d'ailleurs l'exemple le plus récent de cette ligne scénaristique de pensée.
De l'existence de Dieu
Ma relation avec la religion a connu plusieurs phases. Mes parents me lisaient des histoires de l'Ancien Testament au lieu de Oui-Oui, du coup j'ai acquis très tôt une culture chrétienne des personnages fondateurs comme Noé, Abraham ou encore Zachée. Cela m'a valu d'ailleurs de m'ennuyer ferme au catéchisme car je connaissais déjà tout ce qu'on nous apprenait. J'ai fait ma première communion mais je n'ai pas fait ma confirmation. Entre temps, j'ai dû me dire que tout ces efforts de présence et de rituels n'en valait pas le cierge. Entre mes parents croyants mais pas prosélytes et des copains athées, j'ai choisi l'agnosticisme peut-être pour ne pas avoir à trancher une question épineuse. Et puis, c'était très rationnel et scientifique comme position : en l'absence de preuve concrète, on ne peut pas décider. Jusqu'à ce que je découvre la rationalité bayésienne qui assigne des malus de probabilités à une proposition au fur et à mesure que l'on lui ajoute des détails, surtout s'il n'existe aucune preuve expérimentale de la proposition initiale.
La probabilité de l'existence d'une entité intelligente supérieure en elle-même n'est pas si basse que l'on puisse la balayer du revers de la main. De même, la probabilité qu'un personnage cité dans un texte sacré ait réellement existé n'est pas négligeable non plus. Mais dès lors que l'on prête à cette entité tous les comportements et lignes de dialogue rapportés dans les textes considérés comme sacrés, cela ajoute une telle ribambelle de malus de probabilité qu'il n'est plus possible de se cacher derrière le 50/50 de l'agnosticisme. En vertu des simples lois de probabilité, personne ne devrait s'attendre à ce que Dieu (ou Allah, ou Yahve, ou Thor) existe. Est-ce que c'est une preuve expérimentale au sens scientifique de l'inexistence de Dieu ? Non. Est-ce que c'est suffisant pour croire qu'il n'existe pas sans craindre d'être détrompé jusqu'à sa mort ? Absolument.
La nuit, tous les chats sont gris
J'ai appris à respecter l'opinion de chacun et à essayer de me mettre à la place des autres assez tôt dans ma vie. Si j'ai bien tiré quelques cheveux de filles à l'école primaire, je n'ai jamais pris part à l'injustice populaire envers les gros, les noirs, les gens du voyage, etc... qui avait cours. J'ai d'ailleurs personnellement reçu ma part de quolibets, entre "intello" et "serpent à lunette", et si cela me faisait rager, je n'ai jamais été assez stupide pour entreprendre une quelconque vengeance.
C'est donc tout naturellement qu'arrivé à l'âge des débats philosophiques, j'ai adopté la croyance que presque toutes les opinions se valent, que chacun a le droit à son opinion et que le monde, loin d'être noir et blanc, est en fait une vaste nuance de gris. Jusqu'à ce que je découvre la rationalité bayésienne qui assigne de façon précise une probabilité à chaque proposition. Si on considère une opinion comme une tentative de représentation de la réalité unique que nous partageons tous, alors non, toutes les opinions ne se valent pas, surtout les opinions contraires. Même si elles sont toutes les deux éloignées de la réalité, il y en aura forcément une qui sera plus juste (ou moins fausse) que l'autre. Et si les opinions ne sont pas censées s'approcher de la réalité, il n'y a dès lors aucun intérêt à les débattre.
Les limites de la Science
Avec le dédain précoce de la politique m'est venu une vénération de la Science. Vu l'accélération des progrès scientifiques et techniques, il me paraissait probable que la Science nous sauverait tous un jour ou l'autre. La méthode scientifique classique qui forme le socle de la Science me paraissait à toute épreuve : toute nouvelle théorie se doit d'être confirmée expérimentalement. Le summum fut l'invention de la Relativité Générale par Einstein : il a formé sa théorie en se basant sur peu ou pas de données expérimentales, en partant du simple principe que la physique newtonienne, qui ne faisait absolument pas débat alors, ne suffisait pas pour modéliser le monde. Il s'est enfermé quelques années, a conçu sa théorie en se basant sur la manière avec laquelle il créerait lui-même l'univers, est ressorti plus tard avec une théorie non seulement juste, mais immédiatement confirmé par des résultats expérimentaux frappant.
Jusqu'à l'invention de la mécanique quantique pour expliquer et prédire le comportements des particules subatomiques. Et là, c'est le drame. Depuis près de 100 ans, des physiciens même parmi les plus célèbres ont commis l'erreur logique de projection mentale. Au lieu d'admettre l'évidence que la réalité est tout ce qu'il y a de plus normal et que la confusion est subjective, l'incapacité des scientifiques à expliquer des résultats expérimentaux a servi à déclarer que les particules subatomiques sont intrinsèquement bizarres, ce qui a donné lieu à la naissance de l'interprétation de Copenhague en 1930. J'avoue mon ignorance des tenants et aboutissants physiques de la mécanique quantique en général et de l'interprétation de Copenhague en particulier, mais d'autres interprétations ont été fournies depuis, et cette interprétation a été largement disséquée et critiquée dans l'intervalle. Pourtant, elle continue d'être l'une des interprétations les plus populaires. On touche là aux limites de la Science.
Le problème des interprétations de la mécanique quantique est qu'elles ne sont pas facilement séparables par l'expérimentation, pierre angulaire de la méthode scientifique. Cette dernière, popularisée en occident par Roger Bacon au XIIIè siècle, tranchait radicalement avec le climat philosophique de l'époque, encore basé sur les enseignements d'Aristote, qui considérait que l'on pouvait tout déduire du monde simplement en fournissant un travail intellectuel suffisant. La méthode scientifique est donc particulièrement puissante pour séparer les hypothèses scientifiques concurrentes quand il est possible de concevoir des procédés expérimentaux ayant la capacité d'invalider chaque hypothèse. Une fois les résultats expérimentaux obtenus, l'une des hypothèses concurrentes sort vainqueur. Il y a donc une discrimination des théories scientifiques à posteriori de l'expérimentation. A l'inverse, rien n'est prévu pour discriminer les théories a priori de l'expérimentation, ce qui rend les choses compliquées quand l'expérimentation est difficile à mettre en oeuvre.
Des disciplines scientifiques plus récentes comme la théorie des probabilités bayésiennes ou la psychologie cognitive pourraient aider à discriminer les théories scientifiques à priori de l'expérimentation, ce qui accélérerait le progrès scientifique, mais elles ne sont pas actuellement intégrées à l'enseignement de la méthode scientifique, ce qui rend leur acceptation basée sur le volontariat des scientifiques en herbe de vouloir être plus strict que la méthode scientifique ne l'est déjà, du coup elles ne sont pas très populaires. C'est sans doute entre autres cette lenteur de la science qui a inspiré cette citation:
Max Planck a écrit :
Une théorie nouvelle ne triomphe jamais. Ce sont ses adversaires qui finissent par mourir.
Conclusion
Cet article ne mentionne que mes points de vue qui ont changé à la lecture de Rationality: From AI to Zombie, je n'ai volontairement pas mentionné mes points de vue qui ont été confirmés comme la politique comme mort de la raison, l'existence des biais cognitifs qui réduisent notre efficacité à nous approcher de la réalité, l'absurdité de faire référence à Skynet dans n'importe quelle discussion sur l'Intelligence Artificielle ou encore le rejet de l'hypothèse de l'intelligent design. D'autre part, je me suis débarrassé d'un tas de doutes que j'avais sur plein de choses, mais que je ne voulais pas forcément creuser. Je trouvais qu'avoir des doutes sur tout était forcément mieux que d'avoir un avis tranché parce que cela empêchait d'avoir tort. Depuis ma lecture de la rationalité bayésienne, je suis revenu sur cet avis, et j'assigne maintenant des probabilités bien plus importantes à certaines hypothèses qu'à d'autres, quitte à les mettre à jour en présence de nouvelles preuves. Et pour les sujets pour lesquels je ne veux pas faire d'efforts de recherche, j'ai simplement ignoré mes doutes, ce qui a clarifié une partie de ma vision du monde. Je n'en sais pas plus qu'avant, mais maintenant je sais sur quoi je veux en savoir plus et je ne suis plus fier de douter.
Bannière extraite d'une photographie prise par Matt Buck d'un néon représentant l'équation du théorème de Bayes dans les locaux de la société Autonomy à Cambridge au Royaume-Uni.
Reprenons du début. J'en ai besoin pour ne pas me retrouver dans une posture d'opposition permanente et stérile.
Donc l'idée première que je défend c'est, l'évaluation, la hiérarchisation (et la comparaison) des espèces en matière d'intelligence n'a pas de sens parce que :
1. On ne peut définir clairement l'intelligence.
2. Comme on ne peut pas la définir clairement, on n'a pas de moyen de l'évaluer clairement.
3. Hiérarchiser (L'espèce A est plus intelligente que l'espèce B qui l'est moins que l'espèce C) n'apprends rien sur les espèces elles-même.
Le deuxième point que je défendais est qu'on ne pouvait parler d'intelligence pour parler d'une machine.
Mais finalement pourquoi pas. Comme l'intelligence est un concept aux frontières floues, pourquoi ne pourrait-on pas. Personnellement, je ne le ferais pas. Tout comme je ne définirais pas l'intelligence. Puisque je pense que ce n'est pas possible. Je me contenterais, comme je l'ai déjà fait, de poser deux trois jalons. Pour moi, pour parler d'intelligence, il faut développer des "capacités" au-delà de son code originel. Je ne pense pas, comme tu l'as dit Dragoris, que l'Homme se contente d'appliquer sa programmation première. Parce que, quelque part, dans sa programmation, il y a la phrase "soit curieux" et qu'en l'appliquant, cela le mène à quelque chose de nouveau, d'imprévu, d'inédit. Et que cela, à ma connaissance, aucune machine ne peut le faire.
Pourquoi ces idées ? Pour critiquer ce point de vue très hiérarchique de l'intelligence proposé par Ertaï. Personnellement, je le trouve tout bonnement absurde. Je m'y suis expliqué longuement mais je recommencerais avec plaisir si on me le demande.
J'avoue que je ne suis pas particulièrement attaché à cette échelle. Je pense qu'on peut évaluer chaque intelligence sur des sortes de sous-échelles correspondant à des tâches précises, tout comme le niveau de QI permet d'évaluer la capacité d'une intelligence à résoudre des tests de QI. On pourrait éventuellement attribuer un score général en combinant les scores obtenus sur les différentes sous-échelles mais cela ne voudrait pas dire grand-chose. Ce qui a changé dans ma perception du monde est que je croyais l'humain en haut de toutes les échelles, quelles qu'elles soient. Maintenant, j'arrive à concevoir qu'on puisse ne pas être en haut d'au moins une de ces échelles.
Est-ce moins absurde dit comme ça ?
En 1966 Frank herbert publiait "destination vide" qui me semble dépasser les limitations que tu vois aux histoires habituelles sur les IA. Est-ce que tu l'as lu ? Si ce n'est pas le cas tu devrais tester (même si les livres de la série du "programme conscience" ne sont pas les plus faciles à lire de Herbert, qui n'est déjà pas réputé d'un abord facile
)
Drago, je ne vois pas dans cette définition ce qui exclu les plantes, au contraire. Si ce n'est peut-être la difficulté qu'il y a pour nous à percevoir leurs réponses, tant elles s'effectuent sur une échelle temporelle différente bien trop lente pour notre perception habituelle. Si tu change a vitesse du film et le met à celle des plantes, les animaux disparaissent en revanche tu vois clairement les plantes agir et réagir.
Au sujet de la définition de l'intelligence, j'avais trouvé quelque part une possibilité que je trouvais satisfaisante qui disait que l'intelligence c'est la capacité de créer de l'information et de l'additionner à la réalité. De ce point de vue l'humain sera toujours plus intelligent que l'ordi qui le bat, et celui-ci ne se différencie pas d'un outil très compliqué.
Pour que ce soit le cas il faudrait admettre une intentionnalité dans la création de l'être humain. Parce qu'on ne créé pas des outils par hasard.
Ertaï, ce que Cath trouve absurde c'est que l'on puisse créer une échelle de l'intelligence, car selon lui il n'y en a pas ou cela n'a pas de sens. Ce dont toi et moi ne sommes pas d'accord.
Bonne idée de reprendre les idées de départ Cath.
Concernant la hiérarchisation de l'intelligence :
Ce n'est pas parce que l'on n'est pas capable de définir l'intelligence clairement que l'on ne peut pas l'évaluer clairement ni la hiérarchiser. Ou alors on peut la définir à travers la façon dont elle s'exprime et ses multiples conséquences.
Exemple : les surdoués (j'ai bientôt fini un deuxième bouquin sur le sujet). Il est indéniable que la surdouance (une plus grande intelligence que la moyenne) modifie profondément la personnalité. Ainsi, on retrouve des tendances comme l'hypersensibilité et l'hyperémotivité, une tendance à être en décalage par rapport aux autres, un perfectionnisme assidu et trop fort sur les sujets qui leur tiennent à cœur, un manque de confiance en soi, des moments de blanc où les pensées sont ailleurs, et j'en passe. Ce sont des êtres humains qui sont à part des autres du fait de leur intelligence plus grande que leurs congénères. Il s'agit bien là d'une échelle de l'intelligence, et qui a une grande utilité ici pour les surdoués : le fait que les surdoués sachent qu'ils sont surdoués peut leur changer la vie (et apparemment il faut un travail sur soi pour l'accepter, car les surdoués ont tendance à le nier de prime abord).
Exemple 2 : les différents stades de l'évolution avant l'arrivée de l'homo sapiens intéressent grandement les scientifiques, et le développement de l'intelligence fait partie des armes de la survie.
Concernant l'Homme et sa programmation :
Pourtant les enfants également sont curieux, mais ils obéissent aux mêmes lois psychologiques, avec des stades de développement, et ne s'en écartent que très peu.
Et quand je regarde ce que donne l'ensemble des individus, et la société dans laquelle nous vivons, je constate que tout est gouverné par l'égo, par le pouvoir et son attrait, quelle que soit sa forme, par le choix entre "plaisir" et "déplaisir", bref uniquement tout ce qu'il peut y avoir de plus instinctif et d'animal chez nous. Nous sommes et demeurons des animaux.
Edit : le Bashar a publié une minute avant moi, damned !
Je confirme, le cycle du Programme Conscience est difficile à lire, je me suis arrêté au début du 2e. Je ne connais pas la valeur scientifique de ce qui y est écrit, mais je me souviens qu'il était dit que pour avoir une vraie IA, avec une conscience, il fallait d'abord qu'elle distingue un extérieur d'un intérieur ; puis, qu'elle est un instinct de survie. C'est à peu près tout ce que je peux me rappeler
Pour moi les plantes ne calculent pas, elles n'ont que des réactions physiologiques certes très complexes ; mais c'est complètement différent d'un cerveau qui se contente d'absorber du glucose pour ressortir de sa mémoire le théorème de Pythagore. Sans calcul, pas d'intelligence dans ma définition.
Le Bashar a écrit :
Je ne suis pas sûr de comprendre réellement cette définition et ce qu'elle implique
Le hasard ne peut-il créer une intentionnalité ?
Le Bashar, merci pour le conseil de lecture. Pour l'instant, ma connaissance des IAs traitées dans la fiction provient presque entièrement de films. 2001: A Space Odyssee, Terminator, I, Robot, Her, et récemment Ex Machina. Le seul livre que j'ai lu vaguement approchant le sujet est War Games, et le Jihad butlérien m'a empêché de lire à ce sujet dans les livres du cycle de Dune
Le Bashar a écrit :
Jusqu'à ce que l'on arrive à programmer l'induction et la déduction (entre autres), et alors les machines seront capables de créer de l'information et de l'additionner à la réalité. Ce qui est difficile à comprendre au sujet de l'intelligence artificielle, c'est que la marche entre "l'intelligence artificielle n'existe pas" et "l'intelligence artificielle existe" est gigantesque, mais une fois franchie, l'humanité aura extrêmement peu de temps pour se retourner et constater qu'elle (ou elles) sont partout. Il n'y pas vraiment d'intermédiaires comme on a pu en connaître pour la voiture, le téléphone, etc... Les intermédiaires que l'on nomme actuellement "intelligence artificielle" n'en sont clairement pas.
Je rejoins aussi le scepticisme du Bashar quand à notre "rôle" dans l'écosystème. La sélection naturelle est aveugle et stupide. Elle n'assigne pas de "rôle", elle se contente de propager les gènes les plus aptes à faire se reproduire les individus qui les portent, rien de plus. La meilleure preuve que nous n'avons pas de rôle programmé par la Nature est que nous ne le suivons absolument pas, et sommes en bonne voie pour nous éteindre, ce qui, au bout du compte, rendrait de facto nos gènes obsolètes niveau sélection naturelle.
Sur les IA dans la fiction, et sans trop spoiler ce qu'Herbert en dit dans son cycle du programme conscience, il y a heureusement d'autres traitement que le sempiternel golem qui se retourne contre son créateur (en plus dans le seul but d'être libre et reconnu, en fait... comme nous). Dans destination vide, lorsque les humains arrivent finalement à créer leur IA, c'est leur réalité toute entière qui s'en trouve altérée : ce sont eux, les humains, qui se retrouvent totalement incapables d'appréhender la nature de la conscience artificielle qu'ils ont créé. Du coup ça relativise toutes les réflexions qu'ils se sont faites pour tenter de la créer, car une fois réussi avec une grande part de hasard, le résultat est au delà de leur compréhension. L'IA n'a ni hostilité ni attrait particulier pour les humains, qui ne sont pour elle guère plus intéressant que ne le sont pour nous les acariens. L'ensemble devient assez mystique parce que finalement on se demande si en voulant créer cette IA, ils n'ont pas créé quelque chose d'étrangement proche de Dieu.
Tiens sinon je me souviens que tu aimais bien le jeu sid meier alpha centauri : une bonne partie du scénario sur la vie indigène est directement issue des tomes 2 et 3 du cycle du programme conscience.
Sinon dans dune il n'y a pas grand chose sur les IA, le jihad butlérien c'est plutôt une astuce scénaristique pour rendre possible cet univers futuriste sans ordinateurs. A moins que tu fasse allusions aux séquelles écrites par le fiston : je ne les aies pas lues, elles n'ont pas d'intérêt pour moi, puisqu'elles tentent de raconter la partie de l'histoire qui n'était qu'un prétexte. Pareil dans les films que tu cite, l'IA est un prétexte à chaque fois, sauf peut-être dans I robot, mais ce film est lui-même un ridicule contresens à l'oeuvre de Asimov. Les deux derniers je ne connais pas. Mais en matière de film et d'intelligence non humaine, je te proposerais plutôt "solaris". Je ne sais pas si on peut considérer ça comme une IA, dans le sens où ce n'est pas une création humaine. Mais c'est une relation, difficile, entre deux formes d'intelligences qui cherchent un moyen de se comprendre.
Il faudrait que tu définisse alors ce que tu entend par "calcul". parce que personnellement me dire que mes réflexions sont calculées ne me parle absolument pas, le calcul pour moi c'est des maths, et c'est un langage que je comprend très mal. En revanche si mes réflexions sont le résultat d'interactions chimiques et électriques, alors les plantes en ont aussi, bien que sous une forme différente, elles restent pour moi de même nature, fonctionnant avec les mêmes principes physiques et chimiques et les mêmes éléments.
ça implique plusieurs choses :
- la réalisation d'un imaginaire capable de combiner différentes situations pour en tirer une solution utilisable sur une autre pourtant jamais vécue.
- l'émergence d'un langage, car cette information que tu créé, il faut pouvoir la transmettre pour qu'elle existe.
- le développement d'une pensée abstraite qui fabrique à toute vitesse de la subjectivité, pour créer "la réalité" qui n'est en fait que la tienne.
Enfin, la capacité de créer quelque chose qui n'a pas d'existence physique. L'information n'a pas d'existence en dehors de notre capacité à l'interpréter.
Et rejoindre ainsi tous les autres représentant disparus du genre "homo" qui en leur temps eux aussi ont du se considérer comme le sommet de l'évolution
Des créatures présentant (ou croyant présenter) des intentions peuvent apparaître d'une suite d'événements imprévisibles, si c'est ce que tu veux dire, mais ça ne donne pas pour autant d'intention à cette suite d'événements.
Je pense que considérer une partie de la biosphère comme un outil au service de cette dernière est un contresens. Nous sommes des créatures multicellulaires, et pourtant ça ne fait pas de nos organes des "outils", car on ne peut pas se passer d'eux et eux ne survivent pas seuls. Ils ne sont pas des outils au service de notre cerveau et on ne peut pas modifier ceux qu'on trouve mal foutus. Ils sont une partie de nous, et influencent directement nos décisions "intelligentes".
Concernant la hiérarchisation de l’intelligence
Ertai a écrit :
En vérité, je ne vois pas trop ce que cela change. Tu passes d’un système d’échelle à un système d’échelles multiples. D’un système hiérarchique à un autre système hiérarchique. Si je dois bien admettre que la dissociation me paraît déjà plus logique, elle n’anéantit pas pour autant ma critique principale.
Par contre, j’aimerais beaucoup que tu développes un peu plus l’importance que cela a pour toi. Passer de l’idée qu’on est supérieurement intelligent à l’idée qu’en fait pas tant que ça à changé pour toi ? J’aimerais aussi que tu imagines ensuite ce que l’idée d’abandonner cette (ou ces) échelle(s) de valeur pourrait changer.
J’en ai discuté avec Lucie (ma femme) et j’ai trouvé son point de vue intéressant. Il est très proche de celui du Bashar. Pour elle, l’intelligence est un ensemble de capacités cognitives comme d’autres. Nous les possédons non pour participer à un concours mais pour survivre. Par conséquent, classer les capacités des différentes espèces est intéressant. Par contre, les placer sur une échelle n’est pas pertinent.
Il y a plusieurs choses qui me gênent dans ton exemple de surdoué Drago. D’abord, on parle de la même espèce. Ce qui finalement est un sujet proche mais tout de même différent. Ca peut paraître bizarre mais comparer l’intelligence d’un humain et d’un canard me paraît crétin, alors qu’évaluer l’intelligence de différents individus d’une même espèce (ou d’un même individus à différents moments de sa vie) me paraît plus intéressant. Ensuite, et c’est une vraie question, dans le cas d’un surdoué, comment détermine-t-on que les capacités intellectuelles supérieures sont la cause et non la conséquence des troubles mentionnés ? Autrement dit, l’intelligence supérieure est-elle l’origine du “problème” ou un symptôme parmi d'autres ?
L’Homme n’est pas né avec la capacité instinctive d’écrire français, de conduire une voiture, de fabriquer une bombe atomique ou de faire une oeuvre d’art. Il en avait le potentiel mais tout cela il l’a appris, créé.
Après cette histoire d’égo va nous faire glisser sur un autre débat mais ce n’est pas grave, j’aimerais quand même brièvement y répondre. Pour moi, percevoir le comportement humain sous le seul angle de l’égoisme c’est ignorer la subtilité de l’esprit humain. C’est se laisser berner par la conception de notre société, qui en analysant l’Homme ainsi exacerbe, chez lui, ce trait de caractère. Selon moi, nous agissons pour plein de raisons différentes et d’apparence contraires, parfois dans le même actes.
Une célébrité qui donne une grosse somme à une oeuvre de charité le fait-elle pour se faire bien voir ou seulement par générosité. Et bien certainement des deux.
Il y a encore deux problèmes que je me pose concernant votre histoire d’IA.
Intelligence et expérience
Nous le savons tous, le petit humain emploie ses capacités cognitives à la découverte du monde. Mais ce sont également ses expériences empiriques qui lui permettent de développer ses capacités cognitives. Si on empêche un enfant de se stimuler le bulbe et explorant son environnement ce dernier deviendra un gros beuh-beuh une fois grand.
Du coup, je me demande comment une entité coincée dans une boite, sans lien sur le monde, même programmée pour être capable d’apprendre par le plus génial des ingénieurs et bien... Je vois pas très bien comment elle pourrait développer une intelligence. Elle en aurait le potentiel bien sûr. Mais un potentiel gâché n’est rien d’autre qu’une sale manie.
Rationalité et émotion
Je reviens sur l’idée défendue précédemment par Dragoris, moi et l’industrie cinématographique hollywoodienne que l’intelligence n’est pas que raisonnement hypothético-déductif. Je reste convaincu du lien très fort entre intelligence et émotion. L’un sans l’autre me paraît juste impossible. J’intuite qu’une IA ne pourra développer d’intelligence sans avoir d’émotions au préalable ou, à l’inverse, ne développera pas son intelligence sans, à un moment de son développement, faire germer des émotions.
Cette idée un peu contre-intuitive chez nous, cartésiens, provient d’études faites sur des individus ayant des déficits émotionnels. Les vulcains de star trek seraient, en réalité, un gros fake. Etre dénué d’émotions n’améliorerait pas sa rationalité. Cela serait plutôt le contraire.
Encore une réponse transhumaniste.
J'imagine que le révérend Bayes avait sa propre foi et sa propre rationalité. Et cela semble contredire la "rationalité Bayésienne" de Eliezer Yudkowski.
Cathaseris a écrit :
J'aimerais bien passer pro
En attendant tu vas devoir te contenter d'une réponse d'amateur. Je ne sais pas s'il existe une IA capable de construire un Deck compétitif, ni si cela est actuellement possible. En tout cas cela ne me paraît pas hors de portée. Ça existerait que ça ne me paraîtrait pas une révolution. Ça ne serait que l'application d'un résultat de probabilités cumulées et/ou de l'algorithme de construction approprié. Ça ne veut pas dire que tu n'es pas créatif dans ton activité de construction de Deck. Ça veut juste dire qu'une IA pourrait éventuellement faire aussi bien (ou "mieux") sans pour autant faire preuve de créativité.
Les transhumanistes ont anticipé cet argument.
Ils l'ont appelé thèse de l'embodiment.
D'après les partisans de la thèse de l'embodiment toute intelligence forte est une intelligence en rapport au monde et à l'altérité. Ils en concluent que l'IA forte n'apparaîtra que dans des communautés de robots sociaux.
Les transhumanistes non-partisans de la thèse de l'embodiment pensent au contraire qu'une intelligence forte peut très bien apparaître dans une boîte grise avec un clavier.
IA et jeux
Il existe quelques (2 ou 3) jeux de stratégie abstraite créés artificiellement.
Par contre il n'existe à ma connaissance aucun jeu de société créé artificiellement.
IA et maths
De façon assez contre-intuitive les IAs sont particulièrement faibles en maths.
Aucune IA n'a jamais énoncé un nouveau théorème.
Pire : aucune IA n'a jamais prouvé (de façon autonome) un théorème connu non-trivial.
Il est déjà arrivé qu'une fois la démonstration humaine presque achevée il reste un important corpus calculatoire pour en finir avec une preuve. Ça a été le cas pour le théorème des 4 couleurs. Dans ce cas on présente cet imposant calcul à un calculateur qui fait le sale boulot. Et la preuve complète est achevée. Cependant toute la partie véritablement créative est de fabrication humaine.