...
Post by Benoit.dUne fin est forcément issue d'un processus intelligent, puisque c'est une
représentation d'une projection dans le futur.
Curieuse définition. Donc, la loi de la gravitation universelle serait un
processus intelligent ayant pour fin d'agglomérer du gaz pour allumer les
étoiles.
Par "représentation", j'entends la conscience d'un futur possible qu'on
visualise, je parle du processus intellectuel, pas de l'objet
particulier qu'on se représente.
Post by Benoit.d...Ce sont ces instincts qui sont le moteur du comportement des
êtres vivants. Et l'intelligence pour certains d'entres-eux, est au service
de ces instincts. Ils existent par nécessité et sont la source, en dernier
recours, de la motivation.
L'instinct n'a pas besoin de l'intelligence pour s'exprimer, et
l'intelligence peut aussi bien "flatter" les instincts, que s'y
opposer, ou que les pallier (par exemple chez les déficients du
toucher, par des précautions supplémentaires pour discriminer les
sources potentiellement brûlantes). Sont-ils si alors fondamentaux que
cela ? Je ne le crois pas.
Quant à la "motivation", c'est un processus plutôt nébuleux car de plus
haut niveau. Je le pense diffus (non localisé dans une zone
particulière du cerveau), et je ne suis même pas sûr qu'il soit cause
de quoique ce soit (voir plus loin).
Post by Benoit.dMaintenant, demande toi comment une IA privée de
tout instinct, 1 million de fois plus intelligente que le plus intelligent
des êtres humains, se comporterait.
Je ne me demanderai pas ça, puisque je n'ai aucune raison de supposer
l'absence d'instinct dans une IA. L'instinct étant une mise en oeuvre
automatique d'un processus, un système artificiel aura aussi les siens
(par exemple le besoin d'aller recharger sa batterie, instinct de
survie électrique).
...
Post by Benoit.dPas de volonté/but sans instinct, sans fin préalablement définie. Le choix
intelligent (prédiction/action) est fait au service d'un instinct qui ne
l'est pas (recherche de récompense, peur).
Le ver de terre n'a pas plus de "fin" de vivre sous terre, que la lune
n'en a de tourner autour de la terre. Comme déjà dit, une "fin" n'a pas
d'existence intrinsèque, elle est la représentation d'un futur possible
sur l'écran de la conscience.
...
Post by Benoit.dAvec l'IA, la question est de savoir si elle sera viable, c'est à dire si
l'IA trouvera des motivations pour des fins.
Trouvera ??
D'ou sortirait ces motivations, de quelles nécessités, quelles qu'elles
soient ?
La motivation est-elle la cause réelle première, ou bien la cause
apparente, sorte de conscience synthétique et conceptualisée résumant
l'ensemble des causes élémentaires possibles de nos actes futurs, après
qu'elles se sont dessinées ?
Post by Benoit.dLes créateurs d'une IA pourraient lui insuffler une volonté propre,
peut-être même incompatible à terme avec notre survie, ou peut-être au
contraire pour notre plus grande prospérité;) (les conséquences
économiques/sociales sont un autre sujet). Mais un libre arbitre sur toute
chose, c'est une autre histoire. En tous cas, il semble peu plausible qu'on
se retrouve confronté au belliqueux Skynet du terminator.
Le "libre arbitre" n'est pas démontrable. Pour vivre quand on a une
conscience, on doit faire "comme si" on l'avait (sinon autant se
suicider). Mais rien n'indique quoique ce soit de complètement
arbitraire dans nos comportements. Ce n'est que la diversité et la
complexité des stimuli, des circuits neuronaux, et de leurs traitements
aboutissant à nos décisions, diversité et complexité empêchant toute
prédiction, qui nous donne l'illusion d'un libre arbitre.
Cette complexité peut aussi se retrouver dans une IA.
On aura sûrement autant de variétés d'IA qu'on a de variétés d'humains,
des IA hitlériens, ou des IA altruistes...
En fait le biologique, c'est de la matière, qui réalise des fonctions.
Si l'on est matérialiste, peu importe le matériel qui réalise la
fonction, le résultat sera le même. Dans un contexte matérialiste,
l'idée de l'IA ne peut pas être invalidée.
Si l'on pense que l'homme n'est pas qu'un effet de la matière, alors on
peut nier l'IA (jusqu'à ce qu'elle arrive :-) ).
