On parle beaucoup d'intelligence artificielle ces temps-ci et on lit beaucoup d'âneries à gauche et à droite sur le sujet. Du coup je me suis dit : faisaons un topic pour rassembler toutes ces âneries au même endroit :{

Lorsque j'évoque le concept d'intelligence artificielle en général, je vois généralement trois types de réaction :
- Il y a ceux qui ne savent pas de quoi je parle
- Il y a ceux qui sont inquiet voir qui ont peur
- Il y a ceux qui sont enthousiaste

Il est aussi intéressant de remarquer que ces trois catégories répartissent assez bien les gens en fonction de leur connaissances scientifiques sur le sujet. (Pour ceux qui se demanderait je fais partie de la troisième catégorie)


A mes yeux, l'avènement de l'intelligence artificielle correspond ni plus ni moins à la troisième grande révolution de la société moderne après le siècle des lumières et la révolution industrielle. La société humaine va subir de profond changement durant cette période.
De la même façon que dans la révolution industrielle, c'est les métiers manuels se sont vu remplacés par des machines au point que leur proportion dans la population s'en est trouvé profondément changé par la suite, aujourd'hui c'est au tour des métiers intellectuels d'être touché. L'Intelligence Artificielle telle qu'elle est développé arrive à atteindre un niveau de compétence supérieur à l'humain dans un nombre de domaine croissant. En dehors des métiers manuels et intellectuels, il ne reste que les métiers relationnels au sens large, ceux qui nécessite un contact humain/humain et les métiers qui relève plus ou moins de l'art domaine où l'AI est encore très loin d'être perfomante. Encore que même sur ce qui est de l'innovation, certaines machines commencent déjà à faire leur preuve.


Pour moi la peur la plus justifiée est celle que je viens d'évoquer sur la restructuration de la société et du monde du travail qui risque de toucher quasiment tout le monde. Pourtant quand j'écoute ceux qui ont peur des I.A., ils invoquent d'autres raison :
- La peur que l'humain perde le contrôle de l'IA qu'il a créé.
- La peur que l'IA soit utilisé à des fins moralement douteuse.

Mon point de vue est que ces deux peurs sont totalement infondés.
- D'énormes travaux sont réalisés pour concevoir de manière théorique des IA et absolument tout ceux qui sont derrière cela ont intérêt à ce que les choses se déroulent au mieux.
- Pour le second point, c'est en effet quelque chose d'inévitable mais ce n'est pas quelque chose dont il faut avoir peur. Tout ce que fait actuellement l'être humain, sera fait en mieux par une IA dans le futur. Ne pas utiliser d'IA dans ce futur serait une erreur tout comme le fait d'espérer concurrencer une chaîne de production juste par la force de nos bras en est une. On pense souvent au mauvais en occultant le bon, mais la vérité il ne faut pas oublier que l'IA est neutre et c'est juste la nature humaine qui va ressortir. Ce serait comme avoir peur de l'imprimerie parce que les mots sont puissants et qu'avec des livres on peut véhiculer des idées néfastes plus rapidement que sans. C'est vrai, mais avoir peur des livres et dire que c'est mal reste une absurdité.

Oui mais ça c'était pas la nouveauté, c'était déjà le cas l'année dernière. Ca ça n'a pas changé, c'est en jouant un grand nombre de fois qu'on apprend. Cette partie là de l'apprentissage restera toujours inchangé. Ce qui change c'est ce que l'on retire de chaque partie pour ajuster la manière de jouer. C'est ça qui a connu un bon avant.

Qu'une IA puisse battre l'homme dans des jeux stratégiques et ou le calcul a une place prépondérante, est totalement logique. Le cerveau est profondémment nul en calcul, et en math :p

Par contre, réussir à créer une machine capable de processus de création, ou même des processus de recherche (une ia capable de résoudre les problèmes posés par la fusion nucléaire via un développement de procédure, de matériau résistants, etc etc), ça me parait impossible. De même, les émotions, on peut sans doute les singer, mais elles semblent inhérentes à des expériences propres, à des hormones/autre susbstance présente dans le cerveau, et sans doute aussi d'une part d'innée, et apprendre à une machine à raisonner là dessus. De même sur un truc aussi bateau que le concept bien/mal, et tout ce que touche à la philosophie, aux arts. Finalement, je vois beaucoup de limite au machine.

On pourrait dire que les émotions, le raisonnement philosophique (Sens de la vie, et tout e qui en découle), ne servent à rien d'un point de vue des compétences. Mais j'aurais tendance à dire que tous ces facteurs sont très importants de le concept de création. Et c'est finalement lui qui tire l'humanité (je vous laisse choisir si c'est plus vers le haut que le bas).

Sais-tu que tout les entraineur de basket des équipes de la NBA sont secondé par un même logiciel comportant une IA capable d'analyser chaque instant de chaque match. Chaque action de chaque joueur de les reconnaître et de dire tout ce qui ne va pas dans leur placement et leur action de jeu ?
On est arrivé à un point où cette machine voit tout mieux que le meilleur des entraineur et est capable de guider les joueurs mieux que n'importe quel entraineur. Alors l'aspect humain est important c'est certain, mais à la limite on pourrait presque prendre un gars doué en relationnel qui n'y connait rien au basket comme entraineur à l'heure actuelle.




Vu à la vitesse où elle progresse, à terme je ne vois pas de limite qu'elle ne pourrait pas théoriquement franchir. Dans certains domaines on est encore loin du compte. Mais les progrès de ces dernières années sont juste effarant.

Le problème, ce qui fait peur je pense, c'est de projeter le point où cette ia (peu importe la forme qu'elle prend) atteint un niveau exponentielle. (La définition même de la singularité technologique) Et forcément à partir de ce point elle nous depasse complètement et elle est incontrôlable

Après à savoir si ses intérêt ne converge pas avec les nôtres, qu'elle provoque un futur dystopique c'est faire des plans sur la comète..

Mais concrètement, le fait de savoir qu'elle sera exponentielle donne le vertige. On ne peut même pas imaginer sa puissance quoi.. c'est comme un voile devant nos yeux. Et la principale cause de la peur vient de là je pense.

Attention à ne pas confondre : incontrôlable et qui dépasse notre entendement.

Par quel moyen une fourmi peut contrôler un éléphant ?

Pour le basket oui je le savais, mais est ce que ça réponds à ma question de la limite des IA ? (Nota, j'aurais aimais qu'une telle IA soit créer avant 2015 pour voir ce qu'elle pensait du jeu joué par les GSW à l'époque. Peut être elle aurait dit que c'était nul, alors qu'il a révolutionné l'actuel manière de jouer à ce sport :O )

Je suis totalement d'accord sur le fait que l'IA peut faire des choses extra ordinaire dans tout un tas de domaine. Mais que je reste intimmement convaincu qu'aucune IA ne pourrait écrire le spleen de Paris, peindre l'autoportrait le Désespéré, créer des centrales à fusion thermonucléaire, etc etc...

En fait tu répetes la même chose, en me donnant des exemples concrets de ce que peux faire une IA quand je te réponds qu'il y a des limites conceptuelles qu'une IA ne pourra pas franchir.

Je vois plus ça comme une affirmation gratuite ou a la rigueur philosophique mais dénué de véritable fondement. La vérité est que l'on ignore quelles sont ces limites. Dire le contraire n'est que spéculation.
Comme je l'ai dit, dans l'art l'IA est très loin de faire des choses satisfaisante, notamment parce que c'est compliqué d'avoir des données à manipuler sur le sujet. Je pense aussi que l'homme a aussi une vision très enthropocentré de l'art. Après tout une merde dans une boite de conserve c'est une boite mais une image 1024x1024 généré par un algo complexe n'en serait pas ? Pour en revenir aux centrales à fusion thermonucléaire, là en revanche y'a moyen qu'à terme l'IA soit très utile dans le domaine.




Encore un exemple qui montre que tu confonds les deux. Un éléphant ne dépasse pas l'entendement d'une fourmi.

Il ne faut pas oublier aujourd'hui qu'une IA ne peut faire qu'une seule chose a la fois. Une meme IA ne pourra pas analyser un Match de basket et en meme temps jouer au Go. Ce qui limite déjà énormément les capacités des IA.

On commence tout juste à crée des IA dites "Curieuse". Que ne partant que de des limites d'actions qu'on leurs donnent et d'en analyser les retours, qui a force de test améliore un processus quelconque. Mais on est encore TRESSSS LOIN de l'IA qui veut/peut exterminer l'humanité

C'était une image Z33, j'aurais pu prendre autre chose.. Mais je pense bien que tu vois ce que j'ai voulu dire.

Et ceci dit, je vois pas comment tu peux affirmer qu'une fourmi est consciente de la condition d'un éléphant ^^ (sachant que l'éléphant est tribal, à une très haute conscience de ce qui l'entoure. Une fourmi à d'autres codes très poussé mais elles sont très loin des codes de ces majestueux mammifère..)

Àh mais je dis pas l'inverse, j'ai pas dit aidé à la création, j'ai dit créer. En fait c'est le processus de création qui est fondamental dans mon propos. Pour moi c'est la limite des IA.

Après si ta réponse se cantonne à :"on ne connaît pas les limites d'une Ia" autant ne pas débattre :0

Ado, peu importe le temps on arrivera forcément à la singularité, c'est factuel.

A contrario pour ce qui est de la dystopie qu'elle engendrerait, c'est des plans sur la comète ça..

Super intéressant ce sujet ! :D
Avez-vous des liens/articles qui traite de ce sujet de manière "profonde"/"importante" ?

Pour ce qui est de l'art, la création, j'ai lu il y a pas longtemps un article (je ne sais plus si c'était sur internet ou dans une revue du style sciences et avenir) qui parlait d'une IA qui avait créé des musiques, et quand on les faisait écouter au public, celui-ci (sans savoir qui a composé la musique) devait donner son avis, comparer... Et bien apparemment le public était unanime sur la qualité/beauté de la musique de l'IA.

Un autre article (je ne me rappelle plus les sources malheureusement) parlait d'une IA qui "jouait" à Mario, et que celle-ci avait trouvé des méthodes pour obtenir le meilleur score auxquelles jamais un humain n'aurait pensé...

En tout cas de mon point de vue je suis très curieux de ce que pourrait devenir l'IA, de ce qu'elle pourrait nous apprendre, de sa façon de voir les choses (par exemple sa tactique originale aux échecs ou à mario, mais également dans plein d'autres domaines...).

Et je crois que récemment une IA avait aussi complètement atomisé plusieurs des meilleurs joueurs de Poker au monde...

Si on parle pas de singularité, alors un élément essentiel c'est la notion de responsabilité et donc de personnalité juridique : tôt ou tard une e-car se crashera volontairement pour tuer un seul gonze vieux et malade percutant une bagnole plutôt que 4 dont deux enfants dans une autre (situation merdique on c'est soit l'un soit l'autre, sans possibilité d'éviter les deux, évidemment). Qui est responsable ? Le proprio, le fabriquant, l'état, ou, comme j'ai tendance à le penser, l'AI, parce qu'après tout elle est dotée d'une capacité perception et de raisonnement supérieure à celle d'un humain ?

Ca urge même plutôt pas mal parce que ça peut arriver demain avec la google car.



Je crois que t'as pas trop idée de ce qu'il se passe chez les fourmis, en particulier ce qui concerne la conscience d'elles-mêmes, de leur groupe, des ressources (matérielles et temporelles) et de leur environnement au sens large. Lien.

Et ? De fait, tous les trucs "joueur humain contre IA" et ouh là là, j'ai peur ... C'est plus de la science-fiction pour faire peur et pour donner une quantification de l'intelligence, mais en termes de "mythologie". Tout le baratin sur "il faut être bon psychologue pour jouer au poker", ou bien "il faut être bon matheux pour jouer au poker", c'est de la connerie en barre (bon, pour les maths, ce n'est pas totalement faux --- mais qu'un ordi calcule plus vite qu'un homme, c'est un fait qui n'a rien à voir avec l'IA). Cela équivaut à la croyance "il faut être bon en français pour jouer au Scrabble". Rien du tout, on connait tous (comprendre : vous connaîtrez tous après lecture de l'article en lien) que ce n'est pas le cas :
http://bigbrowser.blog.lemonde.fr/2015/07/21/nigel-richards-champion-d...

A vrai dire, l'avantage majeur de l'IA dans ce genre de cas (ou plutôt de ceux qui la programment), c'est qu'elle/ils comprennent nettement mieux que celui qui évalue l'intelligence qu'est-ce qui est évalué. Une meilleure connaissance des codes implicites de l'intelligence. En s'intéressant plus à ce qu'il y a d'intéractionnel (d'intersubjectif, on peut dire aussi) dans l'évaluation de l'autre, on arrive à mieux cerner les attentes.

*********************

Non, ce qui est dangereux avec l'IA, ce n'est pas la "singularité" ou je ne sais quoi, c'est qu'à assez courts termes, il y a plein de boulots qui vont disparaître et plein de mecs qui vont être "OUT", et que le système économique n'est pas mûr pour absorber le travail "gratuit" produit par une robotisation massive. Mais je pense que le topic ne voulait pas aller dans cette direction.

Bien oui, et non à la fois.
Pour moi un bon exemple serait de dire que Magic the Gathering dépasse l'entedement d'une fourmi. Mais la question du contrôle de Magic the Gathering par la fourmi ne fais pas vraiment sens.

Imaginons que sur mon PC j'ai une intelligence artificielle autonome capable de s'auto-dupliquer et de modifier le code entier de mon ordinateur à sa guise pour poursuivre un but inconnu. Bon sa volonté, ses actes, tout ça dépasse mon entendement.

Maintenant la question de contrôle, elle n'est pas compliqué. En tant qu'être humain mon programme n'a aucune incidence sur moi et quand bien même elle peut avoir conscience des périphérique entrée/sortie, le fait d'imprimer un document, de produire du son, ou d'afficher tel ou tel chose n'a à priori pas de raison d'avoir lieu en tout cas certainement pas dans le but d'avoir une réponse en retour si cette machine n'a pas conscience que j'existe. Comment le pourrait-elle ?
Aussi complexe que sera mon IA elle sera au final limité par les composantes de mon ordinateur, sa mémoire, son processeur et j'en passe. Et je ne sais pas ce que tu appelles contrôler mais ce qui est sur qu'il nous est toujours possible d'agir sur la ressource en énergie voir son intégrité physique.

Ça c'est très vrai. Mais bon le seul candidat qui tenait compte de cette réalité à fait 7% au dernière présidentielle. On a les dirigeants qu'on mérite :0.
En réalité ce sujet est bien plus intéressant par son approche philosophique/sociologique (ou quoi que c soit de plus adapté) que par son approche scientifique :)

Ceci est quasiment un paraphrasé de ce que j'ai dit dans l'énoncé du topic donc c'est pas si hors-sujet. Je suis 100% raccord avec tes interventions sur l'AI quelque soit le topic moro, ça fait plaisir.

Je ne suis absolument pas convaincu par cette phrase. Et non pas parce que je crois aux complots, mais parce ça ne veut rien dire "les choses se déroulent au mieux". Enfin, c'est pas assez précis, c'est une position totalement relative aux intérêts de ceux qui ont pouvoir d'influence sur le développement de l'IA.

Dire que la peur est irrationnelle, c'est tout de même un peu gonflé, je vais te donné des exemples rationnelles:

L'IA millitaire, tu dis que les livres ne tuent pas directement, c'est vrai, mais l'IA pourra le faire, puisque le but c'est de faire qu'une machine puisse prendre une décision sans intervention humaine. De plus c'est encore un avatar derrière lequel des humains pourront défausser leur responsabilité (bug, piratage, etc). Exalter la mauvaise foi perso ça me fait peur.

L'IA en situation d'absence de contrôle humain, comment réagira t-elle face à un humain qui n'est pas "habilité" à interagir avec elle? Alors on peut anticiper beaucoup de chose, mais peut on TOUT anticipé?

Le piratage des IA, on nous baratine souvent avec les systèmes "inviolable", sauf que tout système repose sur le contrôle humain, qui lui est très facilement corruptible, influençable, etc.

Dans l'absolu l'IA me fait pas peur, de toute manière c'est comme toute innovation, quel est le but recherché? Facilité la vie humaine, ou facilité la vie de privilégié? Si c'est la seconde proposition, ça se fera encore et toujours au dépend d'une majorité qui sera cyniquement perçu comme inutile. Donc révolution technique inutile à la majorité, qui servira à la minorité à se détaché du "commun des mortels". Qui possédera les machines/IA?

Oui car le dernier point qui fait peur c'est la compétence humaine face aux IA, il y aura les compétents et les incompétents, et ceux qui financent qui décident qui est compétent (ou qui mérite de le devenir en finançant leur formation)...