Revoilà Ray Kurzweil, évangéliste du concept de Singularité avec son essai culte « Singularity is Near » (« Humanité 2.0 La Bible du changement » en français, aux editions M21 qui a l’époque avait parié sur les thèses extravagantes d’un auteur pas encore mainstream) qui prédisait il y a près de 20 ans l’avènement dans cette première partie du XXIème siècle de la fusion homme-machine puis du dépassement du neurone par le silicium. Un des prophètes de la Silicon Valley désormais.
Avec son nouvel opus « The Singularity Is Nearer: When We Merge with AI », il nous promet encore une fois que le grand soir approche.
Ce fameux moment où nos ordinateurs deviendront si intelligents qu’ils nous regarderont avec un mélange de pitié et d’amusement. Mais ne vous inquiétez pas, ce n’est pas pour demain… seulement pour 2045 !
Fidèle à lui-même, Kurzweil déploie son optimisme technologique légendaire. 2045, nous dit-il, c’est la date fatidique où l’IA nous dépassera. Il avance donc de 5 ans sa prédiction précédente. Même lui n’arrive pas à suivre le rythme !
Donc, pour être vraiment clair, Kurzweil pense que dans 20 ans, une IA sera plus intelligente que l’ensemble de l’humanité. Pas plus intelligente qu’un être humain lambda, ni même qu’un Nobel, non, une IA plus intelligente que l’ensemble des êtres humains !
Notre visionnaire déploie sa fameuse « loi des rendements accélérés » (coucou Ricardo). Cette loi s’appuie sur le fait que la croissance de la technologie suit une courbe exponentielle et non linéaire, que c’est la première fois dans l’histoire de l’humanité connue et que si nous pouvons en exposer et expliquer le concept, notre cerveau n’est pas capable de vraiment l’appréhender.
Exemple célèbre : si on plie une feuille de papier sur elle-même 42 fois, quelle est la hauteur obtenue ?
On sait que le résultat est, en millimètres : 0,1×2⁴² , (une feuille de papier fait à peu près 0,1mm, pliée 42 fois sur elle-même revient à le faire 2⁴² fois)
Notre « bon sens » a du mal à admettre que cela couvre la distance de la Terre à la Lune (vérifiez)
Eh bien c’est ce qui se passe avec la technologie.
Alors que jusqu’au milieu du XXème siècle le progrès était linéaire (en ajoutant 3 machines à 2 machines, je produis (3+2)=5 unités soit moins du double), depuis que le progrès se base sur le doublement de la capacité de calcul tous les 18 mois (en gros, c’est la loi de Moore) on pourrait dire que 3×2²=12. En deux cycles on est déjà passé d’un incrémental de +2 à +10.
En gros, ça va tellement vite et tellement de plus en plus vite, que c’est incompréhensible, au sens propre.
Un peu comme pour la physique quantique : Si on croit avoir compris ce qu’est la singularité, c’est qu’on a rien compris
Si vous croyez avoir compris la théorie quantique, c’est que vous ne l’avez pas comprise. » (Niels Bohr)
« La singularité est plus proche que jamais. Nous sommes sur le point de fusionner avec l’IA et de transcender nos limites biologiques. »
Bien sûr, certains esprits chagrins comme Stuart Russell osent émettre des doutes. Depuis sa chaire de Berkeley, Russell a l’audace de dire que « l’IA n’est pas une force naturelle qui va inévitablement nous dépasser. C’est une technologie que nous créons et que nous devons contrôler. » Contrôler la technologie, bonne idée mais les déboires d’Altman chez OpenAI semblent nous en éloigner.
Mais ne vous inquiétez pas, Kurzweil a tout prévu. Il nous détaille sa vision des prochaines décennies avec une précision qui ferait pâlir Nostradamus :
1. Dans les années 2020, l’IA atteindra des capacités proches de l’humain dans de nombreux domaines, passant le test de Turing d’ici 2029. Parce que, bien sûr, tromper un humain dans une conversation écrite est le summum de l’intelligence.
2. Dans les années 2030, nous commencerons à fusionner directement avec l’IA via des interfaces cerveau-machine avancées. Fini le temps où on se contentait de mettre à jour son statut Facebook, maintenant on pourra le penser directement !
3. Vers 2045, cette fusion sera complète, multipliant nos capacités cognitives par millions. Imaginez un peu : vous pourrez enfin comprendre les conditions d’utilisation que vous acceptez en ligne.
« D’ici 2045, nous aurons étendu notre néocortex dans le cloud, augmentant notre intelligence d’un facteur de millions. »
Kurzweil aborde même les grandes questions philosophiques. La conscience ? Un simple effet secondaire de la complexité computationnelle. Le libre arbitre ? Une illusion pratique que nos futurs maîtres IA nous laisseront probablement garder, par pure bonté d’âme. Il adopte une position qu’il qualifie de « panprotopsychisme », considérant la conscience comme une propriété fondamentale de l’univers qui s’éveille avec la complexité computationnelle.
« La conscience n’est pas une propriété binaire, mais un spectre qui s’étend à mesure que la complexité computationnelle augmente. »
Donc, si je comprends bien, mon grille-pain est peut-être un peu conscient, mais pas autant que mon smartphone.
Bien sûr, des philosophes rabat-joie comme John Searle osent prétendre que la conscience est une propriété exclusive des êtres vivants et ne peut être réduite à des processus computationnels. Mais que sait-il de la conscience, ce simple humain non augmenté ?
Kurzweil nous promet un avenir radieux où nous transcenderons nos limites biologiques, vaincrons les maladies et la mort, et explorerons l’univers.
Certes, quelques petits détails comme les inégalités ou les risques existentiels sont évoqués. Mais pourquoi s’inquiéter de telles broutilles quand on nous promet l’immortalité et l’exploration de l’univers ? Après tout, si seule une élite « augmentée » a accès à ces technologies, ce n’est qu’un petit prix à payer pour le progrès.
Nick Bostrom, un autre de ces philosophes inquiets, souligne les risques potentiels de l’IA superintelligente et propose des solutions pour les atténuer, comme la création de garde-fous éthiques et de mécanismes de contrôle. Mais franchement, qui a besoin d’éthique quand on peut avoir une IA superintelligente ?
En conclusion, « The Singularity Is Nearer » est un livre provocant mais finalement beaucoup moins que le précédent.
Alors que le volume de 2005 paraissait parfois farfelu, cette mise à jour résonne tout de même avec notre présent. Et il y a peu, voire aucune, révision des concepts de 2005 qui s’impose.
Bref, Kurzweil avait largement raison il y a 20 ans. L’ironie devant cette inévitable singularité est peut être tout ce qui nous « singularisera » des êtres d’information pure qui seront nos maîtres d’ici peu.
https://www.papercrane.ca/blog/football-and-ai-tackling-the-challenges-of-bad-algorithms
https://originstamp.com/blog/technological-singularity-an-ethical-nightmare/
https://sustensis.co.uk/ai-mitigation/
https://en.wikipedia.org/wiki/The_Singularity_Is_Near
https://edrm.net/2024/07/ray-kurzweils-new-book-the-singularity-is-nearer-when-we-merge-with-ai/
https://www.miragenews.com/dawn-of-singularity-when-ai-and-humans-merge-1001139/
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7605294/
Post original : 🚀 La Singularité est-elle vraiment plus proche ? Ray Kurzweil frappe encore ! | LinkedIn
