Review: If Anyone Builds It, Everyone Dies. Why Superhuman AI Would Kill Us All

A temps pour Halloween, voici ma critique d'un livre qui, une fois n'est pas coutume, ne traite pas de la société en général, mais d'un phénomène technologique qui pourrait bien avoir un impact crucial sur celle-ci. En effet, depuis l'apparition sur le marché de ChatGPT en novembre 2023, nombreuses sont les les interrogations sur les capacités de l'intelligence artificielle et notamment de son impact possible sur le monde du travail. Mais ceci n'est pas la thématique abordée par les deux auteurs pionniers de la recherche en IA. Selon eux, le grand danger est que l'IA développe des capacités surhumaines et ne devienne indépendante à un certain moment après quoi elle serait hors de contrôle et pourrait par exemple décider d'annihiler l'humanité, suivant un raisonnement qui lui serait propre et incompréhensible à une logique humaine. Pour pouvoir ne serai-ce qu'envisager ceci, il faut savoir que les ingénieurs en IA ne programment que les paramètres initiaux, l'IA étant censée raisonner par elle-même par la suite(ce qui la distingue d'ailleurs, d'un programme traditionnel). De plus, personne ne peut prévoir quand exactement l'IA atteindra ce stade critique d'autonomie dans l'évolution de ses capacités, ce qui fait planer une sorte d'épée d'Damoclès au-dessus de toute la recherche en intelligence artificielle. Après la lecture de ce livre, je me suis penché plus amplement sur le sujet en écoutant notamment plusieurs podcasts sur YouTube et je me suis rendu compte que la majorité des chercheurs en IA sont conscient du problème sans pour autant pouvoir donner de solutions claires. Le livre lui-même se lit aisément dû à sa ressemblance avec un roman de science-fiction notamment quand les auteurs s'éloignent de la théorie pour évoquer différents scénarios dans lesquels une IA indépendante mènerait à une catastrophe. Néanmoins, il s'agit ici d'un ouvrage sérieux qui a le mérite de lancer le débat sur la place publique. Et contrairement à d'autres thèmes sociétaux, il serait peut-être encore possible de trouver un compromis faisant consensus, bien que les auteurs soient sceptiques à ce sujet pour différentes raisons expliquées dans l'ouvrage. Ceci laisse in fine un certain goût amer après lecture (l'effet recherché peut on supposer) bien qu'il ne sert à rien bien sûr de dramatiser outre mesure à mon avis.