Explosion de l'intelligence artificielle
L'explosion de l'intelligence est une conséquence théorique possible de la construction par l'humanité de l’intelligence générale artificielle (IGA ou AGI) qui est elle-même hautement hypothétique.
L'AGI serait capable d'une auto-amélioration récursive, conduisant à l'émergence rapide d’une superintelligence artificielle (ASI), dont les limites sont inconnues, peu après que la singularité technologique ait été atteinte.
IJ Good supposait en 1965 que l'intelligence générale artificielle risquait d'entraîner une explosion de l'intelligence. Il spécula sur les effets des machines surhumaines, si jamais elles devaient être inventées.
Une machine ultra-intelligente serait une machine pouvant surpasser de loin toutes les activités intellectuelles de tout homme, même intelligent. La conception de machines étant l’une de ces activités intellectuelles, une machine ultra-intelligente pourrait concevoir des machines encore meilleures. il y aurait alors une «explosion de l'intelligence» et l'intelligence de l'homme serait laissée loin derrière. Ainsi, la première machine ultra-intelligente est la dernière invention dont l'homme ait jamais besoin, à condition que la machine soit docile et capable de nous dire comment la garder sous contrôle.
Le scénario de Good fonctionne comme suit: à mesure que les ordinateurs gagnent en puissance, il devient possible pour les utilisateurs de construire une machine plus intelligente que l'humanité. Cette intelligence surhumaine possède des compétences inventives et de résolution de problèmes plus importantes que celles dont l'homme est capable. Cette machine super intelligente conçoit alors une machine encore plus performante ou réécrit son propre logiciel pour devenir encore plus intelligente; cette machine (encore plus performante) continue ensuite à désigner une machine encore plus performante, et ainsi de suite. Ces itérations d’auto-amélioration récursives s’accélèrent, permettant un énorme changement qualitatif avant toute limite supérieure imposée par les lois de la physique ou le calcul théorique défini dans
