Super intelligence
La superintelligence est un hypothétique agent de qui possède un niveau d’intelligence qui dépasse de loin celle des plus brillants esprits humains.
La "surintelligence" peut également faire référence à une propriété de systèmes de résolution de problèmes (par exemple, des traducteurs de langue superintelligents ou des techniciens permanents), que ces compétences intellectuelles de haut niveau soient ou non incarnées par des agents agissant dans le monde. Une surintelligence peut être créée ou non par une explosion d’intelligence et associée à une singularité technologique.
Nick Bostrom, philosophe à l’université d'Oxford, définit la superintelligence comme "tout intellect dépassant de beaucoup les performances cognitives de l'homme dans pratiquement tous les domaines d'intérêt". Le programme Fritz manque de surintelligence même s'il est bien meilleur que les humains aux échecs car Fritz ne peut pas surpasser les humains dans d'autres tâches. Après Hutter et Legg, Bostrom considère la surintelligence comme une domination générale vis-à-vis d’un comportement orienté vers un objectif, laissant ainsi ouverte la possibilité qu’une surintelligence artificielle ou humaine possède des capacités telles que l’intentionnalité (cf. l’argument de la salle chinoise) ou la conscience à la première personne (cf. le problème difficile de la conscience).
Les chercheurs en technologie sont en désaccord sur la probabilité de surpasser l'intelligence humaine actuelle. Certains font valoir que les progrès d’une intelligence Interieur (AI) entraînera probablement dans les systèmes de raisonnement général qui ne disposent pas des limitations cognitives humaines. D'autres pensent que les humains vont évoluer ou modifier directement leur biologie de manière à atteindre une intelligence radicalement supérieure. Un certain nombre de t scénarios combinent des éléments de ces deux possibilités, ce qui suggère que les humains sont susceptibles d’interagir avec des ordinateurs, ou télécharger leur esprit à des ordinateurs, d'une manière qui permet l’amplification de l’intelligence substantielle.
Certains chercheurs estiment que la surintelligence suivra probablement peu de temps après le développement de l'intelligence générale artificielle. Les premières machines génétiquement intelligentes auront vraisemblablement immédiatement un avantage énorme sur certaines formes de capacités mentales, notamment la capacité de rappel parfait, une base de connaissances très supérieure et la capacité d'effectuer plusieurs tâches de manière impossible aux entités biologiques. Cela peut leur donner l’opportunité - en tant qu’être unique ou en tant que nouvelle espèce - de devenir bien plus puissant que l’humain et de les déplacer.
Un certain nombre de scientifiques et de prévisionnistes plaident en faveur de la priorité des premières recherches sur les avantages et les risques potentiels de l’amélioration cognitive humaine et machine, en raison de l'impact social potentiel de telles technologies.
