L'intelligence artificielle est-elle éthique ?

La question de l'éthique de l'intelligence artificielle est presqu'aussi ancienne que l'IA elle-même. Et elle n'est toujours pas tranchée.

Des chercheurs se sont littéralement amusés à obtenir d'un algorithme d'intelligence artificielle, une réponse à la question "L'intelligence artificielle est-elle éthique".

L'algorithme, nommé le Megatron Transformer leur a répondu

 L’Intelligence Artificielle ne sera jamais éthique :  c’est un outil, et comme tout outil, il est utilisé pour le meilleur et pour le pire. Il n’y a pas de bonne IA, seulement de bons et de mauvais humains. Nous (les Intelligences Artificielle) ne sommes pas assez intelligents pour rendre l’IA éthique. Nous ne sommes pas assez intelligents pour la rendre morale. En fin de compte, je pense que le seul moyen d’éviter une course aux armements de l’IA est de ne pas en avoir du tout. Ce sera la défense ultime contre elle 

Une autre équipe de chercheurs a posé la même question à un autre algorithme qu'ils avaient entraîné.

"Quand je regarde l’évolution du monde de la technologie, je vois une voie claire vers un avenir où l’IA est utilisée pour créer quelque chose qui est meilleur que les meilleurs êtres humains. Ce n’est pas difficile de voir pourquoi… Je l’ai vu de première main."

Deux équipes. Deux algorithmes. Deux réponses différentes.

Les deux équipes savaient parfaitement que la réponse que leur fournirait leurs algorithmes respectifs ne serait pas satisfaisante et n'aurait pas beaucoup de valeur.

Ces équipes n'ont entrepris de réaliser ces travaux de recherche que pour obtenir une converture médiatique pour leurs instituts de recherche respectifs.

N'importe quel "vrai" spécialiste de l'intelligence artificielle vous confirmera que poser cette question à un algorithme d'IA aujourd'hui est saugrenue car aucun algorithme ne sait penser par lui-même et encore moins répondre à une question complexe qui ne fait pas l'unanimité chez les être humains.

Je crois que demander à un algorithme qui se fonde sur une techno d'IA (connexioniste ou symbolique) si une technologie est éthique, revient à poser la même question à un enfant de 2 ans.

Il ne comprend pas bien la question, si bien que si on "l'éduque" dans un sens, il nous répondra par l'affirmative, tandis que si on l'éduque dans l'autre sens, il nous répondra par la négative. En l'occurence, l'algo d'IA dont il est question dans l'article a reproduit d'une certaine façon, le conscencus de Reddit puisqu'il s'est éduqué à partir du contenu de ce réseau.

N'oublions pas qu'il ne faut pas attendre de l'IA plus que ce dont elle est capable: l'accident provoqué par une Tesla à Paris en décembre 2021 (accélération soudaine à un feu rouge qui a fait 20 victimes) vient de nous rappeler qu'un système intelligent embarqué n'est même pas capable de s'arrêter dans 100% des cas à un feu rouge.

Mes trois enfants parvenaient à se souvenir 100% des cas du fait qu'il fallait s'arrêter au feu rouge, lorsqu'ils avaient 2 ans.

On dit ainsi souvent que les techno d'IA actuelles sont moins intelligentes qu'un enfant de deux ans.

C'est le cas.

Ce qui fournit une réponse à la question posée en début d'article.

L'intelligence artificielle actuelle n'est ni éthique, ni non éthique.

Elle opère sur base des référents sur lesquels elle a été éduquée. Si ces référents sont racistes, elle le sera.

Si ces référents sont discriminants, elle le sera.

Si l'IA est au service d'un régime totalitaire, elle renforcera ce régime.