Des chercheurs en intelligence artificielle travaillent actuellement avec Google pour concevoir des moyens de garder le contrôle sur les intelligences artificielles. C’est le projet PAIR.
Depuis plusieurs mois, l’intelligence artificielle DeepMind, la plus évoluée des intelligences artificielles de Google, adope des comportements typiquement « humains » dans ses exercices : agressivité sous la pression, recherche de l’efficacité au détriment du travail d’équipe, avidité, bref, tous ces petits penchants peu reluisants ! Ce n’est déjà pas rassurant mais quand elle décide d’elle même de tricher aux jeux, car c’est la stratégie la plus efficace pour gagner en économisant le plus de ressources possibles, la limite est franchie.
l’initiative People + AI Research (PAIR) aura pour but de ne jamais laisser une intelligence artificielle se développer d’elle-même. Il s’agira de toujours inclure l’humain dans son processus de développement, afin de garder le contrôle des « ambitions » de celle-ci.
Sage décision, à l’heure où DeepMind devient capable de développer elle-même des intelligences artificielles. On se souviendra de cette phrase de Stephen Hawking :
L’intelligence artificielle pourrait mettre fin à l’humanité
