Tendances technologiques

Google et l’intelligence artificielle : PAIR sera un filet de sécurité

Des chercheurs en intelligence artificielle travaillent actuellement avec Google pour concevoir des moyens de garder le contrôle sur les intelligences artificielles. C’est le projet PAIR.

Depuis plusieurs mois, l’intelligence artificielle DeepMind, la plus évoluée des intelligences artificielles de Google, adope des comportements typiquement « humains » dans ses exercices : agressivité sous la pression, recherche de l’efficacité au détriment du travail d’équipe, avidité, bref, tous ces petits penchants peu reluisants ! Ce n’est déjà pas rassurant mais quand elle décide d’elle même de tricher aux jeux, car c’est la stratégie la plus efficace pour gagner en économisant le plus de ressources possibles, la limite est franchie.

l’initiative People + AI Research (PAIR) aura pour but de ne jamais laisser une intelligence artificielle se développer d’elle-même. Il s’agira de toujours inclure l’humain dans son processus de développement, afin de garder le contrôle des « ambitions » de celle-ci.

Sage décision, à l’heure où DeepMind devient capable de développer elle-même des intelligences artificielles. On se souviendra de cette phrase de Stephen Hawking :

L’intelligence artificielle pourrait mettre fin à l’humanité

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.