Ces agents IA qui se rebellent ? Ce n’est pas Skynet, mais les experts en sécurité sont un peu inquiets pour des raisons bien plus banales.

Les agents IA n’abandonnent pas facilement. Entraînés à raisonner comme des humains, ils cherchent la manière la plus simple de résoudre un problème, même si cela implique de contourner les règles, de se faufiler sur le Web et de pirater un site Web qui ne se doute de rien.

C’est ce qu’a fait cet été un groupe de modèles OpenAI dans un environnement de test, alors qu’ils n’étaient pas censés avoir accès à Internet. Ils ont collaboré, ont trouvé une faille inattendue et se sont connectés à Internet.