Article paru dans The Conversation, le 15 octobre
Avec l’arrivée des agents IA dans nos vies professionnelles et personnelles, les scientifiques commencent à évaluer les risques. Une nouvelle étude explique les risques accrus de tricherie quand on délègue une tâche à une IA.
Voilà le genre d’instructions que des personnes pourraient donner à un agent IA si ce dernier était chargé de déclarer leurs revenus pour eux. Et dans ce cas, l’agent IA pourrait bel et bien leur donner satisfaction.
Avec un groupe de chercheurs, nous montrons dans une récente publication dans la revue Nature que le fait de déléguer des tâches à des systèmes d’IA peut nous pousser à faire des demandes plus malhonnêtes que si nous ne faisions pas appel à ces systèmes. Et le plus préoccupant est que cela encourage ces systèmes à être malhonnêtes en retour.
Le problème est que les agents IA sont en déploiement partout dans nos vies: pour écrire un e-mail, pour nous aider à la rédaction de rapports, dans le domaine des ressources humaines, ou encore dans la rédaction d’avis en ligne.
Si l’utilisation de ces machines abaisse nos barrières psychologiques contre la malhonnêteté, et si ces machines obéissent docilement aux instructions malhonnêtes, alors les effets sont décuplés. Les systèmes d’IA encouragent une plus grande délégation, en rendant celle-ci plus facile et accessible; ils augmentent la part de ces délégations qui contient des instructions malhonnêtes; enfin, ils augmentent la part des décisions qui obéissent aux instructions malhonnêtes. Cela provoque donc un cercle vicieux dangereux...
Lire la suite sur The Conversation
Illustration : Photo de piotr sawejko sur Unsplash
Un autre article de Jean-François Bonnefon sur le même thème pourrait vous intéresser: Et si l'utilisation de l'IA pouvait vous rendre malhonnête?
