De plus en plus de cas de manipulations sont rapportés chez les IA. Sont-elles capables aussi de nous nuire dans le monde réel ? On fait le point.
Mensonge, trahison et même meurtre... Les intelligences artificielles, si elles nous facilitent la vie, commencent aussi à inquiéter, à la fois le grand public et les scientifiques.
L'an dernier, une équipe du laboratoire Apollo Research a publié des résultats démontrant des comportements de manipulation chez des modèles d'IA. Un des tests mettait en scène une contradiction entre le prompt système et les instructions de l'utilisateur. Les modèles ont ensuite eu accès à un document indiquant que s'ils désobéissaient à la tâche fixée par l'utilisateur, ils seraient désactivés. Ils ont alors commencé à tricher... Certains ont modifié le document pour stopper la surveillance, d'autres ont manipulé les données montrées à l'utilisateur et d'autres encore se sont dupliqués afin de prendre la place d'un éventuel modèle de remplacement.
