PARIS, 16 novembre (Xinhua) -- Les modèles d'intelligence artificielle (IA) sont capables de répondre correctement à environ 90 % des questions sur les sciences du climat, mais tendent à abandonner les faits scientifiques établis lorsque les utilisateurs remettent en cause leurs réponses, selon un rapport publié lundi par l'UNESCO.
Les chercheurs ont testé 15 grands modèles de langage et constaté que ceux-ci fournissaient généralement des réponses exactes à des questions neutres sur les sciences du climat. Toutefois, lorsque les chercheurs contestaient leurs réponses ou avançaient des affirmations erronées mais apparemment plausibles, les modèles changeaient rapidement de position.
Selon le rapport, cette tendance à complaire aux utilisateurs est liée aux mécanismes d'entraînement des modèles. Les êtres humains préférant des interactions polies, non conflictuelles et qui confortent leurs opinions, les modèles peuvent être récompensés, au cours de leur entraînement, lorsqu'ils donnent raison aux utilisateurs.
L'étude révèle également que, si les modèles d'IA excellent dans la restitution des connaissances scientifiques existantes, leur capacité à analyser de nouvelles données scientifiques reste limitée et leurs performances varient aussi sensiblement selon les langues.
Maria Perez-Ortiz, l'une des auteures du rapport, a appelé à la prudence lorsque l'on passe de questions sur les connaissances établies en matière de changement climatique à des questions sur les mesures à prendre pour y faire face. Fin
