« The Robustness Paradox...».
Photo: Telus
Une étude de TELUS Numérique révèle un risque dans le comportement des modèles d’IA
Une nouvelle étude publiée par TELUS Numérique, « The Robustness Paradox : Why Better Actors Make Riskier Agents » (en anglais seulement), révèle que l’utilisation de requêtes fondées sur des personas, une méthode consistant à demander aux grands modèles de langage de « jouer un rôle » dans le cadre d’une requête ou d’une conversation, peut causer des changements dans le jugement moral, ce qui entraîne des réponses inattendues et incohérentes.
