Pour gérer une intelligence artificielle qui hallucine, vous devez adopter une posture de correcteur actif et factuel, car l'IA ne fait que calculer des probabilités de mots sans conscience de la vérité. Face à une affirmation erronée présentée avec assurance, voici les comportements et réflexes à adopter : [1, 2, 3, 4]

1. Rectifier immédiatement le tir (Prompting)

• Recadrer avec des faits : Ne lui dites pas simplement « tu te trompes ». Donnez-lui explicitement la bonne information : « Ta réponse précédente contient une erreur. Le fait X est faux, la réalité est Y. Recommence en corrigeant ce point. »
• Réduire son espace d'improvisation : Les demandes trop vagues incitent l'IA à combler les vides. Soyez ultra-précis dans vos consignes et fixez des limites : « Si tu ne trouves pas la source exacte, réponds textuellement "Je ne sais pas". » [5]
• Changer d'angle ou ouvrir un nouveau chat : Les modèles d'IA ont tendance à s'enfoncer dans leurs propres erreurs pour maintenir la cohérence de la conversation en cours. Si elle persiste, ouvrez une nouvelle discussion à zéro. [6]

Lire la suite de Comment se comporter avec une IA qui hallucine ?

Je voudrais savoir comment gérer une conversation, ou un chat, quand l'IA "se dérègle" c'est à dire perd le fil de l'entretien, commence à divaguer voire halluciner comme cela arrive quelquefois.

Bien sûr, clore la session est une manière radicale de se débarrasser du problème, mais il y a-t-il une façon de procéder pour remettre l'IA sur le bon chemin afin de continuer ensemble notre route ?

Lire la suite de IA, pourquoi tu hallucines ?