Degré de confiance et mises en garde

Nous rappelons aux personnes qui participent aux premières phases de mise à l’essai de notre agent conversationnel d’IA qu’il convient, pour le moment, d’accorder un degré de confiance plus limité aux réponses générées par l’IA, notamment pour les raisons suivantes :

• nous n’avons pas encore intégré l’ensemble des ressources prévues à notre base fermée de ressources;
• nous continuons d’ajuster les règles et les instructions en fonction des tests en cours;
• nous n’avons pas encore exploré pleinement les principaux processus faisant intervenir une validation humaine (« human-in-the-loop », ou HITL), ni mis à l’essai un éventail de grands modèles de langage de tiers.

Nous rappelons également aux personnes qui participent aux premières phases de mise à l’essai les mises en garde suivantes concernant les réponses obtenues :

• elles peuvent contenir des « hallucinations », par exemple des ressources ou des affirmations inventées;
• elles peuvent contenir des affirmations qui ne peuvent être rattachées au contenu des sources figurant dans notre base fermée de ressources.