Commençons par une idée reçue : contrairement à ce que l’on pourrait penser, ChatGPT ne cherche pas une réponse précise dans une base de données. Il s’appuie sur une connaissance interne issue de son entraînement sur des millions de textes.
Les modèles de langage (LLM) comme ceux qui alimentent ChatGPT ne comprennent pas les textes comme nous. Ils utilisent des calculs mathématiques pour créer des liens entre les mots, sans saisir leur sens.
Andrej Karpathy (ex d’OpenAI), explique que les modèles de langage “rêvent” les données plutôt que de les stocker. Ils réinterprètent les textes mathématiquement pour pouvoir ensuite “prédire” leurs réponses.
Ils hallucinent donc tout le temps, et parfois la réponse est bonne. Haha, on est bien.
Les pièges à connaître et comment s’en sortir
Alors comment on fait ? Il faut le savoir ! En particulier dans quels cas ChatGPT risque le plus de se tromper : Voici quelques exemples concrets où la vigilance est de mise :
- Citations, références scientifiques, chiffres et statistiques : ils doivent toujours être vérifiés.
- Biographies et faits précis : L’IA peut inventer des détails, surtout sur des personnalités moins connues.
- Informations sensibles : Vérifie toujours ce qui pourrait avoir un impact important sur ta santé ou ton travail.
- Tout ce pour quoi tu n’as pas d’expertise.
- Évite les questions “hors de leurs capacités” : par exemple leur donner un URL à lire, leur demander de lire un graphique sur un PDF ou de faire des calculs, a de très fortes chances de générer des erreurs.
- Événements postérieurs à la date d’entraînement : oui, la connaissance des chatbots d’IA s’arrête à la date de leur dernier entrainement. Claude s’arrête en avril 2024. GPT-4o en octobre 2023.
La MEILLEURE méthode ? Pour limiter les risques, l’idéal est de fournir directement des informations à l’IA.
Par exemple tu lui fournis des notes, tu les mets entre 3 guillemets comme ça :
""" [TES NOTES] """
- Donne-moi les 3 idées clés de ce texte.
- Réponds aux questions suivantes : ...La plupart des chatbots te proposent aussi d’analyser des documents (Word ou PDF par exemple). Donc c’est très pratique.
Comment les IA “rêvent” les infos