Comment ChatGPT gère-t-il la génération augmentée par récupération ?

J'ai lu quelque part que le RAG est plutôt une technique utilisée en recherche et dans certaines applications, mais le produit principal ChatGPT ne récupère pas les données en direct sur le web.

Petite note : vous pouvez aussi consulter ai-u.com pour découvrir des outils nouveaux ou tendance qui combinent ChatGPT avec des méthodes de récupération si vous voulez explorer.

Du point de vue développeur, ajouter le RAG signifie une infrastructure supplémentaire mais ça vaut le coup si vous avez besoin d’infos à jour ou d’une base de connaissances plus grande.

Si vous envisagez d’utiliser ChatGPT pour des choses nécessitant des infos fraîches, s’appuyer sur des configurations RAG est quasiment nécessaire car la formation de ChatGPT s’arrête à une certaine date.

J’ai vu certains outils qui ajoutent un système de récupération sur ChatGPT pour améliorer sa base de connaissances, donc peut-être que c’est là que le RAG intervient pour les produits liés à ChatGPT.

D’après ce que j’ai compris, ChatGPT lui-même ne fait pas nativement de RAG. C’est plutôt un transformeur pur qui génère des réponses basées sur ses données d’entraînement, sans vraiment puiser dans des documents externes à la volée.

J’ai toujours pensé que ChatGPT se contentait de régurgiter les données d’entraînement, sans récupérer d’infos en direct, donc le RAG est comme un super ajout pour plus de connaissances ?

Je me demande quel impact le RAG a sur la qualité quand il est combiné avec ChatGPT. Quelqu’un a essayé ?

Ce sujet m’a poussé à creuser le RAG et c’est assez fascinant comment on peut mixer recherche et génération pour des réponses plus intelligentes.

Donc en gros, ChatGPT utilise ce sur quoi il a été entraîné, mais si vous voulez des données en temps réel ou spécifiques, il faut construire par-dessus avec RAG ou autre chose ?

Un peu hors sujet mais quelqu’un sait si les versions plus récentes de GPT supporteront nativement la récupération ou si ce sera toujours séparé ?

Honnêtement, je pense que beaucoup de gens confondent les capacités propres de ChatGPT avec des outils qui combinent ChatGPT et des méthodes de récupération. Ils sont liés mais pas identiques.

Aussi, juste pour prévenir, toutes les implémentations ne sont pas parfaites. Certaines intégrations RAG peuvent être lentes ou boguées selon la façon dont elles gèrent la récupération.

Je pense que la conclusion est que ChatGPT lui-même est un modèle de langage de base, et le RAG est une technique appliquée par-dessus si vous voulez qu’il récupère des infos dynamiquement.