Les hallucinations sont inévitables

Les hallucinations des LLM sont inévitables quels que soient les efforts pour en réduire l’ampleur ! Reste que ce sont les cas d’utilisation qui rendent les hallucinations problématiques, et non la propriété elle-même. Même les meilleures pratiques pour diminuer les hallucinations, comme le RAG, ne parviennent pas à garantir des produits sans hallucinations, comme le pointe une étude relayée par 
Stanford HAI sur les services de recherche juridique sous IA. L’évaluation de ces systèmes reste difficile, soulignent les chercheurs. Et l’opacité de ces produits commerciaux rend l’évaluation plus compliquée encore.