基於大模型構建企業智能客服應用

分享人首先介紹了大型語言模型（LLM）的基本概念，包括它們如何通過大量的數據訓練來模擬人類的語言生成能力。然而，他也指出了這些模型的局限性，尤其是在面對未知或模糊的查詢時，模型可能會生成不準確或完全錯誤的回答，這種現象被稱為“幻覺”。他列舉了幾個實際案例，如公司的錯誤介紹、個人身份的誤解等，展示了模型在缺乏準確信息時會產生的錯誤回答。他解釋說，這種幻覺問題源於模型的生成能力，目前尚未完全解決。為了具體說明這一點，分享人分享了一些實際案例，其中包括模型在回答技術問題時的困惑，以及在理解特定行業術語時的局限性。他強調了對模型進行細緻評估的重要性，以便更好地理解其在特定應用場景下的表現和局限。

工程技巧改善模型幻覺

面對模型的幻覺問題，分享人提出了多種解決方案。首先是重新訓練模型，但這需要大量的數據和計算資源。其次是微調，通過對模型的一小部分參數進行調整以適應特定任務。分享人更傾向通過工程技巧來改善模型的幻覺問題。他提到了提示工程（Prompt Engineering），即通過精心設計的提示來引導模型生成更準確的回答。此外，信息增益（Information Gain,IG）也被提出作為一種方法，通過增加對特定領域知識利用來減少幻覺。

特別地，分享人詳細介紹了檢索增強生成（Retrieval-Augmented Generation, RAG）的方法。這種方法不是直接修改模型本身，而是通過外部知識庫來提供所需上下文信息。例如，通過在知識庫中檢索與問題相關的信息片段，並將其作為輸入的一部分，使得能夠生成更加準確回答。分享人通過實際演示展示了這種方法有效性。

分享人還提到了一些創新的方法，比如使用人類反饋進行強化學習（Reinforcement Learning from Human Feedback, RLHF），通過人類評估來指導學習過程，以減少幻覺發生。他還補充說明了微調過程中的技術細節，例如如何選擇合適微調數據集，以及如何平衡泛化能力和特定任務性能。

檢索增強生成介紹

分享人對檢索增強生成（Retrieval-Augmented Generation, RAG）技術進行深入介紹。他詳細描述嵌入空間構建過程，包括如何選擇和訓練嵌入模型，以及如何處理不同類型數據嵌入表示。他還探討如何通過聚類算法和主題建模來組織知識庫中的數據，以便於更有效地檢索。

此外，分享人還介紹了一些高級檢索技術，如使用BERT及其變體進行語義匹配，以及利用圖神經網絡（Graph Neural Networks）捕捉知識庫中實體之間關係，從而提高檢索準確性和深度。他進一步討論檢索增強生成實際應用中的挑戰，如如何有效從大量數據中檢索最相關片段，以及如何處理和整合檢索到的信息以生成流暢且準確回答。他提出了一些解決方案，包括使用更高效索引結構和優化檢索算法。