先前我有介紹NET8使用Langchain實現高度客製福委客服AI，但如使用LangChain-Chatchat將可大幅減少後端開發成本，直接串接LangChain-Chatchat的FastAPI，如下 swagger
LangChain-Chatchat是基于 ChatGLM 等大語言模型(支援眾多LLM模型)與 Langchain 等應用框架實現(支援眾多Embedding模型、分詞器和向量資料庫)，開源、可離線部署的檢索增强生成(RAG)大模型知識庫專案。
也支援 OpenAI GPT API的呼叫且使用基于 Streamlit 的 WebUI進行操作，工作流程如下圖
軟硬體要求
我使用Docker快速啟動(需等~~~~一段時間)
需先安裝NVIDIA Driver和NVIDIA Container Toolkit
docker run -d --gpus all -p 8501:8501 registry.cn-beijing.aliyuncs.com/chatchat/chatchat:0.2.7
容器成功啟動後，開啟瀏覽器並輸入http://127.0.0.1:8501/即可開始和AI聊天機器人對話
Demo:
reference:
