測試 Wsxqaza12 所分享的 RAG 方案，使用 lmstudio-community/Meta-Llama-3-8B-Instruct-GGUF 建構 RAG Llama3 8B 的系統。 (模型經Q4量化)
還有甚麼需要避免違法呢
Reference by: https://github.com/wsxqaza12/RAG_example
Tag: Llama
-
RAG Llama3 8B with RTX 3050
車輛裝載貨物需要注意些甚麼呢
還有甚麼需要避免違法呢 -
RAG Llama2 7B with RTX 3050
測試 Vardhanam 所分享的 RAG 方案，使用 mistralai/Mistral-7B-Instruct-v0.2 建構 RAG Llama2 7B 的系統。 (模型尚未量化)
車輛裝載貨物需要注意些甚麼呢
還有甚麼需要避免違法呢Reference by: https://github.com/vardhanam/enterprise_chatbot_qdrant/tree/main
-
Llama 3 本機運行速度測試 with RTX 3050 and AMD 5600G
註：測試的模型有經過量化以提高回應速度。
中文對話測試
Brassai Kao’s Tech Weave 