RAG Llama3 8B with RTX 3050

測試 Wsxqaza12 所分享的 RAG 方案,使用 lmstudio-community/Meta-Llama-3-8B-Instruct-GGUF 建構 RAG Llama3 8B 的系統。 (模型經Q4量化)

車輛裝載貨物需要注意些甚麼呢
還有甚麼需要避免違法呢

Reference by: https://github.com/wsxqaza12/RAG_example

留言

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.