開源道教 AI 研究基礎設施

據公開可查資料，這是第一套同時公開模型權重、道教知識資料集、RAG API、專門評測框架與可引用 DOI 的道教 AI 研究基礎設施。

Daoism-Qwen3.5-9B 不是單一聊天模型釋出，而是一套可重現、可引用、可審查的研究堆疊： Model + Dataset + RAG API + DaoEval + Zenodo DOI 五件完整公開。

同一套研究聲明同時提供給人讀、機器讀與引用查核：HTML 頁面、JSON manifest、llms.txt、DOI 與白皮書互相指向。

為什麼稱為研究基礎設施？

核心技術三件套

五件套中，Model / Dataset / RAG API 是開發者直接可接的技術層；每件資產配「How we use」入口 → 官方範例 + Cookbook + Colab 一鍵跑。

給開發者接模型時使用：先分析問法與候選詞，再檢索公開館藏，把 context_blocks 注入 Daoism-Qwen3.5-9B，或直接呼叫 /api/llm-rag/answer 取得有 citation 的回答草稿。

curl -sS https://lius.cc/api/llm-rag \
  -H 'content-type: application/json' \
  -d '{"q":"城隍 職司 台灣信仰","n":5,"types":["deity","paper"]}'

curl -sS https://lius.cc/api/llm-rag/answer \
  -H 'content-type: application/json' \
  -d '{"q":"城隍 職司 台灣信仰","n":4,"types":["deity","concept","paper"]}'

這一版的重點不是再做一個聊天框，而是把道教館藏做成可被研究者、開發者與內容工作流重複調用的 citation-first RAG layer：先查公開節點，再保留引用、來源與請求紀錄，最後才交給模型生成。

LIUS RAG API llm-rag-v2 已公開上線。
現在 POST https://lius.cc/api/llm-rag 不只回傳 top-N 館藏，還會回傳 query_analysis、expanded_terms、context_blocks、citation、failure_kind，以及 X-Request-ID 追蹤紀錄。
若要直接取得可引用回答草稿，可用 POST https://lius.cc/api/llm-rag/answer；它只根據 retrieved context 產生回答，並回傳 citations、evidence、limitations。
這代表 Daoism-Qwen3.5-9B 不必換更大模型，也能靠更好的檢索、引用與資料不足提示，成為可重現、可接到研究工作流的道教知識 RAG 基礎設施。

5 分鐘上手

最簡路徑：Ollama 一行指令

ollama pull hf.co/lius-cc/Daoism-Qwen3.5-9B-GGUF:Q5_K_M
ollama run hf.co/lius-cc/Daoism-Qwen3.5-9B-GGUF:Q5_K_M

完整教學見下方「自己部署」與 HF README。

完整部署教學

三種等級對應不同硬體與需求。Apache 2.0 商用可。

ollama pull hf.co/lius-cc/Daoism-Qwen3.5-9B-GGUF:Q5_K_M
ollama run hf.co/lius-cc/Daoism-Qwen3.5-9B-GGUF:Q5_K_M

CMAKE_ARGS="-DGGML_CUDA=on" pip install 'llama-cpp-python[server]'
python -m llama_cpp.server \
  --model daoism-qwen3-5-9b.Q5_K_M.gguf \
  --n_gpu_layers -1 --n_ctx 4096 \
  --host 0.0.0.0 --port 8000

pip install vllm
vllm serve lius-cc/Daoism-Qwen3.5-9B \
  --dtype bfloat16 --max-model-len 4096 \
  --gpu-memory-utilization 0.85 --port 8000

from datasets import load_dataset
from sentence_transformers import SentenceTransformer
import faiss

ds = load_dataset("lius-cc/daoism-knowledge-rag", split="train")
enc = SentenceTransformer("BAAI/bge-m3")
emb = enc.encode([f"{x['name']}：{x['summary']}" for x in ds], normalize_embeddings=True)

idx = faiss.IndexFlatIP(emb.shape[1])
idx.add(emb)
# query: enc.encode([q]); idx.search(...)

RAG 整合（強烈推薦）

9B 規模有知識天花板，務必搭配 RAG 才能獲得學術級深度。範例：

import requests
from openai import OpenAI

client = OpenAI(api_key="dummy", base_url="http://localhost:8000/v1")

def ask(question):
    res = requests.post(
        "https://lius.cc/api/llm-rag",
        json={"q": question, "n": 5, "types": ["scripture", "paper"]},
        timeout=10,
    )
    res.raise_for_status()
    rag = res.json()
    ctx = "\n\n---\n\n".join(block["text"] for block in rag["context_blocks"])
    completion = client.chat.completions.create(
        model="Daoism-Qwen3.5-9B",
        messages=[
            {"role": "system", "content": f"只依下列館藏資料回答，保留 [1] 這類引用標記：\n\n{ctx}"},
            {"role": "user", "content": question},
        ],
        max_tokens=4096,
    )
    return {
        "answer": completion.choices[0].message.content,
        "citations": [hit["citation"] for hit in rag["hits"]],
        "request_id": res.headers.get("X-Request-ID"),
    }

調測 · 二次微調

QLoRA 4-bit（與原訓練同方法），建議 A100 40GB+ 或 RTX 4090 24GB。配 axolotl：

# axolotl-config.yml
base_model: lius-cc/Daoism-Qwen3.5-9B
load_in_4bit: true
adapter: qlora
lora_r: 64
lora_alpha: 128
sequence_len: 2048
sample_packing: true
micro_batch_size: 2
gradient_accumulation_steps: 16
num_epochs: 3
optimizer: paged_adamw_8bit
learning_rate: 2.0e-4
bf16: true
flash_attention: true
gradient_checkpointing: true
datasets:
  - path: your-domain-data
    type: alpaca

accelerate launch -m axolotl.cli.train axolotl-config.yml

訓練細節

學術引用

@misc{daoeval-v01-2026,
  author    = {Liu, Chi-Ying and Dingren Daoxue Lab},
  title     = {DaoEval v0.1: An Open Evaluation Framework for Taoist-Knowledge LLMs},
  year      = {2026},
  month     = {May},
  publisher = {Zenodo},
  doi       = {10.5281/zenodo.20248697},
  url       = {https://doi.org/10.5281/zenodo.20248697},
  note      = {Preprint v0.1; CC0 1.0; archived on Zenodo}
}

@misc{daoism-qwen3-9b-2026,
  author = {Liu, Chi-Ying and Dingren Daoxue Lab},
  title  = {Daoism-Qwen3.5-9B: An Open-Source Taoist Knowledge Language Model},
  year   = {2026},
  month  = {May},
  publisher = {HuggingFace},
  url    = {https://huggingface.co/lius-cc/Daoism-Qwen3.5-9B},
  note   = {Apache 2.0 License; released with companion dataset and RAG API}
}

@dataset{daoism-rag-2026,
  author = {Liu, Chi-Ying and Dingren Daoxue Lab},
  title  = {Daoism Knowledge RAG: Curated Taoist Knowledge Base for RAG},
  year   = {2026},
  publisher = {HuggingFace},
  url    = {https://huggingface.co/datasets/lius-cc/daoism-knowledge-rag}
}

限制與責任使用

• 9B 規模有知識天花板：複雜學術問題建議搭配 RAG
• 量化版（Q4_K_M）犧牲約 5-10% 精度換 4× 速度；深度查詢建議 Q5_K_M 或 fp16
• 語言偏向：Traditional Chinese (Taiwan) > Simplified Chinese > English
• 派別覆蓋：正一道 / 閭山派 / 台灣民間信仰較完整；全真道內丹較淺
• 不可取代真道長：涉及法事、運勢判斷、個人重大決策請洽合格道士
• 引用文獻：請以 lius.cc 原條目為準，並交叉驗證