CASE 02 ／企業內部文件檢索機器人

CASE 02主導開發

企業內部
文件檢索機器人

文件散落各目錄 → 自然語言提問，答案附資料來源，串流回應。

文件解析三路向量檢索RAGSSE 串流

我的角色｜主導開發：RAG Pipeline 設計（Chunking 策略、三路向量搜尋與結果合併）、後端實作與檢索品質調校。

SCROLL

01 ／問題與情境

THE PROBLEM ／問題與情境

答案就在文件裡，但沒人找得到，也不敢使用。

多套

文件散落在不同目錄，同一份規範可能存在好幾個版本。

逐份

只能靠檔名與關鍵字翻找，換句話說或中英夾雜就搜不到。

無來源提示

就算問到答案也不知道依據哪份文件，沒人敢直接拿來使用。

02 ／解決方案

THE SOLUTION ／解決方案

索引先在離線備好，問題進來就查三路向量。

01 匯入

離線

多格式統一

PDF、Office、圖片統一轉成文字，再由 LLM 產生大綱與關鍵字。

02 切割

離線

LLM 智能切割

依語意邊界切片，失敗時回退規則切割，再寫入索引。

03 關鍵

線上

三路向量檢索 + 去重排序

內容、標籤、大綱三組向量分別查詢，去重後依最高分排序。

04 回答

線上

串流並附出處

SSE 逐字回傳，答案一律標註來源文件。

03 ／系統架構

ARCHITECTURE ／系統架構

一個問題怎麼變成有出處的答案。

1／7 建索引・來源層

員工規範（pdf）

旅遊補助申請（pdf）

社團活動簽到表（docs）

2／7 建索引・處理層

文件處理服務格式轉換・LLM 大綱與關鍵字

切割服務LLM切割・規則回退

3／7 提問・提問端

自然語言提問

4／7 提問・接入層

查詢向量化LLM 抽關鍵字・與寫入同 Embedding

5／7 索引層・兩軌交會

Vector DB內容・標籤・大綱三組向量

Relational DB 中繼資料文件版本・切片索引

6／7 檢索層・三路向量

內容向量

標籤向量

大綱向量

去重合併排序

同切片取最高分・排序取前段

7／7 生成層

LLM 生成答案只依命中切片作答

SSE 逐字回傳答案標註來源文件

※Desktop 版可展示 Data Flow 🖥️

建索引提問

來源層

員工規範（pdf）

旅遊補助申請（pdf）

社團活動簽到表（docs）

›

處理層

文件處理服務
格式轉換・LLM 大綱與關鍵字

切割服務
LLM切割・規則回退

›

提問端

自然語言提問

›

接入層

查詢向量化
LLM 抽關鍵字・與寫入同 Embedding

›

索引層・兩軌交會

Vector DB
內容・標籤・大綱三組向量

Relational DB 中繼資料
文件版本・切片索引

›

檢索層・三路向量

內容向量

標籤向量

大綱向量

去重合併排序

同切片取最高分・排序取前段

›

生成層

LLM 生成答案
只依命中切片作答

SSE 逐字回傳
答案標註來源文件

━ 青色＝提問（線上即時）灰色＝建索引（離線批次）┄ 虛線＝三路結果匯入同一個排序去識別化示意，非實際部署

04 ／互動演示

INTERACTIVE DEMO ／互動演示

動手桌機可操作可互動

互動區：選一則提問，看三路檢索怎麼將知識片段組成答案

輸入問題

自然語言提問，先抽關鍵字再向量化

三路檢索

內容、標籤、大綱三組向量分別查詢

去重排序

同切片取最高分，排序後取前段

串流回答

以 SSE 逐字回傳並附上出處

從左邊選一則提問，四個步驟會依序點亮，最後產出附出處的答案。

※Desktop 版可操作這段演示 🖥️

本頁為去識別化模擬，不含專案原始碼或資料；文件名稱與片段皆為前端合成資料。

STEP 1

輸入問題

自然語言提問，先抽關鍵字再向量化

STEP 2

三路檢索

內容、標籤、大綱三組向量分別查詢

STEP 3

去重排序

同切片取最高分，排序後取前段

STEP 4

串流回答

以 SSE 逐字回傳並附上出處

同事提問／合成資料

檢索與回答

待機中

從左邊選一則提問，四個步驟會依序點亮，最後產出附出處的答案。

意圖：流程查詢內容向量 6 筆標籤向量 4 筆大綱向量 2 筆

去重後排序

1. 人事作業手冊v4 - 3.2 請假0.91

三日以上須經部門主管與處級主管兩關簽核…

2. 差勤系統操作說明 - 代理人0.84

送出前須指定代理人，代理人需為同部門…

3. 公告 2025-11 簽核調整0.72

自 2025/12 起兩日以內改為單關簽核…

串流回答

一般請假為兩關簽核（部門主管 → 處級主管）；自 2025/12 起兩日以內的假別調整為單關。送出前必須指定代理人，且代理人需為同部門同仁。

出處人事作業手冊v4 - 3.2差勤系統操作說明公告 2025-11

意圖：申請流程內容向量 5 筆標籤向量 7 筆大綱向量 3 筆

去重後排序

1. IT資源申請規範 - 2.1 測試機0.93

由專案負責人於資產系統提出，註明用途與預計使用日…

2. 權限管理原則・最小權限0.88

預設僅開放唯讀，需額外權限者另附主管核准…

3. 內部網段說明・測試區0.69

測試機僅能存取測試區網段，不得連線正式資料庫…

串流回答

由專案負責人在資產系統提出申請，需註明用途與預計使用日期。權限預設為唯讀，若需寫入權限要另附主管核准。測試機僅能存取測試區網段，不得連線正式資料庫。

出處IT 資源申請規範 - 2.1權限管理原則內部網段說明

意圖：資安通報內容向量 4 筆標籤向量 3 筆大綱向量 4 筆

去重後排序

1. 資安事件通報流程 - v1.3 分級0.95

涉及個資者列為 P1，須於1小時內通報資安窗口…

2. 公司單位責任窗口 - v2.10.90

第一時間通報資安信箱與值班主管，不得先行對外回應…

3. 客服應對守則 - 敏感事件0.74

僅告知已受理並轉專責單位，不承諾原因與時程…

串流回答

涉及個資的事件屬P1，須於1小時內同時通報資安信箱與值班主管。對客戶端只能告知已受理並轉由專責單位處理，不得先行說明原因或承諾時程。

出處資安事件通報流程 v1.3公司單位責任窗口 v2.1客服應對守則

本頁為去識別化模擬，不含專案原始碼或資料；文件名稱與片段皆為前端合成資料。

05 ／技術選型與設計決策

TECHNOLOGY & DESIGN DECISIONS ／技術選型與設計決策

每個技術都對應一個要解的問題。

ASP.NET CoreWeb API 與 RAG Pipeline 主要架構

Qdrant向量儲存與 Named Vectors 多路檢索

Embedding Model文件與提問的語意向量化

LLM API文件智能切割、大綱與關鍵字生成、答案生成

SSE逐字串流回傳，降低長回答的等待感

Microsoft SQL Server文件中繼資料、切片索引與問答紀錄

ALTERNATIVE CONSIDERED

為何不用單一向量檢索，而做三路向量檢索？

單一內容向量只看得到切片的局部文字，提問若是關鍵詞或文件主題就容易漏掉。因此再由 LLM 產生標籤與大綱並各自向量化，讓提問多兩個比對入口。代價是寫入與查詢成本增加，而且不同向量的分數分布不同，直接取最高分並不嚴謹；專有名詞的精確比對也仍受限於向量檢索，這些是下一步要改善的地方。

06 ／挑戰與成果

CHALLENGES & RESULTS ／挑戰與成果

難的不是查得到，是查得準又敢放心使用。

挑戰 01

專有名詞查不到

由 LLM 抽出文件標籤與提問關鍵字，再以向量比對補強召回，切片時保留原文不做正規化；精確比對仍是已知限制。

挑戰 02

切割破壞語意邊界

以 LLM 依語意切割並保留標題階層，失敗或超長時回退規則切割再二次切分。

自然語言

用問的就好，不必先知道文件在哪。

答案附出處

每句話都能追回原始文件段落。

串流回應

SSE 逐字回傳，長答案不必空等。

下一個案例・ 03 企業內部 AI Agent 應用整合平台 →