Harbor AI 2.0 子案例
AI 助理聊天室
聊天室需呈現等待及工具回饋,避免把內部文件與引用標記當成使用者答案。
- 我的角色
- 本人參與需求、互動判斷、受眾邊界及實機驗收,協調 AI agents 修正回答與介面;即時資料能力由工程夥伴負責。
參與範圍示意(點圖放大)要解決的問題
聊天室需呈現等待及工具回饋,避免把內部文件與引用標記當成使用者答案。
輸入、處理與產出
- 輸入
- 使用者提問、工具執行狀態及符合受眾的知識內容。
- 處理方式
- 前端呈現等待與工具來源;知識匯入、檢索及語意快取共同管理受眾邊界。
- 產出
- 可理解的處理回饋與引用呈現,避免內部語境直接進入答案。
適用範圍
本人參與需求、互動與品質判斷;即時資料及各端實作保留夥伴分工。
核心問題與我的做法
等待畫面要能說明助理正在做什麼
聊天工具處理中缺少具體回饋,使用者難以分辨等待、查詢和回覆。
讓等待文字、工具來源與顯示開關對應實際處理狀態。 本人追加需求、參與互動選擇與實機走查,協調 agents 整合推播狀態、工具資訊及引用標記處理。
等待回饋、工具資訊與引用呈現已整合到版本線,並留下本人實機走查紀錄。
從回答洩漏內部語境追到知識來源
使用者問產品功能,回答卻帶出內部開發模組,單純隱藏引用不會改變檢索語料。
我參與釐清對外受眾與內容邊界,協調 AI agents 重整語料,讓匯入前的受眾標記缺漏時預設不提供給對外知識庫。修正也包含重新匯入及清除語意快取,避免舊答案繼續被使用。
對外語料與受眾防護已合入版本線,並以檢索、引用、資訊洩漏及失敗降級測試核對;完整真人問答仍有待驗項目。
成果與驗證
已整合等待回饋、工具資訊與引用呈現,完成實機走查;對外知識庫改以受眾標記篩選語料,並檢查檢索及快取。完整真人問答仍有待驗項目。
SSE · RAG · Semantic cache · 回歸測試
回到工業智慧監控平台