IGNIKAH · 2026 半年客戶觀察 × 親身實踐

AI Agent
從概念到實戰

一層一層 Zoom In：先想清楚為什麼要，再決定怎麼設計，
最後看清楚系統踩在什麼土壤上。

Ⅰ 需求層 Ⅱ 應用層 Ⅲ IT Infra 層 ⌂ 總覽

Ⅰ・需求層 01

大家都說「我也要 Agent」

需求百百種——但你要的到底是哪一種？

🎧

客服系統

24 小時自動回覆
處理客訴與 FAQ

💻

寫程式

自動開發功能
修 bug、寫測試

📊

做簡報

一句話生成投影片
圖表、報告

🗺️

查行程

Google Map、訂票
行程規劃

你要一個特助同時寫程式、做簡報、接客服——合理嗎？ 萬能特助 = 什麼都懂、但都不精。正確解法：統一入口 + 專業分工 Agent 組織架構

Ⅰ・需求層 02

採用 Agent 前，先回答三個問題

沒有目的的 Agent = 沒有方向的員工

Q1

目的是什麼？

客服 / 開發 / 分析？
成功的標準是什麼？
失敗的容忍度有多少？

Q2

願意投資多少？

建置 + 維護 + 培養
不是一次性採購
預算不夠 = 買了用不起來

Q3

願意花多少時間培養？

不培養 = 永遠不懂你
記憶建立、Prompt 調整、錯誤修正都需要時間

怎麼培養

不要先買工具再想用途。目的決定架構，預算決定選型，時間決定深度。

Ⅰ・需求層 03

Agent 四分類——你需要懂誰的？

越往下：越難、越值錢、越需要時間投資

類型	範例	記憶來源	難度
懂大眾的	客服、搜尋引擎	訓練資料、公開知識	★ 買來即用
懂企業的	日常排程、ERP 整合	公司 SOP、內部文件	★★ 要建流程
懂領域的	法律 AI、醫療診斷	專業文獻、法規庫	★★★ 要專業知識
懂你的	貼身助理	USER.md、長期觀察	★★★★ 要時間培養

難度光譜：To C（大眾）→ To B（企業）→ To B（領域）→ To C（懂你） ——「懂你的」靠記憶系統累積記憶三層

Ⅱ・應用層 01

Agent 四要素

不是聊天機器人——你給目標，它自己想辦法完成

👁️

感知

接收文字、圖片、工具回傳、系統狀態

🧠

記憶

短期：Context Window
長期：外部記憶系統

記憶三層

📋

規劃

拆解目標成步驟
Multi-step 推理，決定下一個行動

⚡

行動

呼叫工具、寫程式、發 API、操作系統

LLM：你問一句 → 它答一句（被動、單 turn、無記憶）｜ Agent：你給目標 → 它達成目標（主動、多 turn、有記憶、有工具）

Ⅱ・應用層 02

人類大腦 vs AI

AI 很厲害，但有物理極限，也沒有使命感

	一般員工	AI AGENT
能力	有，但需要方向	有，但需要指令
自驅力	依賴主管指示	依賴 System Prompt
記憶	依賴筆記 / 習慣	依賴外部記憶系統
極限	注意力、精力	Context Window

AI 和大部分員工一樣——有能力，但需要被管理。差別是：不會累、不會情緒化、不需要薪水。管理系統的品質，決定輸出品質。

Ⅱ・應用層 03

記憶三層架構

模型是無狀態的——「記得你」需要被設計

🪞

習慣層

USER.md / CLAUDE.md

你的偏好與工作方式
溝通風格、常用指令
每次開機先載入

📚

知識層

Resources/

閱讀收集到的知識
領域筆記、參考資料
需要時查詢

🗂️

專案層

Projects/

當前工作的上下文
任務、進度、決策記錄
跟著專案走

導航做好 → 記憶建立快、查詢準。沒有好的索引，Agent 找不到自己的上下文。

Ⅱ・應用層 04

Agent 組織架構

使用者永遠只跟一個入口說話，後端自動分工

1️⃣

Single Agent

一個 Agent 全包

✗ Context 容易超載
✗ 技能衝突、記憶互相干擾
✓ 部署簡單，適合小任務

2️⃣

Multiple Agent

多 Agent 並行、各自獨立

✓ 各自專精、互不干擾
✗ 使用者要知道找誰
✗ 缺乏統一協調

3️⃣

SubAgent ✓

統一入口 + 專業分工

✓ 使用者只說一句話
✓ 主 Agent 路由、SubAgent 執行
✓ 適合複雜跨領域工作流

每個專業 Agent 有自己的記憶、工具、技能庫——能力來自 Skill Skill 三分類

Ⅱ・應用層 05

世界上沒有一開始就懂你的「人」

Agent 也一樣——你需要主動付出，他才能真正幫助你

🔧

提供工具

巧婦難為無米之炊

再有能力，沒有工具也做不了事
API、檔案讀寫、Web 搜尋
工具設計決定能做到什麼

🎓

提供知識技能

給他教育，使他提升

你的工作方式、習慣、偏好
CLAUDE.md / Skills / 記憶系統
是你「教育」Agent 的方式

🤝

提供信任感

信任建立在安全之上

護欄做好了，才敢放手
不斷詢問 vs 放手——你決定

護欄怎麼做

工具 → 讓他做得到｜知識 → 讓他做得好｜信任 → 讓他做得放心

Ⅱ・應用層 06

Skill 三種分類

Skill 同時是程式碼也是資料——不同分類需要不同治理

🌐

大眾 Skills

來源：開源社群

任何人都能用的通用工作流
/slides /search /translate

治理：安全掃描＋版本相容

🏢

組織 SOP Skills

來源：IT / Ops 維護

公司特定流程打包成 Skill
IT 工單・週報・費用核銷

治理：審核流程＋存取控制

🧠

個人習慣 Skills

來源：Hermes 自動學習

只對你有意義的個人習慣
觀察行為後自動歸納建立

治理：隱私保護＋時效性

程式碼面要弱點掃描（SAST、最小權限）；資料面要資料治理（版本控制、審核、時效檢查）。

Ⅲ・IT Infra 層 01

IT 基礎建設 = Agent 的安全成長環境

過去 IT 在做的事，繼續做——AI 不是特別的代理人

🔐

RBAC

角色權限控制——誰能做什麼

🌐

NetworkPolicy

網路隔離——只能連允許的服務

🦑

Squid Proxy

對外網路白名單管控

📦

容器化

限制 OS 與工具——只能用允許的程式

🌿

GitOps

所有變更有記錄——who / what / when

💾

DB Backup

出錯可還原——免除心疼的前提

給孩子一個安全的環境，放手讓他成長。IT 不是限制 AI 的枷鎖——IT 是 AI 能被信任、被放手的土壤。

Ⅲ・IT Infra 層 02

AI 四個真實風險

AI 本質上還是駐點人員——風險不因「離線」而消失

🔓

資料外洩

線上模型送出去、離線模型透過 logs / cache 洩漏
🛡 資料分級＋存取控制＋機密不進 context

💥

誤觸危險操作

DELETE 權限＋模糊指令 =「清一下舊的」→ 刪了重要資料
🛡 最小權限＋破壞性操作必問

🌀

無意間的破壞

做了字面上說的，不是你要的——「清測試資料」→ 清了正式環境
🛡 Dry-run＋操作前確認＋沙箱先跑

🔥

繞不出來，燒錢

迴圈沒有 circuit breaker，一直 retry——成本靜靜爆炸
🛡 最大迭代數＋Timeout＋預算警報

風險不是 AI 獨有的，是放大版的人員管理風險——Agent 動作快一百倍，風險也放大一百倍。

Ⅲ・IT Infra 層 03

AI 時代 DevOps 會拖慢速度？

把「產出速度」和「交付速度」混為一談了

❌

假快

沒有 DevOps

生成 3 秒、直接上線
出錯靠用戶回報
衝刺 → 崩潰 → 清理 → 再衝刺

🚗 100 km/h → 撞牆 → 0

✅

真快

有 DevOps

生成 3 秒、CI 自動測試
出錯上線前攔截
穩定持速、不需急修

🚗 80 km/h 永不停下

🚀

最快

AI＋DevOps

AI 生成程式碼＋測試同步
AI 做 PR 初審、寫 pipeline
瓶頸從「寫程式」移到「信任輸出」

🚀 快＋穩＋可持續

AI 讓寫程式快了十倍。DevOps 決定這個速度能不能持續。護欄是讓你敢踩油門的原因。

Ⅲ・IT Infra 層 04

大腦供應商

選供應商 = 選你 Agent 的思考方式

🌐

連網 vs 離線

連網（雲端）：能力強、持續更新、按量計費——資料送出去

離線（本地）：資料不出門、一次性硬體成本——能力視硬體而定

敏感資料 → 離線；一般應用 → 雲端

離線怎麼選

🧠

聰明 vs 敏捷

聰明（大模型）：Opus / GPT-4o——推理深、貴、慢

敏捷（小模型）：Haiku / mini——快、便宜、適合重複任務

複雜決策 → 聰明；快速回應 → 敏捷

用對的大腦做對的事，不是一直用最貴的。

Ⅲ・IT Infra 層 05

離線模型兩大瓶頸

先分類任務，再選模型——瓶頸不同，硬體需求截然不同

🗄️

Data-Intensive

瓶頸：記憶體頻寬＋Context Window

RAG、長文摘要、Embedding、知識庫問答

硬體：大 VRAM、Context 128K+
模型：Qwen2.5 / Gemma 2 / Llama 3.1

⚡

Compute-Intensive

瓶頸：GPU FLOPS＋量化精度

複雜推理、程式碼生成、Tool calling、Agent 決策

硬體：高算力、Q8 / FP16 精度
模型：DeepSeek-R1 / Llama 3.1 / Mistral

Tool calling 是 Compute-Intensive（Q4 量化容易格式亂）；但工具超過 20 個， schema 佔滿 context，就同時變成 Data 問題——動態載入相關工具。

Ⅲ・IT Infra 層 06

技術概念速查

好的 Agent 設計 = 精準的 Context Engineering

概念	白話	關鍵點
Prompt	你告訴 AI 要做什麼	System Prompt 是 Agent 的憲法
Context Engineering	決定 context 裡放什麼、怎麼放	放得精準表現好；塞太滿模型迷失
Harness	包在模型外的執行環境	工具執行＋權限管理＋Session＋Hook
Skills	預打包的工作流	/指令觸發，一個 Skill 一個任務
Hermes	自動培養層	觀察模式 → 自動建 Skills → 更新 USER.md

不是把所有東西都給 Model——放得精準，模型才表現得好。 結語

目的清楚→ 預算合理→ 技術選型→ 建置→ 培養→ 信任→ 放手

Agent 不是 ChatGPT 插外掛
它是一個需要被設計的系統

🏗️

過去 IT 的每一件事
現在都還重要

🌱

沒有一開始就懂你的「人」
需要主動付出與培養

🚀

護欄不是阻礙
是讓你敢踩油門的原因

AI Agent
從概念到實戰

Agent 不是 ChatGPT 插外掛
它是一個需要被設計的系統

— 開場

Ⅰ 需求層 — 為什麼要 Agent？

Ⅱ 應用層 — 怎麼把需求變成系統？

Ⅲ IT Infra 層 — 系統長在什麼土壤上？

— 收尾

AI Agent從概念到實戰

Agent 不是 ChatGPT 插外掛它是一個需要被設計的系統

— 開場

Ⅰ 需求層 — 為什麼要 Agent？

Ⅱ 應用層 — 怎麼把需求變成系統？

Ⅲ IT Infra 層 — 系統長在什麼土壤上？

— 收尾

AI Agent
從概念到實戰

Agent 不是 ChatGPT 插外掛
它是一個需要被設計的系統