AI Agent:從概念到實戰(2026 演講記錄)

🔍 互動投影片:ai-agents/agent-talk — Prezi 風格縮放式簡報, 從需求層 Zoom In 應用層、再 Zoom In IT Infra 層。鍵盤
←→翻頁、滾輪縮放、M開目錄。
本頁記錄 2026 年 Agent 主題演講的完整論述脈絡,源自半年客戶觀察與親身實踐。
整體結構:三層 Zoom In
Ⅰ 需求層 —— 為什麼要 Agent?
⤵ Zoom In
Ⅱ 應用層 —— 怎麼把需求變成系統?
⤵ Zoom In
Ⅲ IT Infra 層 —— 系統長在什麼土壤上?
Ⅰ・需求層 — 為什麼要 Agent?
1. 大家都說「我也要 Agent」
客服、寫程式、做簡報、查行程——需求百百種。 但你要一個特助同時做所有事,合理嗎?萬能特助 = 什麼都懂、但都不精。 正確解法:統一入口 + 專業分工。
2. 採用前先回答三個問題
| 問題 | 重點 |
|---|---|
| Q1 目的是什麼? | 成功標準、失敗容忍度 |
| Q2 願意投資多少? | 建置 + 維護 + 培養,不是一次性採購 |
| Q3 願意花多少時間培養? | 不培養 = 永遠不懂你 |
沒有目的的 Agent = 沒有方向的員工。不要先買工具再想用途。
3. Agent 四分類——你需要懂誰的?
| 類型 | 範例 | 記憶來源 | 難度 |
|---|---|---|---|
| 懂大眾的 | 客服、搜尋引擎 | 訓練資料、公開知識 | ★ 買來即用 |
| 懂企業的 | 排程、ERP 整合 | 公司 SOP、內部文件 | ★★ 要建流程 |
| 懂領域的 | 法律 AI、醫療診斷 | 專業文獻、法規庫 | ★★★ 要專業知識 |
| 懂你的 | 貼身助理 | USER.md、長期觀察 | ★★★★ 要時間培養 |
越往下:越難、越值錢、越需要時間投資。
Ⅱ・應用層 — 怎麼把需求變成系統?
1. Agent 四要素
感知 → 記憶 → 規劃 → 行動。 LLM 是「你問一句、它答一句」;Agent 是「你給目標、它達成目標」——主動、多 turn、有記憶、有工具。
2. 人類大腦 vs AI
AI 和大部分員工一樣:有能力,但需要被管理。 差別是不會累、不會情緒化、不需要薪水。極限不是精力,是 Context Window。 管理系統的品質,決定輸出品質。
3. 記憶三層架構
| 層 | 載體 | 內容 |
|---|---|---|
| 習慣層 | USER.md / CLAUDE.md | 偏好、工作方式,每次開機先載入 |
| 知識層 | Resources/ | 領域筆記、參考資料,需要時查詢 |
| 專案層 | Projects/ | 任務、進度、決策記錄,跟著專案走 |
導航做好 → 記憶建立快、查詢準。
4. Agent 組織架構
Single Agent(context 易超載)→ Multiple Agent(使用者要知道找誰)→ SubAgent(統一入口 + 專業分工)。 使用者永遠只跟一個入口說話,後端自動路由分工。
5. 培養三付出
世界上沒有一開始就懂你的「人」,Agent 也一樣:
- 提供工具 — 讓他做得到(巧婦難為無米之炊)
- 提供知識技能 — 讓他做得好(CLAUDE.md / Skills 是教育方式)
- 提供信任感 — 讓他做得放心(護欄做好了,才敢放手)
6. Skill 三種分類
| 分類 | 來源 | 治理重點 |
|---|---|---|
| 大眾 Skills | 開源社群 | 安全掃描 + 版本相容 |
| 組織 SOP Skills | IT / Ops 維護 | 審核流程 + 存取控制 |
| 個人習慣 Skills | Hermes 自動學習 | 隱私保護 + 時效性 |
Skill 同時是程式碼也是資料:程式碼面要弱點掃描,資料面要資料治理。
Ⅲ・IT Infra 層 — 系統長在什麼土壤上?
1. IT 基礎建設 = Agent 的安全成長環境
RBAC、NetworkPolicy、Squid Proxy、容器化、GitOps、DB Backup—— 過去 IT 在做的事,繼續做。AI 不是特別的代理人。
給孩子一個安全的環境,放手讓他成長。 IT 不是限制 AI 的枷鎖——IT 是 AI 能被信任、被放手的土壤。
2. AI 四個真實風險
AI 本質上還是駐點人員,風險不因「離線」而消失:
- 資料外洩 → 資料分級 + 存取控制 + 機密不進 context
- 誤觸危險操作 → 最小權限 + 破壞性操作必問
- 無意間的破壞 → Dry-run + 操作前確認 + 沙箱先跑
- 繞不出來燒錢 → 最大迭代數 + Timeout + 預算警報
這些是放大版的人員管理風險——Agent 動作快一百倍,風險也放大一百倍。
3. 「AI 時代 DevOps 會拖慢速度」?
| 假快(沒有 DevOps) | 真快(有 DevOps) | 最快(AI + DevOps) | |
|---|---|---|---|
| 模式 | 生成 3 秒直接上線 | CI 自動測試攔截 | AI 生成 + AI 初審 |
| 結局 | 100 km/h 撞牆歸零 | 80 km/h 永不停下 | 快 + 穩 + 可持續 |
AI 讓寫程式快了十倍,DevOps 決定這個速度能不能持續。護欄是讓你敢踩油門的原因。
4. 大腦供應商
- 連網 vs 離線:敏感資料 → 離線;一般應用 → 雲端
- 聰明 vs 敏捷:複雜決策 → 大模型;快速回應 → 小模型
用對的大腦做對的事,不是一直用最貴的。
5. 離線模型兩大瓶頸
| Data-Intensive | Compute-Intensive | |
|---|---|---|
| 瓶頸 | 記憶體頻寬 + Context Window | GPU FLOPS + 量化精度 |
| 任務 | RAG、長文摘要、Embedding | 推理、程式碼生成、Tool calling |
| 硬體 | 大 VRAM、128K+ context | 高算力、Q8 / FP16 |
Tool calling 是 Compute-Intensive(Q4 量化容易 JSON 格式亂); 但工具超過 20 個、schema 佔滿 context,就同時變成 Data 問題——解法是動態載入相關工具。
6. 技術概念速查
| 概念 | 白話 | 關鍵點 |
|---|---|---|
| Prompt | 你告訴 AI 要做什麼 | System Prompt 是 Agent 的憲法 |
| Context Engineering | 決定 context 放什麼 | 放得精準表現好;塞太滿模型迷失 |
| Harness | 包在模型外的執行環境 | 工具執行 + 權限 + Session + Hook |
| Skills | 預打包的工作流 | /指令 觸發,一個 Skill 一個任務 |
| Hermes | 自動培養層 | 觀察 → 自動建 Skills → 更新 USER.md |
結語
目的清楚 → 預算合理 → 技術選型 → 建置 → 培養 → 信任 → 放手
Agent 不是 ChatGPT 插外掛,它是一個需要被設計的系統:
- 🏗️ 過去 IT 的每一件事,現在都還重要
- 🌱 沒有一開始就懂你的「人」,需要主動付出與培養
- 🚀 護欄不是阻礙,是讓你敢踩油門的原因