所有文章

實用指南

AI Agent 定 ChatGPT?企業何時值得建立 AI 工作流程

ZTOA Group · · 閱讀時間約 4 分鐘

不少香港企業的同事已經在用 ChatGPT:草擬電郵、撰寫摘要、翻譯文件。所以當我們建議為企業開發 AI Agent 時,客戶最常問的問題很合理:為甚麼不直接用 ChatGPT?

簡單來說:一次性的工作,ChatGPT 往往已經足夠。但如果工作每天重複、需要用到公司自己的資料或工具,而且結果必須穩定地送到指定地方,一個度身設計的 AI Agent 通常成本更低、出錯更少。本文說明兩者的分界線在哪裡。

AI Agent 定 ChatGPT:真正的分別是甚麼?

兩者背後用的是同一類大型語言模型,分別在於由誰負責整個流程。

  • 用 ChatGPT,你自己就是流程。 由你決定問甚麼、貼上資料、閱讀答案、修改錯處,再複製到需要的地方。每一次都由空白對話開始。
  • 用 AI Agent,流程只需設計一次。 Agent 清楚每個步驟,會調用所需工具(地圖搜尋、真實瀏覽器、你的資料庫、排程器),檢查自己的輸出,再把結果送到團隊日常使用的地方,例如 WhatsApp、Telegram 或 CSV 檔案。每次運行都有紀錄。

AI Agent 並不是更聰明的模型,而是把同一個模型放進一個經過設計、測試並持續維護的流程之中。

甚麼情況用 ChatGPT 已經足夠

如果以下大部分情況成立,用聊天工具就可以:

  • 工作屬一次性或偶爾進行,而不是每天重複。
  • 需要處理的資料份量不多,可以直接貼上。
  • 每個步驟都需要你的判斷,例如敏感的電郵或策略草稿。
  • 你會即時閱讀結果,錯誤在造成影響前已被發現。
  • 得到答案之後不需要再做任何事:不用發佈、存檔或發送。

這類工作不必開發 AI Agent。一個好的提示詞,加上清晰的公司政策(規定哪些資料可以貼上),已經足夠。

甚麼情況值得開發 AI Agent

以下信號越多,越值得建立 AI Agent:

  1. 工作會重複。 同一件事每天或每週進行,有同事不斷重新輸入相同的提示詞。
  2. 需要聊天視窗以外的資料或工具。 例如地圖、即時網站、客戶名單、行事曆。
  3. 結果必須送到某處。 帖文要發佈、提示要發送、檔案要儲存。
  4. 無聲的錯誤代價高。 你需要知道運行了甚麼、產生了甚麼,以及是否成功。
  5. 不只一個人依賴這件工作。 流程不應只存在於某位同事的對話紀錄裡。

如果符合三項或以上,這件工作就很適合做成工作流程。

數字怎樣說:Token 成本與成功率

我們每個 AI Agent 頁面都比較了用 AI 完成同一件工作的兩種方法:在聊天機械人逐步貼上資料(「臨時用法」),以及透過設計好的工作流程運行。下表數字是我們對一次典型任務的估算,與各 Agent 頁面上顯示的相同,並非實測的客戶數據,實際數字會因任務而異。

任務臨時聊天:Token/成功率Agent 工作流程:Token/成功率
整理 100 個潛在客戶名單(潛在客戶搜尋助手)約 200,000/48%約 40,000/87%
每日一則經查證、有設計的帖文(社交媒體自動發佈助手)約 120,000/45%約 45,000/91%
製作一條 60 秒故事短片(故事短片工作室)約 80,000/40%約 25,000/85%
一個月的客戶提示和對話紀錄(WhatsApp 業務控制台)約 30,000/70%約 8,000/95%
根據小冊子解答一條產品問題(保險產品助手)約 15,000/62%約 4,000/94%

差距從何而來?在臨時聊天中,整個網頁和冗長的對話紀錄會被一再貼上,每一個 Token 都要付費。聊天機械人亦容易提早停下、猜測缺漏的資料,或在長任務中失去方向。工作流程則只把每個步驟需要的資料傳給模型,以真實工具取代猜測,並在進入下一步前檢查結果。

AI Agent 也不是百分百可靠

再看看右邊一欄:即使是設計良好的工作流程,也不是每次都成功。網站會改版、影片渲染會失敗、資料來源會含糊。一個好的 AI Agent 會預先為此作準備:

  • 對暫時性的失敗自動重試。
  • 在客戶看得見錯誤的地方加入人手檢查,例如帖文發佈前先經批准。
  • 紀錄與警示,讓失敗的運行在當天就被發現,而不是一個月後。
  • 在 Agent 不確定時交由真人處理,尤其是面對客戶的時候。

如果有人承諾你的 AI Agent 永不出錯,不妨問問對方:出錯時你們怎樣知道?

五分鐘自我測試

選一件團隊經常做的工作,回答以下問題:

  1. 這件事每星期發生多少次?
  2. 是否需要聊天視窗以外的資料?
  3. 結果要送到哪裡?
  4. 現時由誰檢查結果?需時多久?
  5. 如果出錯而沒有人發現,會有甚麼後果?

次數頻密、去向清晰、出錯有實際代價的工作,正是 AI Agent 開發最能帶來回報的地方。偶爾才做、需要個人判斷的工作,則交給聊天工具更合適。

從哪裡開始

最好的 AI Agent 往往源自一個 ChatGPT 習慣:有同事找到一條好用的提示詞,每天使用,團隊才發現這件事應該自動運行。那正是把它變成工作流程的時機。

如果你不確定公司哪些流程合適,我們的 AI 轉型服務正是由這個問題開始:哪些工作留給人、哪些交給聊天工具、哪些值得開發 AI Agent。

本文提及的 AI Agent

想為你的團隊引入 AI Agent?

告訴我們您需要完成的工作,我們會與您一起設計助手的職責、界限及真人轉交流程。