企業不缺 AI Demo,缺的是 AI Product Factory – 打造企業級 AI 產品生產線

26-08-27

撰文:商務行銷總監 許朝欽 (Bull Hsu)、編輯:行銷副理 呂宜家(Helen Lyu)

這兩年,做出一個 AI Demo 已經變得前所未有地容易。一個下午,我們可能就能串接大型語言模型、建立一個 RAG 知識庫,甚至讓 AI 開口說話。但真正進到企業現場後,問題往往才剛開始。
模型該如何部署?企業資料如何安全串接?語音辨識與生成如何做到即時?不同裝置需要什麼樣的 UI?互動現場需要不要持續收音、是否要降噪、送出問題的條件、打斷對話的條件、GPU 推論能不能穩定承載…等等,當同一套服務要面對數百、數千名使用者時,總有千百種待解決的問題與製作方式跳出來。
因此,我們逐漸發現:

企業真正缺的,不是更多 AI Demo,而是一套能把 AI Demo 持續變成 AI Product 的方法。

這也是我們開始思考 Ubitus AI Product Factory 的起點。

AI 不只是產品裡的一個功能

過去的軟體開發,通常是由視覺設計前端與互動介面,工程師理解需求、撰寫程式、部署所需的模型,PM統合大家分工、整合服務,再交付產品。但在生成式 AI 時代,我們開始嘗試另一種方式:

如果 AI 不只是產品裡的一個 Feature,而能進一步參與產品的組裝、執行,以及能力累積呢?

在 Ubitus AI Product Factory 的概念中,一個新的企業需求進來後,Agent 可以根據場景與品牌需求,調用既有的 Skill、AI Runtime、模型與算力資源,快速組合出所需要的產品體驗,這些產品最終可以出現在不同介面:Web、Kiosk、IM、Robot、AI Avatar,甚至 AI VTuber。背後真正重要的,不是哪一個Agent 模型,而是如何把整條 AI Product 生產鏈串在一起。

從算力、模型到使用者體驗

Ubitus 過去長期投入 GPU 虛擬化與低延遲雲端串流技術。進入生成式 AI 時代後,我們也持續投入本地化 LLM、STT、TTS,以及 RAG 等技術。但真正進入商業現場後,我們發現,單獨擁有 GPU 或模型仍然不夠。一個真正可以使用的 AI 產品,通常需要同時完成:

  1. Compute & Model Infrastructure
    提供穩定的 GPU 推論,以及符合在地語言與商業需求的模型能力。
  2. Multi-modal AI Runtime
    串接 STT、LLM、RAG、TTS 與角色驅動,讓不同 AI 模型能以低延遲方式協同運作。
  3. Agent Skill Library
    將角色設定、RAG、UI、互動流程、直播、多 Agent 協作等實際開發經驗,整理成可以被再次利用的 Skills。
  4. Product Assembly & Deployment
    依照不同企業情境,快速組裝並部署到 Web、Kiosk、Robot 或虛擬角色等不同終端。

這四層結合起來,才是我們所理想的 AI Product Factory。

最重要的資產,不只是 Code,而是「做過事情的經驗」

AI Product Factory 裡,我們特別重視的一件事情,是 Skill Library。傳統專案常見的情況是:第一個客戶做完後,團隊學到了大量經驗;下一個案子換了另一批需求,又重新分析、重新串接、重新開發。最後公司累積了很多專案,卻不一定累積出同等程度的「可重複能力」。

我們希望改變這件事情。每完成一個專案,就把過程中驗證過的技術、流程、設定與解法整理成 Agent 可以理解及調用的 Skill。下一個案子來的時候,不是再從零開始,而是站在之前所有專案的經驗上繼續組裝。形成一個循環:

完成一案 → 沉澱成 Skill → Agent 重組 → 下一案更快 → 再產生新的 Skill。

換句話說,每多做一個專案,Factory 本身也應該跟著變得更成熟。

我們也用自己的 AI,測試自己的 Factory

要知道一套 AI 系統是不是真的能長期運作,最直接的方法,就是讓它真的每天面對使用者。因此,AI VTuber「優必醬(UbiChan)」對我們而言,不只是品牌角色,也是持續運作中的實驗場。從長期記憶、自然語音對話、情緒反應,到 YouTube 聊天室互動、多 Agent 協作等即時生成內容,我們透過真實使用者的互動持續驗證系統。

目前優必醬已累積超過 30 萬次觀看與 10,000 小時以上觀看時數。而這些實際營運過程中累積的經驗,也會再次轉化成產品與 Skill,回到其他企業應用。因此,Dogfooding 對我們而言並不只是測試產品,而是 AI Product Factory 持續進化的重要方式。

同一座 Factory,可以產生完全不同的 AI Product

今天,這套方法不只是讓優必醬在娛樂場景中成為能持續直播與互動的 AI VTuber,已逐漸被應用在不同產業場景以及裝置載體中。例如,在汽車產業可以在官網成為 AI Sales Assistant;在文化與展覽場域搭配AMR機器人可以成為 AI Guide;在觀光旅客中心可以成為 AI Ambassador;在醫療長照可以成為陪伴型機器人。

從 TOYOTA 和泰汽車的 AI 角色、國家檔案館虛擬導覽,到日本舞鶴觀光應用、台灣形象展,從真人寫實到卡通風格的虛擬角色,我們正在測試的其實是同一件事情:

同一套底層 AI 能力,能否快速轉化為不同產業真正可以使用的產品。

截至目前,我們已經在汽車、文化、觀光、房地產、醫療、娛樂等至少六種場域持續進行 AI 應用實作。

從一個月,到一週

Product Factory 最終仍然必須回到一個非常現實的問題:

它有沒有讓產品真的做得更快?

透過 Runtime、Skill Library 與既有開發資源的持續累積,我們目前已將部分 AI POC 的開發週期,從過去約一個月縮短到一週內。內部每月可處理的提案量,得到飛躍式的成長。

另一方面,在即時 AI Character 應用中,透過 STT、LLM、RAG、TTS 與串流架構的持續優化,端到端平均回應時間也從過去約 2~ 3 秒降低到約 1秒左右。對我們而言,這些數字的意義不只是效率提升。更重要的是,它開始證明一件事情:

AI 開發經驗可以被產品化、被累積,也可以被下一個 AI 再次使用。

AI-native 的下一步,是讓 AI 也成為產品的生產力

今天很多產品都已經加入 AI。但我們認為,「加入 AI」和「AI-native」之間,還有很大的差別。前者是把 AI 放進既有產品之中;後者則意味著,從產品如何被建立、如何執行,到如何持續累積能力,AI 都開始參與其中。這也是 Ubitus AI Product Factory 想探索的方向:

AI 不只是被我們使用的工具,而逐漸成為「生產下一個 AI 產品」的核心生產力。

未來,當企業提出一個新的 AI 應用需求時,也許真正的問題不再是:

「這個專案要重新開發多久?」

而會變成:

「我們的 AI Factory 已經具備哪些 Skills,可以組合出這個產品?」

當這一天來臨,AI 的規模化落地,才可能真正從一個個 Project,進化成一條持續運轉的 Product Factory。


關於優必達

優必達(Ubitus)是首家獲得 NVIDIA 投資的台灣科技公司,在 GPU 虛擬化技術與 雲端串流技術領域具備全球領先地位,並持續為各產業提供世界級的雲端與 AI 解決方案。

優必達與 國立臺灣大學(National Taiwan University)、東京大學(The University of Tokyo) 等頂尖學術機構合作,致力於開發符合在地語言與文化脈絡的 繁體中文與日文大型語言模型(LLM)。

同時,優必達亦提供多元的 AIGC(AI 生成內容)服務,包括:

  • UbiArt:AI 圖像生成服務
  • UbiONE:AI 虛擬角色解決方案
  • UbiAnchor:AI 虛擬新聞主播
  • Ubi-chan(AI VTuber):官方品牌大使,展現優必達在生成式 AI 領域的創新成果

作為雲端遊戲領域的全球領導者,優必達提供完整的一站式解決方案,協助遊戲開發商快速將遊戲導入雲端,並支援電信業者建置自有的雲端遊戲平台。此外,優必達的技術亦廣泛應用於全球互動式媒體與虛擬實境(VR)內容的即時串流服務。

 

聯繫我們

TEL : +81-3-6435-3295 (Tokyo)

+886-2-2717-6123 (Taipei)

Media contact: pr@ubitus.ai

Business inquiry: contact@ubitus.ai

Website: www.ubitus.ai