企業數轉的後盾｜生成式 AI
- 發佈日期：
生成式 AI 可根據訓練的資料產生「新內容」，包括文字、圖像、動態影像、音訊，甚至程式碼等。隨著 OpenAI 在 2022 年發布 ChatGPT 後，近年受到市場關注，Google、輝達（NVIDIA）等企業也投入相關產品服務的研發，各種類型的新興應用服務也大量出現，如何導入、採用生成式 AI，成為企業推動數位轉型、商業模式升級的關鍵主題所在。如何有效在組織之中導入生成式 AI，並應用其帶來的潛力與效益，需觀察其基本的組成 3 要件：
- 數據：大規模數據資料庫等用以訓練的數據、資料。
- 演算法：對應的機器學習及深度學習演算法模型。
- 運算架構：支撐生成式 AI 運行的基礎運算架構。
生成式 AI 逐漸應用在各種場域，採取適宜的「運算架構」成為生成式 AI 能否成功落地的關鍵議題；另外，2024 年於國際研究協會與企業主持的討論中，嘗試融合邊緣運算概念，探索生成式 AI 如何藉由邊緣運算進一步落地。邊緣運算是相對雲端運算所發展出來的一種運算架構概念，基礎內涵有 2 ：
- 近終端：能將原先放置於雲端或部分雲端運算的服務，移至鄰近數據生成的位置，就能更接近終端的設備與使用者。
- 擴充端：在靠近數據生成的位置建置足以支持各種服務的運算、儲存的資源池。
邊緣運算的優勢
邊緣運算相對雲端具有的優勢在於：較低的網路延遲率、運算資源的分散化，以致能在缺乏雲端的支持下，仍能提供不間斷性服務。邊緣運算也有運算資源層面的限制，無法提供中心化雲端運算架構所構築的運算效力，因此，融合雲端、邊緣優勢的「邊緣雲」（Edge-Cloud Computing）運算架構型態是目前較主流的型態。換言之，大規模資料與預訓練模型仍由雲端負責，但是需要在邊緣的階層之中，部署輕量化模型，並進行微調，再進而於終端設備上開展出各種應用服務。
此種融合邊緣運算、多層分工的運算架構，最大優勢在於能實現「客戶導向」服務模式，客戶能掌握的程度也較高。此種運算架構型態可依不同情境來進行運算，更符合「數位資產」的意識，適用於資訊安全、機敏性質較高的應用。
企業營運過程中產生多種不同類型的數據，其中不乏具有高機敏性的數據，包括：企業內部營運資料、客戶關係紀錄、商業信函、智慧財產，甚至是科學研發與實驗的數據等。當然，資料能以中心化的雲端運算架構進行處理，但企業營運過程中，並非僅有技術、機制層面的思考（如：資訊安全技術）。企業營運與決策的過程，也有許多非技術端的思考，例如：對外在服務的「信任」以及對企業內部數據的「可見性」，尤其是企業對於與自身核心價值的「關鍵任務」的「可控制的心理」需求，尤其不可被忽視。
整合邊緣運算的服務案例
當前市場已整合邊緣運算的生成式 AI 服務案例有：契約與客戶關係文件、企業內部標準作業程序（SOP）、產品生命周期管理與生產流程規劃、重要產品研發資料分析與研發流程設計，以及產品建模與輔助設計等，多數具有高度機敏性，或涉及企業核心資產的關鍵任務，若要導入生成式 AI 技術，多半會採取具有相對封閉、可控制程度較高的邊緣運算概念，來開展其運算架構的型態。
企業內部導入生成式 AI 與相對應的運算架構，第一步驟是建立企業的數據政策，雖然融合邊緣運算概念的運算架構，能提供相對可控性高的環境，但企業在導入的過程必須留意 4 個可能的風險：
- 數據隱私：雖說是在企業內部或封閉環境下進行，仍需留意是否有侵犯內部員工、外部供應商的數據隱私之課題。
- 培訓機制：企業內部導入生成式 AI 也需要提供員工足夠的監督與培訓機制，並指派具有專業知識的員工掌握生成式 AI 的使用方式與範圍。
- 居安思危：雖然應用生成式 AI 能為企業帶來發展效益，但企業應用的模型也可能導致意想不到後果，例如：偏見、群體迷思等可靠性問題。
- 訂規範：企業內部須制定明確的數據政策和規範，可在事故與風險發生之時進行究責。
整體而言，企業導入生成式 AI，在數據資產意識驅動下，融合邊緣運算概念的運算架構，更適用內部「關鍵任務」數據情境；企業內部業務的優化、商業智慧等，亦可將此過程視為企業將數位資產「智慧化」的實踐。
.png)
