企業應用人工智能已是不可逆的發展趨勢。惟企業在利用AI提升生產效率時，卻往往會面臨數碼化基礎參差不齊、技術複雜性高、投資回報（ROI）不明和數據安全等多重挑戰，導致企業間因科技成熟度及技術人才的差距而持續擴大。如何協助企業構建安全的AI基礎設施，快速部署、靈活管理AI及其應用，成為了一大難題。

企業開源解決方案供應商紅帽（Red Hat）在今年年中先後推出了一系列的企業級AI方案及工具，如Linux Lightspeed、AI推理伺服器（vLLM）、，旨在幫助企業更有效地在生產環境中部署和管理AI。

紅帽香港、台灣和澳門區總經理文志鋒表示，部分企業員工已在日常工作中使用公開的AI工具來輔寫文章或搜索及分析資料。然而，當企業試圖將AI應用於核心業務時，真正的挑戰才浮出水面。

「企業最關注的是他們的數據安全。」文志鋒強調，企業使用架設在公有雲或閉源的AI工具，或會引用到公司內部的敏感或客戶機密資料，引發了巨大的安全疑慮。而企業亦同樣重視軟件的安全性，特別憂慮是否存在「間諜程式」等風險。

除此之外，投資回報是企業高層最關心的議題。文志鋒指出，如果投入巨額成本開發的AI項目無法有效提升效率或增加營收，那將是不可持續的。因此，企業採用AI的需求，是在於確保安全的前提下，以可控的成本實現有意義的應用。

紅帽香港、澳門及台灣方案工程總監羅國柱認為，部分本港企業開始意識到公有雲AI潛在的數據安全問題，並嘗試在混合雲部署開源的AI模型，或在企業內部架設聊天機械人，以避免敏感資料外洩，但這樣做往往是一次性的，難以規模化，長遠來看會形成一個獨立運作的孤島。而當企業意識到這些AI工具的局限性後，便會轉向紅帽尋求統一的架構及平台，能將複雜的底層工具整合，提供一致性的管理界面，從而實現安全、高效且可持續的AI營運。

為了協助企業邁向成熟的AI應用路徑，紅帽提供了一系列環環相扣的產品與技術，從底層基礎設施到頂層AI應用。

紅帽企業Linux佔有全球七成的市場份額，它是整個AI技術堆疊的穩定底層。為了降低雲原生與 AI 技術的複雜性，而紅帽最新發布的Linux 10更推出了紅帽企業Linux Lightspeed，此功能可將生成式AI整合進平台中，正如一個內建於作業系統的虛擬助理，能將用戶的自然語言轉換為指令，大幅降低Linux管理的門檻，讓不熟悉指令列的管理員也能輕鬆上手。同樣的理念也應用於OpenShift Lightspeed，此工具是整合於OpenShift的生成式AI助手，能協助非技術人員在混合雲環境中管理應用程式，有效釋放科技人員的生產力。

為應對未來量子電腦可能破解現有加密技術的威脅，RHEL已開始支援後量子密碼學（PQC）機制。這能有效防範「先偷後爆」（先竊取加密資料，待未來技術成熟再破解）的攻擊模式，保護企業核心的數據資產。

回應企業對GPU資源稀缺、成本高昂以及對ROI的迫切需求，紅帽近日推出AI推理伺服器（Red Hat AI Inference Server），以VLLM（虛擬大語言模型）社群專案為基礎，透過紅帽整合Neural Magic技術加以優化，從而提供更高的加速器（GPU、TPU等）效率與更好的成本效益，而VLLM支援DeepSeek、Gemma、Llama、Mistral、Phi等多種模型。

羅國柱指出公司運用量化（Quantization）技術對大型語言模型進行「壓縮」，能在準確率僅輕微下降的情況下，大幅減少對GPU資源的需求。他舉例，這可以帶來高達四倍的吞吐量提升，相當於用一張GPU完成以往需要四張才能做到的工作，直接解決了GPU資源昂貴且稀缺的問題。Distributed LLM （llm.d）的新專案，旨在實現跨伺服器、跨GPU的負載平衡，進一步將AI推理的效率推向新高。

考慮到企業的數碼化基礎參差不齊，大量傳統軟件仍然運行在虛擬機（VM）上，紅帽的OpenShift Virtualization扮演了關鍵的橋樑角色 。它允許企業在同一個OpenShift平台上，同時管理並運行傳統的虛擬機和現代化的容器應用。這意味著企業無需一步到位地拋棄既有投資，而是可以按照自己的發展節奏，無縫地邁向系統現代化，實現新舊架構的統一管理。

「任何模型、任何加速器、任何雲，」羅國柱最後重申公司的發展理念。他指出無論企業選擇哪種AI模型（無論是國內外）、使用哪種加速器（GPU），或部署在哪種雲端環境（從本地數據中心到公有雲），紅帽的平台為企業提供一致及具彈性的AI架構及工具 。