發表文章

目前顯示的是有「AI」標籤的文章

Google Distributed Cloud 升級:AI 應用、數據處理與數位主權的全方位解決方案

圖片
Google Distributed Cloud (GDC) 助力企業 AI 應用與數位轉型 在過去,企業多半會將應用服務架設在 公有雲(Public Cloud Region) 上來運行,因為那邊有最多的計算資源、最強的資訊處理能力。 而近年來,產業積極導入各種 AI 應用,期望藉此實現數位轉型,並創造更多價值;隨著企業加速導入 AI 應用,對於伺服器(計算資源)彈性部署(低延遲) 的需求也逐漸浮現。因此,公有雲無法協助產業解決所有問題,因為除了 彈性部署(低延遲) 的需求之外,如產業需要處理敏感/機密資料,就還需要 注意關於 數位主權 在地合規 等…的法規限制 。 我國關於 資料在地化 的法規 就有像是: 個人資料保護法 電子支付機構業務管理規則 人體生物資料庫管理條例 醫療機構電子病歷製作及管理辦法 所以為了因應這些需求及挑戰,Google Cloud 推出了硬體+軟體的解決方案組合叫做: Google Distributed Cloud (GDC)  這次 Google I/O Extended Kaohsiung 2024 的演講,主要介紹 GDC 引入了哪些 Google I/O 2024 提及的新技術,以及 Google Cloud Next '24 關於 GDC 的更新。讓我們在此快速回顧一下今天演講內容吧! 這次 GDC 的升級,就是專為佈署 AI 應用來設計,讓 GDC 支援了 NVIDIA GPU ,並提供兩種佈署選項: 在邊緣端、Air Gap(斷網)端,使用 NVIDIA L4 GPU(高能源效率) 在資料中心、營運端,使用 NVIDIA H100 GPU(高效能) 除此之外, GDC 也搭載了 GKE Enterprise , 支援 SR-IOV、多網路(Multiple Networking) 。上述功能除了能優化應用的網路效能之外,也提高了應用的可擴展性和故障冗餘(redundancy)。 在 GDC 的 PaaS Stack, 大家最期待的 VectorDB, Vector Search 功能,在 GDC 上面也都支援了 (VectorDB 使用 Google 自家 AlloyDB)。 除此之外,GDC 也支援了 Dataproc ,讓企業可以進行 大規模數據 的管理/處理。現在 GDC 提供了各式各樣的管理服務,我們已經不

生成式AI將電信業推向新紀元

圖片
電信產業如何應用生成式 AI? 究竟電信產業該如何引入生成式 AI (Generative AI),來解決業界長久以來的痛點呢?秀吉現在就報給你知! 前言 這個學年來捷克訪問,無法實體參與  Google Cloud Summit Taipei ,但身為國外的 GDSC Lead ,進修和教學還是責無旁貸,畢竟人生的樂趣在學習,人生的收穫在於奉獻 www 所以就忙裡偷閒在國外補檔一下  Google Cloud Summit Taipei | (中華電信)解析 Next’23 最新雲端技術 ;可能是因為主題安排或是時間關係,這場演講比較像是產品成果發表,技術偏少。 但沒關係,本篇文章將科普電信業引入生成式 AI 的魅力在哪?,同時針對演講中提到的 Data Cloud 服務應用與挑戰 做進一步的說明和科普。 簡而言之,這是一篇科普文,所以即使你沒聽過演講也看得懂 (廢話結束,以下正文) 電信產業如何應用生成式 AI 電信產業究竟如何應用生成式 AI,主要可以分成兩大使用範例(Use Cases): Customer Automation (用戶自動化) Network Automation (網路自動化) 一般人經常使用到的生成式 AI,大多都是 大型語言模型 (Large language model;LLM) ,那麼隨著越來越多人的使用和媒體的炒作,民眾對生成式 AI 衍生服務的接受度也將逐漸增加,而這點對於電信業者來說,是個非常好的機會,為什麼我會這樣說呢?讓我們繼續看下去! Customer Automation(用戶自動化) 對於絕大部分天然呆的台灣用戶來說:「電信供應商的好壞,在於客戶服務!」 所以只要將客服的體驗優化好,萬事皆好談! 以中華電信為例,它擁有全台 90% 的固網業務以及 1300萬個門號用戶;對於一間擁有如此龐大用戶的電信業者,最重要的就是導入生成式 AI(如:語音辨識模型、對話模型),用來實現 用戶自動化(Customer Automation) ,和以下目標: 更快解決客戶遇到的問題 減少客服中心收到的來電 確保電信業真的有善用自家強大的科技技術,實現用戶個人化的電信服務 所以台灣四大電信業者正面臨一個龐大的機會,透過導入生成式 AI 實現用戶自動化,即可徹底改變現狀(例如:使用機器學習來分析客訴情況的描述、處理客戶查詢等問題),同