模型自動化部署與動態修模雲端平台


摘要

隨著數位轉型的趨勢,尖端技術如大數據、物聯網、雲端運算、無線感測、人工智慧與微服務等快速應用於製造領域,創造更高的產業價值。同時在淨零與碳盤查趨勢下,企業更需要以資料驅動方式提升能源效率並降低碳排放。 本研究打造之雲端平台聚焦「模型全生命週期管理」,解決企業在模型導入、部署與動態修正上的痛點。平台涵蓋:訓練、驗證、版本管理、雲邊協同部署、在線監控與自動回滾;並支援 GitHub Actions/Jenkins 之 CI/CD 流程。使用技術包含 Docker 容器化、Kubernetes 編排、Model Registry、以及 Prometheus/Grafana 可觀測性堆疊。 在 OT 場域中,平台可針對內網設備進行安全的遠端更新;當偵測到效能漂移(data/concept drift)或服務品質下降,即可觸發資料回收與再訓練,並於不停機條件下替換最適模型。另提供存取控管與加密機制,對應 IEC 62443 與 ISO 27017/27018 等資安標準,確保資料與服務安全。

系統概述

本系統是一套專為智慧製造產業設計的 AI 模型遠端自動化部署與動態修正平台,提供AI模型的自動化訓練、驗證、整合、佈署、監控、動態修正等服務,無需現場專業人員即可完成模型部署與更新,並具備超越現有雲端平台之服務水準。本系統能有效減少企業導入 AI 模型的時間和成本,適用於各類生產線自動化與智慧化升級需求。

技術亮點

  • 自動化部署與修正:系統運用 Docker 和 Kubernetes 技術實現遠端模型部署,並透過 Watchtower 監控,無需停機即可自動完成模型修正與更新,成功率高達 90%。
  • 全球性遠端管理:支持全球部署,無論設備分布在哪,系統皆可實現即時監控與管理,解決傳統廠區無法及時更新的痛點。
  • 資料安全保障:採用混合雲架構,敏感數據存放於私有雲中,降低資料外洩風險,同時利用公共雲進行高效計算,兼顧安全與效能。
  • 超越市面上現有的雲端服務平台(AWS)之服務水準。於 AI 服務建構方面,速度提升了56%;於 AI 服務整合與佈署方面,速度提升了 74.1%;於穩定性方面,單位時間內可乘載之服務數與服務品質提升 2 倍以上;於網站使用者體驗方面,保持著一定的優勢,並提供使用者友善的簡易操作介面
模型自動化部署平台