VersaDesk Lite|私有化 AI 運算平台

從一台工作站, 到整座 GPU 叢集

同一個平台、同一套操作。先在一台機器上開始用 AI;需要更多算力時,加入其他主機,或直接建立 Kubernetes 叢集。運算與資料全程留在企業內部。

  1. 一台工作站
  2. 多台主機
  3. Kubernetes 叢集
示意

一種用法

三種算力,用起來都一樣

管理員把機器接上平台,使用者只要建專案、按執行、看結果;工作會送到專案選定的地方去跑。

這台主機

平台所在的機器直接跑,裝好就能用。

其他 Docker 主機

在維護主控台把閒置的伺服器設為執行機,平台會把工作分過去。

Kubernetes 叢集

自己建一座,或接入公司現有的叢集;每個專案有自己的空間與額度。

使用者的畫面完全一樣:同一個表單、同一份結果、同一個終端機。

自建叢集

叢集,在主控台點幾下就建好

不用寫設定檔、不用背指令。選機器、分角色、按建立,平台把 Kubernetes、GPU 元件與共用儲存一次裝好。

  1. 選機器
    選機器
  2. 選 Master Node 與 VIP
    選 Master Node 與 VIP
  3. 名稱與儲存
    名稱與儲存
  4. 安裝前總檢查
    安裝前總檢查
  5. 建立
    建立
  6. 完成
    完成
選機器
選機器
  • 支援斷網安裝
  • 滾動升級
  • 備份與還原
  • 隨時加減節點
看叢集的完整介紹

接入叢集

已經有叢集?直接接入

貼上一次管理員設定,平台會在叢集裡建好自己的工作範圍,之後只在這個範圍內工作,不動您原本的服務。

  1. 每個專案一層空間

    專案在叢集裡有自己的空間,彼此看不到。

  2. 額度由管理員決定

    CPU、記憶體、GPU 用多少,管理員說了算。

  3. 結果自動收回

    任務的輸出回到專案資料夾,跟在單機上一樣。

Kubernetes 叢集

您原本的服務

平台的工作範圍

專案
專案
專案
示意

GPU

一張 GPU,也能分著用

管理員決定每個專案能用幾張卡、要獨佔還是共用;支援 MIG 的卡還能切成幾份。Docker 與叢集的用量都在同一個畫面看。

示意

獨佔

整張卡只給一個專案。

共用

多個專案輪流使用,平台幫忙排隊。

MIG 切分

一張卡切成幾份,同時給不同任務。

GPU資源監控:Docker 主機與叢集的顯示卡在同一頁
GPU資源監控:Docker 主機與叢集的顯示卡在同一頁

主機系列

多台主機,一個地方管

不用一台一台登入。平台主機與其他主機的狀態、容器、檔案與終端機,都在瀏覽器裡處理。

主機-狀態
主機-狀態

主機-狀態

即時看 CPU、記憶體、磁碟與 GPU。

主機-Docker 管理
主機-Docker 管理

主機-Docker 管理

查看與清理映像和容器。

主機-終端機
主機-終端機

主機-終端機

用該機器的帳號開命令列。

主機-檔案管理器
主機-檔案管理器

主機-檔案管理器

上傳、下載、整理檔案。

共用儲存

資料跟著任務走

在主控台登記一次 NAS,每台主機與叢集節點自動掛上;任務跑在哪一台,都讀得到同一個專案資料夾。

主機 主機 主機 主機 NAS
專案資料夾
示意

原本的強項

還有這些,一樣好用

App Store 一鍵安裝 AI 套件、桌面版與傳統版兩種介面、在瀏覽器裡完成模型訓練。

AI TRAINING

AI 訓練實例

以下畫面全部取自實際執行的套件。

以 LLaMA-Factory 微調語言模型,訓練過程隨時監看,完成後立即對話測試。

選好模型與資料集,按下開始,訓練曲線即時更新。
01

選好模型與資料集,按下開始,訓練曲線即時更新。

WHERE IT RUNS

從工作站、伺服器到 DGX Spark,都能安裝

VersaDesk Lite 安裝在企業自己的 Linux 主機上,x64 與 arm64 都支援。主機有 NVIDIA 顯示卡就能執行 AI 訓練與推論,團隊成員用瀏覽器連線使用。

工作站

x64 · NVIDIA RTX 顯示卡

一台有顯示卡的工作站,就能讓小團隊共用 AI 工具。

伺服器

x64 · 多張 GPU

多張顯示卡的伺服器,由平台把 GPU 分配給各個專案。

DGX Spark

arm64 · GB10 統一記憶體

桌上型 AI 主機,平台自動辨識並套用專屬設定。

了解 DGX Spark 方案

支援 Ubuntu、Debian(x64 / arm64)· Docker 由安裝程式自動準備 · 沒有顯示卡也能執行一般任務

EASY SETUP

一個安裝檔,幾個步驟就能上線

在主機上執行一行指令,接著用瀏覽器完成設定精靈。資料庫等相依服務由平台自動建立,不必另外安裝。

終端機
admin@ai-server:~$ sudo sh versadesk-lite-linux-x64.run
  • 確認機器架構
  • 準備 Docker 環境
  • 安裝平台與維護主控台
  • 設定開機自動啟動
→ http://192.168.1.10:8080 用瀏覽器開啟這個網址
打開網址,就是設定精靈。

在主機上執行一行指令,安裝程式自動完成安裝。

  1. 01

    下載安裝檔

    x64 與 arm64 各一個檔案,內含平台與維護主控台。

  2. 02

    執行一行指令

    安裝程式自動檢查環境並完成安裝。

  3. 03

    瀏覽器完成設定

    依精靈建立管理員、設定站台與網路。

  4. 04

    線上更新

    新版本推出後,在網頁上即可完成更新。

YOUR WORKFLOW

官方套件之外,也能自己定義

官方的訓練套件或流程不合用?自己寫一份 Runbook,用自己的映像、腳本與參數;平台依 Runbook 產生執行表單,在同一套顯示卡資源上執行。

在任務編輯器定義輸入參數與執行步驟。
01

在任務編輯器定義輸入參數與執行步驟。

一路用下去

從小開始,隨時長大

不用一開始就買齊設備。先用手邊的機器,需要時再往上加,同一個平台一路用下去。

  1. 單機

    一台工作站或伺服器,適合小組與試用。

  2. 多台主機

    把閒置的伺服器加進來,工作自動分散。

  3. 自建叢集

    在主控台建立 Kubernetes 叢集,適合部門共用。

  4. 接入叢集

    接上 IT 部門現有的叢集,平台只在自己的範圍內工作。

從一台開始,用到整座叢集

裝好就能用;需要更多算力時,再加主機或叢集。

導入諮詢