# 找出你的地端 LLM 配置

> 地端世界 · https://onpremworld.com/zh-tw/find · 最後更新: 2026-10-17

小芽（地端世界的吉祥物）會問你想導入哪些 AI 方案、每項有幾個人用、機器放哪裡，然後為每個團隊推薦一台剛好夠用的完整 AI 電腦。價格依報價。

## 可選的方案

- **機密資料知識庫:** 用合約、SOP 與內部文件打造的私有 ChatGPT，權限依部門控管
- **財務管理助理:** 讀發票與報表、協助核對數字、整理摘要與會議紀錄
- **影片圖片生成:** 產品照、廣告素材、短影片與行銷文案
- **地端程式開發:** 給開發團隊的 AI 程式助手，原始碼不出公司
- **客製化地端 LLM 訓練:** 用公司資料、術語、語氣與規則（包含嚴格程度）訓練出的專屬模型
- **客製化影片生成:** 用你的產品、角色與品牌風格訓練的圖片與影片模型

## 會問的問題

1. AI 跑在你自己的電腦上，資料不外流。你想導入哪一種 AI 方案？
2. 助手要多強？ 要讀多少資料？ 影片量有多少？ 要生成多少圖片？ 程式助手要做什麼？ 要訓練多大的模型？
3. 每一項會有幾個人用？ 只有我 (一個人)、小團隊 (2 到 10 人)、一個部門 (10 到 50 人)、全公司 (50 人以上)
4. 機器放哪裡？ 桌上、辦公室裡、機房

## 怎麼挑

- 機密資料知識庫與財務管理助理 → OnPrem Root 辦公室 AI 電腦；影片圖片生成與客製化影片生成 → OnPrem Bloom 行銷工作站；地端程式開發與客製化地端 LLM 訓練 → OnPrem Branch 開發工作站。人數多時改用共用伺服器。
- 助手等級以 Qwen3-32B / Qwen3.6-35B-A3B / gpt-oss-20b（日常）與 gpt-oss-120b / Qwen3.5-122B-A10B（接近 ChatGPT）判斷；程式以 Qwen3-Coder-30B-A3B-Instruct 與 Qwen3-Coder-Next (80B-A3B)（32K 上下文）判斷，都用本站估算器以 Q4_K_M 檢查。
- 影片：偶爾做短片 32 GB、每週做影片 48 GB、每天完整畫質 96 GB。訓練：32B 模型約 26 GB、70B 到 120B 需 41 到 65 GB（Unsloth）；圖像模型訓練以 48 GB 以上配置。
- 同時使用人數依每台機器的建議上限。

## 可選的機器

### 1. 安靜型 AI 迷你電腦

放桌上幾乎無聲。懂你文件的私有 AI 助手，適合一到三人。

- 晶片: AMD Ryzen AI Max+ 395
- 記憶體: 128 GB 統一記憶體（CPU 與 GPU 共用）
- 儲存: 2 TB NVMe SSD
- 尺寸: 迷你電腦，約 3 公升
- 軟體: Ubuntu 或 Windows 11 Pro，附私有聊天介面
- 同時使用上限: 3
- Qwen3.6-35B-A3B: 放得下，估計每秒 72 個 token
- gpt-oss-120b: 放得下，估計每秒 45 個 token
- 想要 NVIDIA（CUDA）？同樣位置可改用 128 GB 的 DGX Spark，生成圖片約快 2.5 到 4 倍。

### 2. OnPrem Root 24 (辦公室 AI 電腦)

辦公室 AI 電腦：財務、人資、行政的私有 AI 助手，最多五人。

- 顯示卡: NVIDIA RTX PRO 4000 Blackwell，24 GB（ECC），單槽，145 W
- 處理器: Intel Core Ultra 7 265
- 記憶體: 64 GB DDR5
- 儲存: 1 TB NVMe 系統碟 + 2 顆 4 TB 鏡像備援資料碟
- 機身: HP Z2 G1i 直立工作站
- 保固: 3 年保固，Windows 11 Pro 或 Ubuntu
- 同時使用上限: 5
- Qwen3.6-35B-A3B: 放得下，估計每秒 170 個 token
- gpt-oss-120b: 放不下

### 3. OnPrem Root 32 (辦公室 AI 電腦)

最多十人使用的辦公室 AI 電腦，能處理更長的文件。

- 顯示卡: NVIDIA RTX PRO 4500 Blackwell，32 GB（ECC），200 W
- 處理器: Intel Core Ultra 9 285
- 記憶體: 128 GB DDR5
- 儲存: 1 TB NVMe 系統碟 + 2 顆 8 TB 鏡像備援資料碟
- 機身: HP Z2 G1i 直立工作站
- 保固: 3 年保固，Windows 11 Pro 或 Ubuntu
- 同時使用上限: 10
- Qwen3-32B: 放得下，估計每秒 30 個 token
- gpt-oss-120b: 放不下

### 4. OnPrem Bloom 32 (行銷獲客 AI 工作站)

行銷 AI 工作站：產品圖、廣告素材，偶爾做短影片。

- 顯示卡: NVIDIA RTX PRO 4500 Blackwell，32 GB（ECC），200 W
- 處理器: Intel Core Ultra 9 285
- 記憶體: 128 GB DDR5
- 儲存: 2 TB NVMe 系統碟 + 8 TB 專案碟
- 機身: HP Z2 G1i 直立工作站
- 保固: 3 年保固，Windows 11 Pro
- 同時使用上限: 10
- Qwen3-32B: 放得下，估計每秒 30 個 token
- gpt-oss-120b: 放不下

### 5. OnPrem Bloom 48 (行銷獲客 AI 工作站)

每週都做影片的行銷 AI 工作站：圖片、短片與文案，全部自己做。

- 顯示卡: NVIDIA RTX PRO 5000 Blackwell，48 GB（ECC），300 W
- 處理器: Intel Core Ultra 9 285
- 記憶體: 128 GB DDR5
- 儲存: 2 TB NVMe 系統碟 + 8 TB 專案碟
- 機身: HP Z2 G1i 直立工作站
- 保固: 3 年保固，Windows 11 Pro
- 同時使用上限: 10
- Qwen3-32B: 放得下，估計每秒 43 個 token
- gpt-oss-120b: 放不下

### 6. OnPrem Bloom 96 (行銷獲客 AI 工作站)

每天做完整畫質影片的行銷 AI 工作站，同時還能跑 ChatGPT 級模型。

- 顯示卡: NVIDIA RTX PRO 6000 Blackwell 工作站版，96 GB（ECC），600 W
- 處理器: Intel Core Ultra 9 285
- 記憶體: 128 GB DDR5
- 儲存: 2 TB NVMe 系統碟 + 16 TB 專案碟
- 機身: HP Z2 G1i 直立工作站
- 保固: 3 年保固，Windows 11 Pro
- 同時使用上限: 10
- Qwen3-32B: 放得下，估計每秒 56 個 token
- gpt-oss-120b: 放得下，估計每秒 224 個 token

### 7. OnPrem Branch 32 (開發與客製化 AI 工作站)

最多五位工程師的高速補全與程式問答，也能訓練中型專屬模型。

- 顯示卡: NVIDIA RTX PRO 4500 Blackwell，32 GB（ECC），200 W
- 處理器: Intel Core Ultra 9 285
- 記憶體: 128 GB DDR5
- 儲存: 2 TB NVMe
- 機身: HP Z2 G1i 直立工作站
- 保固: 3 年保固，Ubuntu，提供 OpenAI 相容 API
- 同時使用上限: 5
- Qwen3-32B: 放得下，估計每秒 30 個 token
- gpt-oss-120b: 放不下

### 8. OnPrem Branch 96 (開發與客製化 AI 工作站)

最多二十位工程師的大型程式庫與 AI 代理，也能訓練 70B 到 120B 的專屬模型。

- 顯示卡: NVIDIA RTX PRO 6000 Blackwell Max-Q，96 GB（ECC），300 W
- 處理器: Intel Core Ultra 9 285
- 記憶體: 128 GB DDR5
- 儲存: 4 TB NVMe
- 機身: HP Z2 G1i 直立工作站
- 保固: 3 年保固，Ubuntu，提供 OpenAI 相容 API
- 同時使用上限: 20
- Qwen3-32B: 放得下，估計每秒 56 個 token
- gpt-oss-120b: 放得下，估計每秒 224 個 token

### 9. 團隊 AI 工作站

整個團隊共用的 ChatGPT 級助手，也能做高品質影片。

- 顯示卡: NVIDIA RTX PRO 6000 Blackwell Max-Q，96 GB（可再加第二張）
- 處理器: Intel Xeon W 或 AMD Threadripper PRO
- 記憶體: 256 GB ECC
- 儲存: 2 TB NVMe 系統碟 + 8 TB 資料碟
- 機身: 工作站直立機殼，1600 W
- 保固: 3 年保固，Ubuntu，含團隊帳號
- 同時使用上限: 50
- Qwen3-32B: 放得下，估計每秒 56 個 token
- gpt-oss-120b: 放得下，估計每秒 224 個 token

### 10. 部門 AI 伺服器

上百人同時使用、最大型的開源模型，還能微調你自己的模型。

- 顯示卡: 4 張 NVIDIA RTX PRO 6000 Blackwell Max-Q，共 384 GB
- 處理器: AMD Threadripper PRO，32 核以上
- 記憶體: 512 GB ECC
- 儲存: 2 TB NVMe 系統碟 + 16 TB 資料碟
- 機身: 機架式或直立式，雙 1600 W
- 保固: 3 年到府保固，Ubuntu，含帳號與監控
- 同時使用上限: 200
- Qwen3-32B: 放得下，估計每秒 56 個 token
- gpt-oss-120b: 放得下，估計每秒 224 個 token
- 或 NVIDIA DGX Station GB300（單晶片 252 GB），專案報價。

開始: https://onpremworld.com/zh-tw/find · 索取報價: https://onpremworld.com/zh-tw/quote