# 教學

> 地端世界 · https://onpremworld.com/zh-tw/guides · 更新日期: 2026-10-14 · CC BY 4.0

在自己的硬體上跑 AI 的實作教學。每篇先回答問題，再一步步帶你做；指令都對照過官方文件，數字則來自本站的硬體與模型資料。

## [Ollama 安裝教學：在自己的電腦跑 LLM（Windows／macOS／Linux）](https://onpremworld.com/zh-tw/guides/install-ollama.md)

安裝 Ollama、挑一個記憶體放得下的模型，一行指令就能在本機跑大型語言模型。依官方文件逐步驗證的 Windows、macOS、Linux 安裝步驟，以及上下文長度、GPU 檢查、本機 API 與純地端模式設定。

更新日期: 2026-10-14

## [本地跑 LLM 要買什麼顯示卡？VRAM 與記憶體頻寬怎麼選](https://onpremworld.com/zh-tw/guides/choosing-a-gpu.md)

VRAM 決定模型放不放得下，記憶體頻寬決定回答快不快。12、16、24、32 GB 顯示卡各能跑哪些模型，用本站硬體與模型資料一次算給你看。

更新日期: 2026-10-14

## [用 Mac 跑本地 LLM：統一記憶體怎麼算、要買多少 RAM、MLX 還是 llama.cpp](https://onpremworld.com/zh-tw/guides/mac-local-llm.md)

Apple Silicon 的 Mac 都能跑本地 LLM，因為 GPU 和 CPU 共用同一塊記憶體。GPU 實際能用多少、16 GB 到 512 GB 各放得下哪些模型、為什麼頻寬決定速度，以及 MLX 和 llama.cpp 該怎麼選。

更新日期: 2026-10-14

## [量化是什麼？Q4_K_M、Q8_0、FP16 差在哪，記憶體與品質怎麼取捨](https://onpremworld.com/zh-tw/guides/quantization-explained.md)

一次看懂模型量化的命名、每種等級省多少記憶體、又犧牲多少品質。品質數據來自 llama.cpp 與 Qwen 官方公布的實測，記憶體數字來自本站模型資料。

更新日期: 2026-10-14

## [Ollama、LM Studio、llama.cpp、vLLM 怎麼選？本地 LLM 執行工具比較](https://onpremworld.com/zh-tw/guides/ollama-vs-lm-studio-vs-llama-cpp-vs-vllm.md)

四種在本地跑開源模型的工具，從支援平台、模型格式、API、授權到多人使用一次比較，並附上 2026 年 10 月依官方文件確認過的安裝與啟動指令。

更新日期: 2026-10-14

## [打造公司內部的私有 ChatGPT：Open WebUI＋Ollama 地端部署教學](https://onpremworld.com/zh-tw/guides/private-chatgpt-open-webui.md)

在公司自己的伺服器上架一個 ChatGPT 風格的 AI 助理：依本站資料估算硬體、依官方文件逐步完成 Open WebUI 與 Ollama 的 Docker 部署、帳號權限、文件問答、資料不外流檢查清單，以及台灣企業與公部門需要知道的法規背景。

更新日期: 2026-10-14