從零打造私有化 Local LLM 模型管理系統:React + Node.js + Docker 隨著開源大型語言模型 (LLM) 的爆發,硬碟裡堆滿了各式各樣的 .safetensors 和 GGUF 檔案。原本使用指令行 (huggingface-cli) 下載模型雖然快速,但隨著模型數量增加,管理變得一團混亂:不知道哪個資料夾是做什麼的、檔案多大、何時下載的。
【Homelab 筆記】Nginx Proxy Manager安裝 環境:proxmox,vm 跑 ubuntu,對外有固定 IP,自架 DNS Server ,router 是 vm 跑 openwrt 最近因為玩 vllm, 及一堆服務,每個服務的需求環境不同,可以開 vm 解決,但網域的設定,要耗費精神跟 nginx 搏鬥,