bob

bob

Day14 你的機器還活著嗎

這一路示範到此,共蓋了 10 台:3 台 proxmox ,7 台 ubuntu : Router, NPM,HQ,LLM,TTS+STT+OCR,RAG,Remotion 。 底下的截圖是我實際在管的那座機房目前狀態,數量會跟示範的不同,請見諒。 機器多了,常態性地檢查系統服務是否正常,就變成很重要了。 第 8 天蓋的控制中心有四個頁面:儀表板、遠端、日誌、管理。那四頁回答的是「現在怎麼樣」。今天要補的是另外三個問題: 昨天到今天變了什麼? 該在跑的東西還在跑嗎? 出事的時候誰來告訴我? 做法是在同一個控制台上再加三個分頁:維運、服務、防護,外加一組通知設定。 ssh 連到 hq,切換到 /opt/claude-working,
閱讀時間 16 分鐘

Day13 來自動產生影片吧

先參觀初版,沒有修飾的成果: 前面的建置,是:將你想要的做出來。 這一個建置,是拿別人的成果,修改成我們要的樣子。 我們要用到: https://github.com/remotion-dev/remotion 首先:法律問題,先把 repo 丟給 claude code ,能不能用,授權是甚麼? 問 claude code: read : https://github.com/remotion-dev/remotion check 授權,我們可以用在自家的網站嗎? claude 回答:...... TL;DR 結論: 1. 平台對外開放(給客戶、給合作夥伴用)→ 立刻變成明確的 Automators 商業情境, 免費授權基本上不可能適用
閱讀時間 10 分鐘

Day12 RAG應用

LLM,OCR,TTS,STT,Embedding,Reranker 都準備好了,可以建 RAG 知識庫了。--- 不過,不算標準的RAG。 這台的跟前面的都不一樣:它不用顯示卡,不裝任何模型。它自己只做三件事:把文件灌進來、把知識存起來、把問題送出去,再把答案組回來。會這樣做 是因為計算演算的機器壞了,重建一臺就好。但是知識庫儲存了我們所建立的相關資料,壞掉了就沒了。所以單獨建立,方便管理資料庫。 這台不必大。實際上跑起來的規格很普通:8 個虛擬核心、16 GB 記憶體、系統碟 100 GB,沒有顯示卡。唯一要講究的是資料放哪:知識庫那些檔案要放在另一顆碟上,跟系統分開。理由在最後一段會講清楚,先照做。 ssh 連到 hq,切換到 /opt/claude-working,
閱讀時間 10 分鐘

Day09 本地端 LLM Service

來點貴的。 漲價前到手四張 5060Ti 16G,弄了一些 32G 的RAM,所以,組了兩台測試機。 一樣用虛擬機,不是實體機 —— 理由跟前面那幾台完全一樣,不重複講。硬體:16 個執行續、80 GB 記憶體、系統碟 512 GB nvme,另外掛一顆 1 TB 的資料碟專門放模型。 用 Qwen3.6 35B A3B、Q4_K_M 模型。 此機先安裝好 Proxmox (192.168.0.22)。 確認 llm.iron30.com 有設定指向你的固定IP。 然後建一個 Ubuntu VM
閱讀時間 9 分鐘

廟裡的籤回到家就看不懂?雲端寺幫你把它讀成白話

在生活裡卡住的時候,你都怎麼辦呢?問人?還是自己一個人想到睡不著? 我們都需要一點方向。可是方向這種東西,很難從別人嘴裡直接拿到。 所以囉,來跟大家聊一下,我做的這個站——「雲端寺」。它是一間線上求籤問卦的數位別院,網址是 lucky.candle.com.tw。 做它的起點很簡單,在茫茫的生涯裡,人都需要一點心靈的支柱與方向。從 2007 年開始做,2010 因故暫停,後來又重新出發。為什麼這麼執著?因為我覺得,籤詩與卦辭不是對未來事實的預測,它給的是一個回頭看自己處境的角度。 讓我們來看看,在這個站上,你可以怎麼用這些傳統智慧。 廟裡那支籤,回家就看不懂了 大家都抽過籤。廟裡的籤是文言文,又多典故,抽完那一刻是安心的,回到家再看那張紙,常常就看不懂了。 古代有威德的眾生用四書五經、用文言文跟人溝通,到了現代,我們去讀籤詩就有點困難,所以需要有人幫忙解釋。 觀音殿:一百籤,擲筊還留著 觀音殿用的是台灣廟宇常見的觀音靈籤一百籤:
閱讀時間 8 分鐘

Day08 完善控制中心

我們已經成功連線 hq.iron30.com 網站,憑證也是綠的。接下來,我們來完善這個網站。 先問自己: 我想從這個控制中心,看到甚麼? 因為對外開放了,所以要有帳號,密碼登入的保護。 1. 有那些機器在跑,跑甚麼?目前狀況? 是不是有機器停了,出問題了? 2. 每台機器的細節,從控制中心,是否就可以指揮遠端的機器? 3. 版面配色,是不是可以隨我喜好改變? 4. 有個日誌,紀錄相關的事件。 首先,從這裡開始,做一個策略調整: Fable 設計整個工作的框架,任務, sonnet 執行,Fable 負責:驗證,稽核。這樣可以省 token。 ssh 連到 hq,切換到 /opt/claude-
閱讀時間 9 分鐘

Day07 反向代理

目前對外只有一個門牌:iron30.com,而 iron30.com 底下所有子網域都指向同一個位址(1.2.3.4)。當外面連進來,到底誰接手?答案是在門口放一個人,看每個請求要找哪個網域,再轉給內網對應的那台機器。這就是反向代理。它讓「一個對外位址」和「很多個網站」不再互相牴觸。 從這一篇開始,所有操作都不再到那台實體 Proxmox上做,一律在上一篇建好的 hq 上進行。它是控制中心。既然要當控制中心,它得先知道機隊裡有什麼 —— 所以第一件事是建一份機器清冊。一張總表,加上每台機器一份自己的檔案:這台是什麼、怎麼連進去、跟誰有依賴、以及做過什麼的變更歷史。現在只有兩台,寫起來很快;等到二十幾台,要回頭補就昏天黑地了。 有個工作要先做: 把你會用到的網域名稱,設定好。如: hq.iron30.com llm.
閱讀時間 9 分鐘