更多文章

Day13 來自動產生影片吧

先參觀初版,沒有修飾的成果: 前面的建置,是:將你想要的做出來。 這一個建置,是拿別人的成果,修改成我們要的樣子。 我們要用到: https://github.com/remotion-dev/remotion 首先:法律問題,先把 repo 丟給 claude code ,能不能用,授權是甚麼? 問 claude code: read : https://github.com/remotion-dev/remotion check 授權,我們可以用在自家的網站嗎? claude 回答:...... TL;DR 結論: 1. 平台對外開放(給客戶、給合作夥伴用)→ 立刻變成明確的 Automators 商業情境, 免費授權基本上不可能適用
閱讀時間 10 分鐘

Day12 RAG應用

LLM,OCR,TTS,STT,Embedding,Reranker 都準備好了,可以建 RAG 知識庫了。--- 不過,不算標準的RAG。 這台的跟前面的都不一樣:它不用顯示卡,不裝任何模型。它自己只做三件事:把文件灌進來、把知識存起來、把問題送出去,再把答案組回來。會這樣做 是因為計算演算的機器壞了,重建一臺就好。但是知識庫儲存了我們所建立的相關資料,壞掉了就沒了。所以單獨建立,方便管理資料庫。 這台不必大。實際上跑起來的規格很普通:8 個虛擬核心、16 GB 記憶體、系統碟 100 GB,沒有顯示卡。唯一要講究的是資料放哪:知識庫那些檔案要放在另一顆碟上,跟系統分開。理由在最後一段會講清楚,先照做。 ssh 連到 hq,切換到 /opt/claude-working,
閱讀時間 10 分鐘

Day09 本地端 LLM Service

來點貴的。 漲價前到手四張 5060Ti 16G,弄了一些 32G 的RAM,所以,組了兩台測試機。 一樣用虛擬機,不是實體機 —— 理由跟前面那幾台完全一樣,不重複講。硬體:16 個執行續、80 GB 記憶體、系統碟 512 GB nvme,另外掛一顆 1 TB 的資料碟專門放模型。 用 Qwen3.6 35B A3B、Q4_K_M 模型。 此機先安裝好 Proxmox (192.168.0.22)。 確認 llm.iron30.com 有設定指向你的固定IP。 然後建一個 Ubuntu VM
閱讀時間 9 分鐘

廟裡的籤回到家就看不懂?雲端寺幫你把它讀成白話

在生活裡卡住的時候,你都怎麼辦呢?問人?還是自己一個人想到睡不著? 我們都需要一點方向。可是方向這種東西,很難從別人嘴裡直接拿到。 所以囉,來跟大家聊一下,我做的這個站——「雲端寺」。它是一間線上求籤問卦的數位別院,網址是 lucky.candle.com.tw。 做它的起點很簡單,在茫茫的生涯裡,人都需要一點心靈的支柱與方向。從 2007 年開始做,2010 因故暫停,後來又重新出發。為什麼這麼執著?因為我覺得,籤詩與卦辭不是對未來事實的預測,它給的是一個回頭看自己處境的角度。 讓我們來看看,在這個站上,你可以怎麼用這些傳統智慧。 廟裡那支籤,回家就看不懂了 大家都抽過籤。廟裡的籤是文言文,又多典故,抽完那一刻是安心的,回到家再看那張紙,常常就看不懂了。 古代有威德的眾生用四書五經、用文言文跟人溝通,到了現代,我們去讀籤詩就有點困難,所以需要有人幫忙解釋。 觀音殿:一百籤,擲筊還留著 觀音殿用的是台灣廟宇常見的觀音靈籤一百籤:
閱讀時間 8 分鐘

Day08 完善控制中心

我們已經成功連線 hq.iron30.com 網站,憑證也是綠的。接下來,我們來完善這個網站。 先問自己: 我想從這個控制中心,看到甚麼? 因為對外開放了,所以要有帳號,密碼登入的保護。 1. 有那些機器在跑,跑甚麼?目前狀況? 是不是有機器停了,出問題了? 2. 每台機器的細節,從控制中心,是否就可以指揮遠端的機器? 3. 版面配色,是不是可以隨我喜好改變? 4. 有個日誌,紀錄相關的事件。 首先,從這裡開始,做一個策略調整: Fable 設計整個工作的框架,任務, sonnet 執行,Fable 負責:驗證,稽核。這樣可以省 token。 ssh 連到 hq,切換到 /opt/claude-
閱讀時間 9 分鐘

Day07 反向代理

目前對外只有一個門牌:iron30.com,而 iron30.com 底下所有子網域都指向同一個位址(1.2.3.4)。當外面連進來,到底誰接手?答案是在門口放一個人,看每個請求要找哪個網域,再轉給內網對應的那台機器。這就是反向代理。它讓「一個對外位址」和「很多個網站」不再互相牴觸。 從這一篇開始,所有操作都不再到那台實體 Proxmox上做,一律在上一篇建好的 hq 上進行。它是控制中心。既然要當控制中心,它得先知道機隊裡有什麼 —— 所以第一件事是建一份機器清冊。一張總表,加上每台機器一份自己的檔案:這台是什麼、怎麼連進去、跟誰有依賴、以及做過什麼的變更歷史。現在只有兩台,寫起來很快;等到二十幾台,要回頭補就昏天黑地了。 有個工作要先做: 把你會用到的網域名稱,設定好。如: hq.iron30.com llm.
閱讀時間 9 分鐘

Day 06 建立範本

機隊裡的 Ubuntu 伺服器有二十幾台,每一台建立好之後,做的事幾乎一模一樣: 設時區、開自動對時、裝虛擬機代理程式、關掉 IPv6、開密碼登入、裝順手的編輯器。 六件事,做一次十分鐘,做二十次就是三個多小時,而且每次都可能漏掉其中一項。 真正的代價不是那三個小時,是「二十台機器裡有三台跟其他人不一樣,而你不知道是哪三台」。 所以這件事,把它做成範本,之後全部用複製的。 範本的實體是兩個東西的組合:一顆磁碟映像,加一份開機設定。 基底用官方的雲端映像,不用安裝光碟。安裝光碟需要人工設定;雲端映像預期你不會坐在螢幕前面回答問題,開機時它會去讀一份設定檔,把主機名稱、使用者、套件、要跑的指令全部照做完。 複製一台新機器只要一行指令,開機起來就是設定好的狀態,不必登入去補任何東西。 但雲端映像有三個預設值需要注意: 第一,它預設關閉密碼登入。不打開,你複製出來的機器登不進去。 第二,它的套件索引是空的。不先更新一次,任何要裝的套件都會裝不到。 第三,它沒有附虛擬機代理程式。沒有它,
閱讀時間 9 分鐘