主題

AI與電腦

共 54 篇文章

Day13 來自動產生影片吧

先參觀初版,沒有修飾的成果: 前面的建置,是:將你想要的做出來。 這一個建置,是拿別人的成果,修改成我們要的樣子。 我們要用到: https://github.com/remotion-dev/remotion 首先:法律問題,先把 repo 丟給 claude code ,能不能用,授權是甚麼? 問 claude code: read : https://github.com/remotion-dev/remotion check 授權,我們可以用在自家的網站嗎? claude 回答:...... TL;DR 結論: 1. 平台對外開放(給客戶、給合作夥伴用)→ 立刻變成明確的 Automators 商業情境, 免費授權基本上不可能適用
閱讀時間 10 分鐘

Day12 RAG應用

LLM,OCR,TTS,STT,Embedding,Reranker 都準備好了,可以建 RAG 知識庫了。--- 不過,不算標準的RAG。 這台的跟前面的都不一樣:它不用顯示卡,不裝任何模型。它自己只做三件事:把文件灌進來、把知識存起來、把問題送出去,再把答案組回來。會這樣做 是因為計算演算的機器壞了,重建一臺就好。但是知識庫儲存了我們所建立的相關資料,壞掉了就沒了。所以單獨建立,方便管理資料庫。 這台不必大。實際上跑起來的規格很普通:8 個虛擬核心、16 GB 記憶體、系統碟 100 GB,沒有顯示卡。唯一要講究的是資料放哪:知識庫那些檔案要放在另一顆碟上,跟系統分開。理由在最後一段會講清楚,先照做。 ssh 連到 hq,切換到 /opt/claude-working,
閱讀時間 10 分鐘

Day09 本地端 LLM Service

來點貴的。 漲價前到手四張 5060Ti 16G,弄了一些 32G 的RAM,所以,組了兩台測試機。 一樣用虛擬機,不是實體機 —— 理由跟前面那幾台完全一樣,不重複講。硬體:16 個執行續、80 GB 記憶體、系統碟 512 GB nvme,另外掛一顆 1 TB 的資料碟專門放模型。 用 Qwen3.6 35B A3B、Q4_K_M 模型。 此機先安裝好 Proxmox (192.168.0.22)。 確認 llm.iron30.com 有設定指向你的固定IP。 然後建一個 Ubuntu VM
閱讀時間 9 分鐘

Day08 完善控制中心

我們已經成功連線 hq.iron30.com 網站,憑證也是綠的。接下來,我們來完善這個網站。 先問自己: 我想從這個控制中心,看到甚麼? 因為對外開放了,所以要有帳號,密碼登入的保護。 1. 有那些機器在跑,跑甚麼?目前狀況? 是不是有機器停了,出問題了? 2. 每台機器的細節,從控制中心,是否就可以指揮遠端的機器? 3. 版面配色,是不是可以隨我喜好改變? 4. 有個日誌,紀錄相關的事件。 首先,從這裡開始,做一個策略調整: Fable 設計整個工作的框架,任務, sonnet 執行,Fable 負責:驗證,稽核。這樣可以省 token。 ssh 連到 hq,切換到 /opt/claude-
閱讀時間 9 分鐘

Day07 反向代理

目前對外只有一個門牌:iron30.com,而 iron30.com 底下所有子網域都指向同一個位址(1.2.3.4)。當外面連進來,到底誰接手?答案是在門口放一個人,看每個請求要找哪個網域,再轉給內網對應的那台機器。這就是反向代理。它讓「一個對外位址」和「很多個網站」不再互相牴觸。 從這一篇開始,所有操作都不再到那台實體 Proxmox上做,一律在上一篇建好的 hq 上進行。它是控制中心。既然要當控制中心,它得先知道機隊裡有什麼 —— 所以第一件事是建一份機器清冊。一張總表,加上每台機器一份自己的檔案:這台是什麼、怎麼連進去、跟誰有依賴、以及做過什麼的變更歷史。現在只有兩台,寫起來很快;等到二十幾台,要回頭補就昏天黑地了。 有個工作要先做: 把你會用到的網域名稱,設定好。如: hq.iron30.com llm.
閱讀時間 9 分鐘

Day 06 建立範本

機隊裡的 Ubuntu 伺服器有二十幾台,每一台建立好之後,做的事幾乎一模一樣: 設時區、開自動對時、裝虛擬機代理程式、關掉 IPv6、開密碼登入、裝順手的編輯器。 六件事,做一次十分鐘,做二十次就是三個多小時,而且每次都可能漏掉其中一項。 真正的代價不是那三個小時,是「二十台機器裡有三台跟其他人不一樣,而你不知道是哪三台」。 所以這件事,把它做成範本,之後全部用複製的。 範本的實體是兩個東西的組合:一顆磁碟映像,加一份開機設定。 基底用官方的雲端映像,不用安裝光碟。安裝光碟需要人工設定;雲端映像預期你不會坐在螢幕前面回答問題,開機時它會去讀一份設定檔,把主機名稱、使用者、套件、要跑的指令全部照做完。 複製一台新機器只要一行指令,開機起來就是設定好的狀態,不必登入去補任何東西。 但雲端映像有三個預設值需要注意: 第一,它預設關閉密碼登入。不打開,你複製出來的機器登不進去。 第二,它的套件索引是空的。不先更新一次,任何要裝的套件都會裝不到。 第三,它沒有附虛擬機代理程式。沒有它,
閱讀時間 9 分鐘

Day 05 把路由器做成一台 VM

用虛擬機架個路由器。 模擬情境: 中華電信,撥接,固定 ip: 1.2.3.4 (跟中華電信要) 網域名: iron30.com,已經指向 1.2.3.4 ( 此處不會的,問 AI ) 為甚麼第一個做這個? 因為:後面所有的VM,都會需要連到網路,所以我們必須要先有個路由器,後面的建置才能進行下去。 虛擬機用兩張虛擬網卡: 一張接撥接那條實體網路埠,當對外;一張接內網橋接器,當對內。對外只有 1.2.3.4 這一個門牌,所有服務靠通訊埠轉發分流到內網不同機器。iron30.com 和它底下的子網域全部指向同一個 IP,進來之後誰接手是反向代理的事,那是後面的篇章。 做成虛擬機的理由很單純:它從此跟其他機器一樣 —— 可以備份、可以還原、
閱讀時間 8 分鐘