TL;DR: 這篇寫給不想被雲端 API 掏空錢包、又怕 AI Agent 盲目重構改爆 Codebase 的開發者。我們用 AMD 16GB 顯卡、Linux ROCm (HIP) 硬體加速，加上 Rust 寫的確定性 2PC 防禦門衛，手刻一套符合 PRM（Process Reward Model）規格的地端零成本 AI 外骨骼系統。 1. 痛點：Agent 狂歡背後的帳單破產與程式碼毀滅 Autonomous Coding Agent（OpenCode、Claude Code 等）大幅改變了開發流程，但附帶兩大噩夢： Token 黑洞與 API 帳單爆表 ：為了確保程式碼品質，Agent 需要頻繁自我思考、多方案比較（Best-of-N）與長鏈修復。幾輪對話下來，雲端 API 帳單直接失控。 確定性缺失（Non-determinism） ：沒有 Guardrail 攔截的 Agent 就像沒導航的賽車——隨時在背景修改全域 Interface、弄爛 DB Schema，甚至產生語法幻覺。 解答 ：我們需要 Verifier（過程監督者）。但大廠論文動輒用 A100 叢集配 vLLM 預分配幾十 GB VRAM，一般開發者負擔不起。我們需要一套在地端 16GB VRAM 上順暢跑的「窮人版 Process Supervision 體系」。 2. 硬體與驅動層：為什麼選 16GB AMD + ROCm (HIP)？ 在 Homelab / Linux (CachyOS) 環境下，用 16GB AMD 顯卡搭 ROCm Backend 是 CP 值很高的搭配： HIP 矩陣加速與 VRAM 吞吐 ：透過 ROCm 原生 HIP 加速，16GB VRAM 能穩穩咬住 Qwen2.5-Coder-7B（程式碼語意）與 Qwen3.5 9B VL（多模態視覺）。 逃離 vLLM 的 VRAM 黑洞 ：vLLM 預分配 90% VRAM 的機制在單機多任務環境是災難。改用 ROCm 版的 llama-server（GGUF 量化），模型權重只吃 5~9 GB VRAM，剩下的空間還能動態分配 KV Cache，主機照樣順跑其他服務。 0 API 成本 ：2PC（兩階段提交）觸發一萬次 /v1/directed 評分，消耗的只有幾塊錢電費，沒了...
大概是從年初到現在送審的圖，差不多四、五個月，雖然審核比之前慢一點，不過很神奇的是一次通過了 18 張，是已經審核通過的 9 張照片兩倍之多，而且選了一些我個人很喜歡的但不是小孩的照片，有一種自己的口味被認可的喜悅。
除了一些比較早期的孩子老婆照片，現在都是底片拍的居多，我已經都是不管三七二十一，送沖洗的時候通通多花 20 元掃成 600 萬畫素以上的圖，就是擔心自己還有重掃的麻煩。其實只要把底片相機丟了，通通用數位拍就不用掃描這麼麻煩…
又有得忙了，不過還蠻開心的，底下放幾張這次入選的照片》
底下那張雖然入選了但沒辦法賣，我個人很喜歡的一張照片，本來以為小姐姐的臉沒有很清楚不知道會不會算，我只要填 Angel 一張授權就可以，不過 GettyImages 還是要求同一張照片裡小姐姐的人像授權，所以這張只好放棄了，除非得到人家家長的授權，但人家大概不會同意吧？畢竟我們只是在公園偶遇玩耍了一下午而已，也不認識人家。
留言
張貼留言
回應不用錢，請多多益善！懶得寫字按個讚也是相當感謝！