TL;DR: 用 Qwen3.5-9B（Q4_K）在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier，每次 code comparison 約 0.5–2 秒，cache hit rate 66%，正確程式碼穩定給 1.0 分，有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘，還有空間跑其他服務。 這篇是實測續篇，前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」，這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux（CachyOS）上跑的： 項目 內容 GPU AMD 16GB（15.9 GiB）via ROCm 模型 Qwen3.5-9B（8.95B 參數，Q4_K ~5.7GB GGUF） 後端 llama.cpp（llama-server，ROCm HIP build） Verifier Docker container（llm-verifier），port 8010 模型 VRAM ~10.2 GB（模型本身 + 動態 KV cache） GPU 使用率 78% 系統 RAM 62 GB；使用 27 GB（swap 用了 9.3 GB） Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上，走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件，讀取 token-level log probability 來算連續分數，不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint： Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
(攝於台南安平漁港，Minolta XD，MD ZOOM 75-150mm & MD 28mm，Perutz Primera 100)
安平舊港(即今安平漁港)的營運歷史可分為三個時期：
最早是十九世紀1823年開港，台灣少數大港口之一，1865年天津條約被迫開放為對外通商口岸，因而開啟西洋傳教士來台，創立台灣近代文明的豐功史蹟。
當時的安平港(又稱台灣港)，是位於今日安平舊港北方，鹽水溪出海口及北方四草湖一帶，在十九世紀末，儼然是台灣府城國防及貿易的重要大港。安平區內現今保留的洋行、海關、領事館古蹟或遺址等，就是當年通商貿易所留下的歷史見證(見本文最下方備註圖解)。然而好景不常，因淤砂問題日益嚴重，港口時常淤積影響船隻運行，日治時期進行新港口闢建工程，即目前安平舊港的位置，是為日治時期的安平港。
雖然修建運河及不斷疏濬港口，終究不敵大自然的造化以及高雄港開港的競爭，安平港功能降低而逐漸沒落，終於在二次大戰後因設備嚴重被破壞，港口淤積更甚而不堪使用，舊港於1974年封港。不久於南方兩公里處之鯤鯓湖興建安平新港，又稱為安平商港，營運歷史進入第三時期，淤積的舊港口從此被遺忘了，原本的港口航道已被淤沙積成陸面，即是之前安平連接漁光島及海濱秋茂園、露營區的主要道路(漁光路的一部分)。
From：安平舊港重現-台南故事系列之九
起了個大早，自己開了車往安平海邊開去，循著記憶想往漁光島的秋茂園去，未料漁光島已成一水之隔的彼岸。(其實 2008 年就開港了，但是我一直都不知道呢！)
雖然是年節期間，不少漁民還是照常早起工作的。
也有不少早起的釣客
釣魚沒在帶餌的，直接拿海草就可以
也有人帶著狗，慢跑在堤岸上
長在海邊礁石上的海草，垂手可得
沙灘上生長的植物
沿著海岸往另一邊走去，是小時候常去的海水浴場
沒人管理，水深危險，小心安全，一片自由的海灘，因為清晨顯得寧靜非常
Google Map 都還是舊的圖資，怪不得我不知道
檢視較大的地圖
留言
張貼留言
回應不用錢，請多多益善！懶得寫字按個讚也是相當感謝！