TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
第三屆「好宅配大金」室內空間設計比賽2011年9月熱烈開跑 年度重點室內空間設計比賽 活動總獎金額超過60萬元 大金空調台灣總代理和泰興業為鼓勵消費者追求更美好的生活品質,也為讓更多建築界精英、室內空間設計人才有發揮創意的空間,連續二年舉辦「好宅配大金設計大賞」,獲得民眾廣大熱烈迴響,已成為一年一度重要的室內空間設計比賽之一,同時邀請產媒學界代表,為此活動合力推薦。 今年度的設計比賽總獎金額超過60萬元,以三大需求要素:「好空間、好設計、好空調」作為串連主軸向外延伸,今年特別新增設設計菁英組-商辦店鋪類,擴大好宅配大金範圍,目的即希望擴大「好宅」概念,強調大金空調冷氣優勢,融合且帶入更多元的空間,感受處處有大金、處處是好宅。這也就是「人與空氣之間總是有大金」的精神所在。 參賽組別除了有機會獲得獎金外,還有機會獲得大金空調冷氣、指定設計師改造或空間改造獎金。活動網站另邀優秀的室內設計師,分享居家空間佈置規劃的技巧,提供民眾居家空調冷氣規畫最實用的參考。 此外,一般民眾可以上網參加票選活動,投票還可參加抽獎,有機會獲得大金空調的好禮。 首設商辦店鋪類「全家便利商店」實例分享:全面使用大金空調,節能效果高達45% 大金優質名店『全家便利商店』營業開發本部蕭大誠協理表示,全家致力打造最舒適、便利的店鋪空間,同時響應愛地球的節能主張與政府近年來積極推動的『綠色採購』政策,經過調查及試測之後發現大金空調是最受好評,全面使用大金空調系統之後,全家便利商店也親身體驗到大金空調的冷氣故障率還有送修率都是最低的,非常節省電力,平均節能效果較一般市面之定頻空調高出 45%,使用後每年都為全家便利商店省下超過十萬度的電力,全家近年來也積極推動新一代「智慧綠能店舖」的建置與發展,以系統控制取代人為管理店鋪用電, 而大金空調積極投入,協助『全家』在既有變頻空調體制下再提升約5%節能效益! 另外一家大金優質名店「米朗琪咖啡館MELANGE CAFÉ」,一定要現場排隊侯位才能嘗到-草莓奶油鬆餅的香甜口感,濃郁、獨特的冰滴咖啡,配合著室內營造日系和歐洲咖啡館的混血風格,揉合出空間獨特的溫度。為了讓上門的顧客能擁有最舒服宜人的用餐環境,使用非常耐用省電的大金空調系統,對應氣候調節室內的溫濕度,使咖啡館一年四季皆能保持舒適環境,讓空氣都覺美味,即使開了二店也指名使用大...