TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...
三國名將Online:2014最佳三國會戰手遊!全球下載超過一百萬次!看看誰才是天下真正的王者!FB粉絲團「點贊有好康」活動進行中!進行五星評價即可獲得超值好康喔! 首款QTE玩法三國RPG,以超炫麗的戰鬥技能和獨樹一幟的幫派玩法著稱,在全球已獲超過百萬下載量。勇戰呂布、調戲貂蟬;大敗曹操、泡盡大小喬;關羽、張飛、趙雲,任你調遣!諸葛亮、黃蓋、周瑜,聽你安排!讓你在眾多猛將、紅顏的幫助下逐鹿中原,一統天下! - 原汁原味的三國世界,擁有傲視群雄的霸王豪傑! - 成就名將與美人緊密結合的遊戲體驗,享受遊戲中江山美人的霸王待遇! - 別開生面的QTE戰鬥模式,暢享一觸即發的橫版戰鬥樂趣! - 更有金屋藏嬌,將千萬美女充實後宮的帝王享受! 四大玩法: - 超炫戰鬥技能——將技能實體化,不再是簡單的光效、人物跑動,無雙絕技、天神亂舞、武尊之怒等技能特效,展現超炫的華麗效果。 - 武器強化——不但有武器強化功能、寶石鑲嵌功能、升階功能,更將寶石合成等功能融入其中,系統更完善、更全面,絕對是RPG類遊戲中武器強化面面俱到的遊戲! - 招募系統——三國名將盡在其中,不但有英勇無敵的關羽、張飛、趙雲、呂布,還有足智多謀的諸葛亮、周瑜,更有艷絕天下的貂蟬、大小喬,還有眾多深宮美女等你寵幸,如此多人物靜等你來喚醒! - 幫派玩法——募集眾多志同道合的好友組建幫派,維護幫派內搖錢樹、與其桃園結義,更與眾多遊戲玩家進行幫派內戰鬥,群雄于亂世中崛起,一起戰鬥的場面相當之壯觀! 遊戲背景 東漢末年,奸人把持朝政,朝廷腐敗黑暗民不聊生,自然災害相繼不斷,百姓生活在水生火熱之中。妖人趁機煽動的黃巾起義雖被鎮壓,但導致了地方擁兵自重,形成群雄割據、軍閥混戰的局面。董卓借勢立足隴西,挾天子以令諸侯,干預東漢中央政權,手段殘暴不仁,弄得民不聊生,人民更是怨聲載道,期盼天下一統,過上安居樂業的生活。順應民聲,天下有志之士紛紛崛起,組成盟軍共同討伐董卓。 《三國名將Online》的故事就從這裡開始,玩家們將招募武將練習兵法,排兵佈陣,斬董卓戰呂布鬥曹操,將貂蟬大小喬救出于水火之中;橫掃天下不平之事,攻城掠地,收盡世間美女名媛,最終成就一代霸主夢想。