跳到主要內容

發表文章

目前顯示的是 4月 27, 2014的文章

16GB ROCm 本地 LLM-as-a-Verifier 實測數據:Qwen3.5-9B 跑起來到底多快

TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...

三國名將 Android RPG Game

三國名將Online:2014最佳三國會戰手遊!全球下載超過一百萬次!看看誰才是天下真正的王者!FB粉絲團「點贊有好康」活動進行中!進行五星評價即可獲得超值好康喔! 首款QTE玩法三國RPG,以超炫麗的戰鬥技能和獨樹一幟的幫派玩法著稱,在全球已獲超過百萬下載量。勇戰呂布、調戲貂蟬;大敗曹操、泡盡大小喬;關羽、張飛、趙雲,任你調遣!諸葛亮、黃蓋、周瑜,聽你安排!讓你在眾多猛將、紅顏的幫助下逐鹿中原,一統天下! - 原汁原味的三國世界,擁有傲視群雄的霸王豪傑! - 成就名將與美人緊密結合的遊戲體驗,享受遊戲中江山美人的霸王待遇! - 別開生面的QTE戰鬥模式,暢享一觸即發的橫版戰鬥樂趣! - 更有金屋藏嬌,將千萬美女充實後宮的帝王享受! 四大玩法: - 超炫戰鬥技能——將技能實體化,不再是簡單的光效、人物跑動,無雙絕技、天神亂舞、武尊之怒等技能特效,展現超炫的華麗效果。 - 武器強化——不但有武器強化功能、寶石鑲嵌功能、升階功能,更將寶石合成等功能融入其中,系統更完善、更全面,絕對是RPG類遊戲中武器強化面面俱到的遊戲! - 招募系統——三國名將盡在其中,不但有英勇無敵的關羽、張飛、趙雲、呂布,還有足智多謀的諸葛亮、周瑜,更有艷絕天下的貂蟬、大小喬,還有眾多深宮美女等你寵幸,如此多人物靜等你來喚醒! - 幫派玩法——募集眾多志同道合的好友組建幫派,維護幫派內搖錢樹、與其桃園結義,更與眾多遊戲玩家進行幫派內戰鬥,群雄于亂世中崛起,一起戰鬥的場面相當之壯觀! 遊戲背景 東漢末年,奸人把持朝政,朝廷腐敗黑暗民不聊生,自然災害相繼不斷,百姓生活在水生火熱之中。妖人趁機煽動的黃巾起義雖被鎮壓,但導致了地方擁兵自重,形成群雄割據、軍閥混戰的局面。董卓借勢立足隴西,挾天子以令諸侯,干預東漢中央政權,手段殘暴不仁,弄得民不聊生,人民更是怨聲載道,期盼天下一統,過上安居樂業的生活。順應民聲,天下有志之士紛紛崛起,組成盟軍共同討伐董卓。 《三國名將Online》的故事就從這裡開始,玩家們將招募武將練習兵法,排兵佈陣,斬董卓戰呂布鬥曹操,將貂蟬大小喬救出于水火之中;橫掃天下不平之事,攻城掠地,收盡世間美女名媛,最終成就一代霸主夢想。

[連動測距相機] Konica IIIA.1958

先來點題外話,首先在今年 斷捨離專案 方興未艾之際,在下怎麼可能還入手任何玩具。 幸好有位賴格子先生不忍見到弱格的荒廢,承諾願意無限量提供相機供敝人品玩摳摸,在此,我想邀所有讀者一起,向這位偉大的贊助者鼓掌。 這款 Konica IIIA 市場上不乏 前輩 介紹,大家也都知道他當年賣的不便宜,所以現在賣他的人價錢也不想太便宜,畢竟單單就觀景窗放大率 1:1 就算是前無古人,後大概也沒什麼來者的完美光學科技,只是大部份平庸的我們都嫌他重而已,要記得,他不重,他是好東西! Konica IIIA 鏡頭有兩種版本,48mm f2 Hexanon 和 50mm f1.8 Hexanon,比較表如下: 尺寸 133x81x65mm 133x81x70mm 重量 800g 820g 鏡頭 Hexanon 48mm f/2 Hexanon 50mm f/1.8 當時售價 ¥32,800 ¥34,800 在下對於小西六於 1959 年推出的後繼機 IIIM 很感興趣,IIIM 有測光再加上可以拍半格,文青一定愛死了! 參考連結: http://www.dantestella.com/technical/koni3.html http://camerapedia.wikia.com/wiki/Konica_(I),_II_and_III Konica IIIA 特點 一、過片:按壓兩次鏡頭旁的過片桿過一張,據說不同的過片方式都會讓使用者興奮,就像在下也曾經迷戀過 天線機 按一下過片的那種感覺,我是比較寫不出來說這個過片桿有什麼四道優雅的弧線組成云云,個人比較務實一點,過片桿連按兩次,按起來蠻順手的是真的,拍照的左手不會閒著沒事幹,拍完很自然的就按兩下過片。 跟天線機比一比 二、觀景:前面說過 1:1 的放大率,有文章說到 Konica IIIA 是第一款取景框線自動調整的相機,總體來說,觀景窗內的影像明亮清晰,對拍攝者來說絕對就像愛車人士開到好車的那種爽快。 三、重:必要時可以當武器敲破敵人的頭! 四、有型:這很見仁見智,但這台從正上方看下去的八角形機身,我還蠻喜歡的。 Konica IIIA 主要規格 (50mm f1.8 版本) 對焦方式: 連動測距,疊影對焦。 快門: Seikosha-MXL ...