跳到主要內容

發表文章

16GB ROCm 本地 LLM-as-a-Verifier 實測數據:Qwen3.5-9B 跑起來到底多快

TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...

富士無反現身.Fuji X-pro 1

(資料與圖片來源: Dcview ) 好了,Fuji 的無反就快要現身了,目前知道會推出三個鏡頭焦段 18mm  F2.0、35mm F1.4 以及 60mm F2.4。據說含 35mm 鏡頭的套組售價約 1300 歐元,其他兩顆鏡頭約為 600 歐元。 值得提的是,Fuji 在新的感光元件上採用 6 色感測元件,並非傳統的 Bayer 排列,這應該就是之前提到的畫質要直追全幅感光元件的技術,總之等有試拍的照片出來再來讓看倌們比較囉。 另外在觀景窗的部份,類似 X100 的 Hybrid Viewfinder,為第二代的改進款,可以在光學、電子間做切換,無論是經由光學觀景窗(OVF)或是電子觀景窗 (EVF)來構圖拍攝,此款第二代混合式觀景器會依據所搭載鏡頭而有不同的呈現。 最近網路上流傳的 ReponsesPhoto 雜誌內頁,裡面有 X-pro 1 的身影: X-Pro1 重要特色 X-Pro1是植基在 X100 的可交換鏡頭輕單眼 16MP的 APS大小CMOS 影像感測 焦長轉換為 1.5X 全新 X-Trans 影像技術 全新鏡頭接環 X-Mount 一開始有 三個大光圈定焦鏡頭的支援,分別為  18mm  F2.0 (相當於27mm) 廣角定焦, 35mm F1.4 (相當於53mm) 標準鏡頭以及 60mm F2.4.(相當於90mm) 獨特的 6 色感測元件,並非傳統的 Bayer 排列,因此也不需要 anti-moiré 濾鏡,這個做法,將可以使得影像更加的銳利, 同時,感測方式的不同,也將讓色彩更為真實 重視外觀美學 將具備選購的手把 獨立的 AF 自動對焦感應器 鋁合金金屬機身 256 區 TTL 測光,支援多重、點、平均測光模式 類似 X100 的混合式觀景器設計,為第二代的改進款,可以在光學、電子間做切換,無論是經由光學觀景窗(OVF)或是電子觀景窗 (EVF)來構圖拍攝,您的眼睛不只是看到被攝體與被攝場景,而且相關的拍攝條件資訊也會呈現在高畫質的螢幕上,相當的直覺 X-Pro1此一第二代混合式觀景器會依據所搭載鏡頭的不同,有不同的視覺感受 混合式觀景器拍照時可看到影像構圖及拍攝條件文字資訊顯示 反向式伽利略系統 X-Pro1支援 SD / SDHC / SDXC 專用 鋰...

新手機與 Mobile Blogging

(Samsung Galaxy SII,Retro Camera Android) 目前呢,搬家一整個亂七八糟,電話還沒移機,網路還沒好,於是只能先靠著新手機上上網。

綁兩支.Angel

(Sony A450,KM DT 18-70mm,Lightroom) Angel 的保姆很會幫孩子們綁頭髮,不過之前 Angel 都會選擇綁馬尾的那種,今天去接她看到這款綁兩支的新造型,也蠻好看的嘛。 青春無敵,是這麼說的嗎? 同場加映.人肉衣帽架。

保暖襪、運動襪二合一!titan襪現在最省,全年最低價

保暖襪、運動襪二合一! titan襪現在最省,全年最低價 今年冬天實在有夠冷,低溫動輒下探10度,許多人為了保暖,穿了2雙襪子。可是如果襪子不通風,雙腳一旦溫度高產生濕氣或水氣,無法排除,不只臭臭的不衛生,而且對雙腳健康有害!還有另一種狀況也很常見,有些人冬天運動,如果暖身沒做好,雙腳很容易運動傷害,留下舊傷,遺憾一輩子! 你是否曾想過,買襪子也可以被剝兩層皮? 因此,一到冷冬,常常可看到市面上的「保暖襪」滿天飛,或者知名運動品牌推出多款「運動襪」新品。然而你是否曾經想過,冷冬要保護雙腳其實可以更輕鬆簡單,只要穿一雙襪子就能同時擁有保暖、保護的雙重功能,這樣不只方便,還可以更省錢、不用被剝兩層皮。 腳部保護更簡單!一雙襪子兼具保暖、防受傷功能 titan機能襪今年和消費者一起抗冷冬!材質上精選上乘的純棉,讓你的雙腳穿起襪子感覺更舒適、透氣,不怕腳悶,同時也可以保暖禦寒;在織法設計上,結合運動力學,針對容易運動傷害的腳部位做加強,讓你走路、運動時雙腳更輕鬆靈活。一雙襪子,就能同步滿足「保暖」、「保護」的健康訴求! 今年唯一!titan下殺團購價,雙雙省近100元 更好康的是,titan機能襪為了回饋廣大支持的消費者,限時「下殺團購價」,每雙襪子平均可省近100元。以全方位運動襪來說,原價280元,現在只要200元有找!如果你不是運動一族,也可以選擇「上班族」專用的活力襪,讓你雙腳穿襪穿一整天都不悶臭,趕公車、搭捷運,不論走路或久站,雙腳都能更舒緩,原價260元,現在限時下殺182元,買多賺多! 小朋友專屬Kid襪更加強足弓保護,雙腳活動更靈活 titan研發團隊表示,除了大人的腳,6~10歲的小朋友最需要多元運動、以健全體適能發展,但由於足弓發展尚未成熟,雙腳活動時常需要依靠肌肉韌帶來輔助,在這種狀況下,雙腳若沒保護好就很容易運動傷害。titan新登場的「全方位Kids襪」,特別強調整雙襪子的緩衝設計,讓小朋友雙腳保護更完善!現在超值優惠150元有找,省最多! 這波超值優惠活動已進入倒數計時,只剩不到7天!想搶便宜動作要快,優惠數量有限,搶完為止! 馬上搶購: http://www.titan-tech.com.tw/store/index.php?utm_source=news&utm_med...

映画

(Konica Autoreflex T2,Konica AR Hexanon 40mm f1.8,Kodak PJ400 過期) 一趟旅程如果留得住一幕畫面,將是不虛此行。 即將結束的這段旅行,從大學畢業至今的時光。 這趟旅程,問我還能記住什麼,我會說,是人。 這裡的人都說,你要飛走了,我想也該是時候。 有成長有回憶,旅途中巧遇的你們,給我許多。 記憶流動著,片斷零碎,細細拼湊卻倍感踏實。

亨氏番茄醬 耶誕料理輕鬆做 ~~ 焗烤甜椒

亨氏番茄醬 耶誕料理輕鬆做 ~~ 焗烤甜椒 聖誕節即將到來,每到這時候我就要開始煩惱聖誕節要準備什麼禮物? 帶孩子去哪裡過節? 不知道媽媽們你們都幫孩子準備了什麼耶誕料理呢? 今天寶美媽我要來介紹一個大人小孩都愛吃又符合聖誕節氣氛的焗烤料理! 鮮豔的顏色, 讓人食慾大增! 【焗烤甜椒】 材料: •甜椒(紅、黃皆可) • 洋蔥 • 馬鈴薯 • 玉米罐 • 鮪魚罐 • 雞胸肉 • 乳酪絲 醬汁材料 • 亨氏番茄醬 •醬油 作法: 1. 洋蔥切丁, 甜椒去頭後將內部處理乾淨 2. 雞胸肉切丁( 可加少許太白粉略醃一下, 口感會比較嫩) 3. 起油鍋, 將洋蔥丁炒至透明變軟 4. 放入雞胸肉一起炒 5. 雞胸肉變色後, 加入酌量亨氏番茄醬與醬油 6. 拌炒後, 起鍋放入碗中 7. 依個人喜好拌入玉米粒後拌勻 8. 將拌好的材料, 填入處理好的甜椒中 9. 上頭放上微量的乳酪絲, 放入烤箱烤約20-25分鐘, 乳酪絲呈現金黃即完成 番茄醬是小朋友吃飯時候的好朋友, 到了這時候就是媽媽料理的最好幫手! Heinz 亨氏番茄醬" 100%純天然, 鈉含量較其他品牌低, 更有很特別的番茄醬包裝,還是第一次見到!! 跟平常使用的番茄醬不太一樣!! 平常使用的不是玻璃罐瓶裝就是軟軟塑膠霧霧透明包裝...  這款倒立瓶集兩種包裝的好處於一身~外觀透明好看使用上更順手!! 讓我輕輕鬆鬆作出超應景的聖誕節料理! 今年的聖誕節大家也一起來動動手, 就用100%純天然,不加人工色素與防腐劑的亨氏番茄醬去DIY酸甜美味,送給家人和朋友一份無價的聖誕回憶吧! 喜歡這個這道【焗烤甜椒】嗎? 部落客聖誕食譜集氣PK賽,只要成功分享喜歡的食譜到Facebook,週週抽整箱100%純天然亨氏番茄醬,讓你的料理365天,天天健康又美味!分享越多,中獎機會越高喔! 詳細活動內容: http://www.heinz.com.tw

[古典相機] Konica Autoreflex T3.1973

1973 年推出的 T3 是 Konica 第一款備配閃燈熱靴的 SLR 機身,延續著之前機種一路進步,T3 稱得上 Konica 功能最強的機械機身;顏色上推出銀黑與全黑兩款機身,全黑機身的產量較少,相對稀有許多。 外型上,T3 延續了 T1、T2 系列的機身,紥實沈手,耐用可靠,重量與體積皆同於前代 T2。 在功能上,以前代 Autoreflex T2 為基礎,增加了以下幾個功能: 熱靴座:可拆卸式,熱靴座有一個接點與機身溝通 (T3 改良款 T3N 則是將熱靴座改為固定式) 多重曝光:向下撥快門轉盤旁的 M.E. 撥桿同時過片,如第二張圖所示的操作 (圖片來源:手冊截圖) 更亮的觀景窗,更廣的底片感光度支援 T3 與 1975 年以後推出的 T3N 在名稱標示上也無不同,所以必須從外觀上去判斷,可以參考這一篇: Konica Autoreflex T3 / T3N Differences 。 Konica Autoreflex T3 規格整理 快門: 縱走式焦平面金屬材質機械快門 (Copal Square-S),快門速度 1 - 1/1000 秒以及 B 快門,電子閃燈同步快門 1/125 秒,快門先決全開光圈自動曝光,電池只供測光之用,沒電時快門仍然全速作動。 測光範圍: EV1.5 - EV18 (with ASA 100) 測光元件: 兩顆 CdS 硫化鎘測光元件,TTL 全開光圈中央加權測光,中央加權的範圍會隨鏡頭焦段而調整 觀景窗視野率: 92% 觀景窗放大率: 0.78 X 觀景窗對焦屏: 一般是中央微菱,也有配備裂像對焦屏的機種,據說是比較昂貴的。 觀景窗內資訊: 快門速度、光圈數值指示、電量檢測指示 (下圖來源手冊截圖) ISO: ASA 12 – 3200,1/3 級進。 快門鎖定與測光開關: 有,快門鈕底下的開關,切換到 Off 會關閉測光系統同時快門無法按下。 另外也發現一件蠻貼心的小設計,當你還沒過片前開關是切到 Off 的狀態,要拍照的時候只要拉過片桿,開關就會自動幫你切換到 On,相機就可以為你測光並讓你按下快門拍照,無需要多一個要去切開關的動作。 電量檢測鈕: 有,整合...