跳到主要內容

16GB ROCm 本地 LLM-as-a-Verifier 實測數據:Qwen3.5-9B 跑起來到底多快

TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...

是誰告訴你一定要買定焦?

從 DC 到 DSLR》

在棄 DC 升級 DSLR 之前,問問自己,到底是想來搜集器材?還是想提升拍照的能力 (也包括影像後製的能力)?DSLR + Kit 的價錢,基本上已經跟高階 DC 相差無幾了,買了 DSLR 除了相機變大台,變換焦距時轉動變焦環要用手,說穿了可能是「爽度」在作祟。

在你拍了一陣子 Kit 之後,從各大論壇的討論串,從商業行銷的廣告,從別人淺景深的照片,你一定會面臨考慮後續鏡頭升級的必要。

然後自然就會談到擁有大光圈,更佳影像品質的定焦鏡,不過你拍照的時候人要跑來跑去構圖,不同的攝影題材你可能要換不同焦長的鏡頭,買大三元?還是窮人大三元?補齊完整的焦段?到時候你可能又覺得怎麼也買不完。

其實也一直都有所謂全焦段的變焦鏡頭,但通常都很大一顆,定光圈者價格也不斐,不過也確有其方便之處,所以是否使用定焦鏡其實端看你的選擇,這也是個人攝影習慣確立的一個過程,器材沒有絕對好與壞,端看你順不順手。

買定焦鏡之前,你可以先做的功課》

如果你想進入定焦的世界,在進入 DSLR 初期,Kit (18-55) 可以做為檢測你慣用焦段的工具,從你拍攝的習慣中,找出你常用的焦段,用來選擇你的第一顆定焦鏡。你可以試試 Exif Analyzer 2 這個軟體,分析你所拍攝的照片,找出你常用的焦段。

然後是光圈,光圈愈大的定焦鏡 (詳可參考:何謂光圈?),價格愈高,因為能夠自由選用更大光圈的自由度是「有」價的,要用錢來換,通常也是因為追求淺景深所致 (詳可參考:何謂景深?),不過大光圈通常也伴隨著畫質不夠銳利,一般來說縮一格至一格半的光圈能兼顧淺景深以及畫質銳利,那麼買小一點光圈的定焦鏡,除了便宜,其實也有全部都用得上的好處,預算很難無上限的。

想體驗定焦拍攝到底適不適合你自己,也可以從 M42 老鏡開始,因為老鏡價格不高,焦段也算得上齊全,M42 可以搭配各家適用的轉接環,相容度很高,玩一陣子再脫手換鏡來玩幾乎還是可以用原價賣出,老鏡的成像很有魅力,手動對焦也可以讓你慢慢體會拍照的樂趣,或者學一學什麼是泛焦拍攝,小小的一點投資可以幫你找到適合的焦段,增加功力,再慢慢入手定焦 AF 鏡。

風景廣角,人像中長焦,其實你不用想那麼多》

IMGP1071

只有一顆定焦夠不夠,其實很夠。我很愛 DA 40mm LE,P 家第一顆 DA 小餅乾。自從二手買進 DA 40 之後,Kit 已經不知道放在防潮箱多久了。

3972196603_95e109fbd5_bK10D 接 DA 40,換算 35mm 規格的等效焦長約為 60mm,DA 40 使用在全幅沒有成像圈的問題,我的底片機 MZ-L 更可以從機身控制這顆小餅乾的光圈,解決了 DA 鏡省略光圈環無法手動調整光圈的窘境,因此得以獲得 40mm 的視野又可機身控制光圈,40mm f/2.8 則是許多 RF 相機的經典焦長與光圈,鏡身小巧,金屬質感,最重要的是這是 P 家最便宜的小餅乾,卻讓我得以底片數位通吃,而 DA 40 無論在底片或數位上的表現,皆讓人滿意。

所以,如果你想購入定焦鏡,我想建議你第一顆擁有的定焦鏡,就是標準鏡 (詳可參考:何謂標準鏡?),簡單來說是 50mm 左右,40mm – 60mm 之間的焦段。

為什麼是這個焦段,除了產量大且便宜,其實也有很多好處。感覺上,要長不長,要廣不廣,但也就是因為這樣,使得一顆標準焦段的定焦鏡,適合用來拍攝各種的題材,加上此焦段的鏡頭製鏡技術較不困難,成像畫質普遍不差,俗稱:「標頭無弱旅」,是 C/P 值最高的投資。

我是以 35mm 規格來談的,所以你可以換算一下,一般來說,如果不是全片幅的 DSLR,需乘上 1.5 或 1.6,4/3 系統需乘以 2,以 1.5 倍來說,大概是選擇 28mm、35mm 或 40mm,如果選用 50mm 接在 DSLR 上已經是 75mm 了,算是進入中長焦段,一般人像鏡的用途居多,當然拍別的也不是不可以,沒人規定你,當然你也可以直上全片幅單眼,這樣你的焦段規劃自然可以一致。

因為我有底片包衭 (其實是自找的),我必須考慮接到底片與數位兩者的通用性,我捨棄了幾個接近焦長的選項:

Pentax FA 35mm f/2,當然更大的光圈是迷人的,但是因為鏡身質感不夠好,我對金屬鏡身始終有種莫名的狂熱,從老鏡而來。[備註:而且 FA 35mm 價格已經太不像話了!]

Pentax DA 35mm Macro LE f/2.8,除了同是 P 家限定鏡,金屬鏡身,還可以 Macro 近拍,換算 35mm 規格的等效焦距約為 53mm,不過用在底片機上似乎有成像圈 (我沒用過但從網路上搜尋得知),所以不列入考慮。[備註:其實也是因為比較貴啦!有錢我就會亂買來玩了!]

Pentax FA 50mm f/1.4,f 1.4 大光圈是迷人的,除了也因為鏡身質感不夠好,換算至 DSLR 變成 75mm 在室內拍生活照會比較不好拍也是其中一個考慮,不過我個人是很喜歡把 50mm 左右的 M42 老鏡接 DSLR 用在拍人像的用途,像是 Pentacon MC auto 50mm f1.8 還有 Zenit MC Helios-44m-7 58mm f2,這個從 75mm 到 85mm 的焦段是還不賴。[備註:也就是說如果 FA 50mm 二手很便宜我還是會收!]

生活隨拍、風景、人像,一顆標準焦段的定焦鏡,其實很夠用的!至於其他的焦段,再視你的需要跟預算來添購吧!底下 DA 40 所拍拙作供你參考。

DA 40 拍底片》

69870004 69870016

(攝於華山 1914 創意園區,Pentax MZ-L,DA 40mm LE,Fujicolor X-tra 400 增感一格)

67500014

(攝於台北東門市場,Pentax MZ-L,DA 40mm LE,Fujicolor X-tra 400)

DA 40 拍數位》

IMGP6396 IMGP6379

(攝於台灣大學,Pentax K10D,DA 40mm LE)

勸敗!大方送7-11禮券1000元!算一算不到一萬元啦!

SMC DA 40mm/2.8 Limited(富堃公司貨)

留言

  1. 看過您的文章,完全認同您的見解。不過有個問題想討教...我用D90,亦喜愛老鏡,如何轉接?還可以有測光功能嗎?因為未有能力買D700,所以相信還會用一段長時間。

    回覆刪除
  2. Re: 葉赫秀策 <2205450045286167374>
    如果舉 M42 轉接至 Nikon 為例,Nikon F mount 的法蘭距是 46.5mm,法蘭距比 M42 45.46 長,基本上可以使用轉接環轉接的通常是法蘭距長的鏡頭接到法蘭距短的機身,Nikon 的鏡頭比較容易轉接到別家的機身,而 Nikon 的機身基本上想透過轉接環轉接各家鏡頭都不是太方便,常見的只有改鏡一途而已。

    常見的市面上賣的 M42 鏡轉接 Nikon 機身的轉接環,沒有矯正鏡片的通常是無限遠無法合焦,而有矯正鏡片的則是多少會損失一些畫質。

    Nikon 的數位機身我不曾擁有過,轉接這部份我真的不是太詳盡,我是從網路上查找的經驗跟您分享,所以有沒有測光功能我真的不太清楚。

    法蘭距:http://zh.wikipedia.org/wiki/%E6%B3%95%E5%85%B0%E8%B7%9D

    M42 轉 Nikon 轉接環:(參考商品)
    http://www.cosina.com.tw/spdtView.asp?nid=207

    回覆刪除

張貼留言

回應不用錢,請多多益善!懶得寫字按個讚也是相當感謝!

這個網誌中的熱門文章

有點誇張的準專業機.Minolta Alpha 7 (Dynax 7、Maxxum 7).2000

題外話,去年幫朋友標了這台,遲遲未寫一篇介紹,其實是有私心的,好東西少一點人知道比較不會搶。 上個禮拜因為自己要 幫朋友拍攝一場婚禮 ,無巧不巧原本服役的 707si 掛了,於是跟朋友商借了 Alpha 7 來拍,拍過之後就一直放在身邊,說實在的有點捨不得還,快門聲,手感,強大的性能,實在是有點誇張。 拿 Alpha 7 拍我女兒的時候,因為有 LCD,我女兒會說我要看,而不是問我 把拔這台是底片的嗎 ?讓我解釋半天她也不相信,直指著 LCD 要看照片,很妙,但是個識貨的女孩,一眼就看出這台相機的特點,機背有 LCD。 於 1998 年推出頂級機 Alpha 9 之後,2000 年推出的 Alpha 7 除了快門速度和連拍速度緊挨著機皇而沒有強過頭,卻在準專業定位的 Alpha 7 身上加入多項先進的功能,其中許多 Alpha 9 所沒有的,相當驚人,整理於下: ※ 全新開發之 CDC912 對焦系統,九點寬域對焦,排列為黃金矩陣 ,宣稱為世界首快之 AF 對焦;機背轉盤可選擇對焦點並直接對焦。(Alpha 9 為三點寬域自動對焦) ※ 首見機背大型點矩陣式 LCD 大幅增加人機溝通性能,若採垂直控制拍攝時LCD會隨之轉為垂直。 ※ DMF (Direct Manual Focus) 功能 :透過機身可讓鏡頭全時手動,無須撥動AF/MF鈕 ※ 世界首見 STF (Smooth TransFocus) 特效 ,可使每支鏡頭作出特殊背景鬆濛感,類似Minolta STF 135mm f/2.8[T4.5]的效果 (作用原理:相機自動切換為多重曝光,並於曝光時逐漸縮小光圈葉片)。[Custom 3] ※搭配新一代納入距離編碼器的鏡頭時,Alpha 7 可採 ADI (Advanced Distance Intergration) 測光模式 ,或配合 TTL 4 區閃燈測光。 ※一推出即支援 SAM 超音波馬達鏡頭。(Alpha 9 需要更新韌體) 功能很多很強大,底下就先挑一些比較有意思的設計做介紹。 》十四區蜂巢式測光,LCD 顯示 當同時按下 AE 曝光鎖 (AEL) 與 LCD 顯示選擇鍵 (DISP) 時,會顯示 14 區各分區的相對EV值,與灰色部份比較,白色的為正值,黑色的為負值,以上圖為例,畫面最暗的地方是 –2.3,最亮的地方是 ...

[古典相機] M 系列快門最速.ME MX 合體.Pentax ME Super.1980

Pentax M 系列機身中,快門速度達到 1/2000 秒的,就只有 ME Super 以及需搭配特殊鏡頭 AF 35-70 f2.8 自動對焦的 ME-F 。 為什麼要說 ME Super 是 MX 以及 ME 的合體呢? MX 是只有曝光手動控制, ME 是只有光圈先決,另有幾台 M 系列 1980 年代出的 MG、MV、MV1,也都只有提供光圈先決,除了改變 EV 值外,沒辦法手動調整快門速度,ME Super 是整個 M 系列機身第一台同時可以手動設定快門也能 Auto 快門的機身,或許是因為希望機身維持像 ME 一樣小,所以在快門設定的功能上,並不像其他家是用機頂轉盤的方式 (OM-2 是用機身接環前的轉環),Pentax ME Super 的快門設定是機頂上的兩個鈕,只能在觀景窗內,透過 LED 指示燈顯示所選用的快門速度,同時也會顯示是否 Over 或者 Under。 機身的設計與 ME 幾乎相同,除了機頂右邊的轉盤處加了兩個手動設定快門速度的鈕,其他都相同,寬度和高度就比 ME 多了一點點,真的只有一點點,就各多個 0.5mm,但重量卻比 ME 更輕,猜想是使用了更輕量的機身結構吧,而可搭配的捲片馬達手把也能通用 (ME、ME II)。 MX 與 ME、ME Super 之比較》 機型 生產 體積 (mm) 重量 快門速度 閃燈同步快門 MX 1976-1985 135.8 x 82.5 x 49.3 495g 1 ~ 1/1000, B 1/60 ~ 1, B ME 1976-1980 131 x 82.5 x 49.5 460g 8 ~ 1/1000, B 1/100 ~ 8, B ME Super 1980-1987 131.5 x 83 x 49.5 445g 4 ~ 1/2000, B 1/125 ~ 4, B ...

Nikon D7000 的感光元件 Sony 做的,官方不公開承認,chipworks 拆給你看!

(圖片來源: Teardown of the Nikon D7000 DSLR by chipworks ) Sony IMX071 The Nikon D7000 comes equipped with a DX format (APS-C) sensor fabricated by Sony, the IMX071. With a 16.2 Mp resolution, this is the second highest resolution of any Nikon DSLR, behind the 24 Mp D3X (dpreview.com). This image sensor features a pixel size of 4.8 µm x 4.8 µm (as seen in the Bayer patterned RGB color filters). The sensor displays improvements in pixel layout and process features, as compared to previous generations of Sony DSLR sensors. 有圖有真相,完整拆解請直上: Teardown of the Nikon D7000 DSLR by chipworks