跳到主要內容

發表文章

16GB ROCm 本地 LLM-as-a-Verifier 實測數據:Qwen3.5-9B 跑起來到底多快

TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...

困惑

( Olympus PEN EE-3 ,Fujifilm X-tra 400 過期) 縱使光的灑落,覺察到了。 然而光的溫度,卻消失了。

關於人肉測光表與陽光十六法則

昨天有網友問我人肉測光表的問題,我想還是寫一篇交待一下,雖然這東西網路上很多前輩寫過。 在看這篇以前,必須先具備 EV 和光圈的基本概念,可以先參考:「 何謂 EV? 」和「 何謂光圈? 」這兩篇。 RDP III 的 Data Sheet 我們也先不記什麼規則不規則,來看一下富士 RDP III 底片的 Data Sheet,裡頭有一個參考表:(下表來源 Fuji RDP III Data Sheet ) RDP III 是一支 ISO 100 的正片,號稱為 100 度正片中最細粒子的底片,官方給了一個當你測光壞去時可以用的參考表格,快門固定使用 1/250 秒,以五種氣候場景,分別使用不同的光圈,自 f/16 – f/4。 並且上表有三個備註說明: The foregoing settings are for 2 hours after sunrise and 2 hours before sunset. 上述表格用於日出後兩小時與日落前兩小時之間。 Provide lens opening 1/2 stop smaller during the summer and 1/2 stop larger during the winter. 夏天小半格光圈,冬天大半格光圈。 Excessively bright (or dark) or backlit subjects may require plus or minus 1 stop lens opening adjustments. 白色特亮主體減一格,背光主體補償一格。 如果你依照上表,再對照底下的 EV 表,配合紅框的部份,上面的表提供的五種情境,對應最左邊的 EV 值,座落於 EV 16 – 12 之間。 Sunny 16 Rule 陽光十六法則 下面就是陽光十六法則的表格 (表格來源 Sunny 16 rule from wiki ) OK,這著名的陽光十六法則是怎麼說的,快門速度設為底片的倒數,如使用 ISO 100 的底片時,快門速度為 1/100 秒 (部份相機快門轉盤沒有 1/100 秒,通常以 1/125 秒代之),而在大晴天的時候使用 f/16 的光圈,其他氣候場景則增減光圈因應之。 我們又要看一下 E...

[傻瓜拍相機] Olympus PEN EE-3.1973

Olympus PEN EE 系列開始於 1961 年,針對業餘愛好者 (amateur) 而設計。從 EE 到 EE-3 的共同特色為:自動曝光,固定對焦,28mm f/3.5 的鏡頭,半格底片,硒電池 (光電池) 與測光模組就在鏡頭的周圍。 整個 PEN EE 系列裡最高檔的相機應該是 PEN EE-D,發表於 1967 年,搭載的是 35mm f1.7 的鏡頭,他是要裝電池的,也可以估距對焦。 這麼說好了,用很簡單的思考來想拍照這件事,不就是按下快門鈕捕捉生活週遭的畫面而已嗎?當你拿到 PEN EE-3,你不用想怎麼曝光,不夠亮也就按不下去,也別想用手轉動鏡頭的對焦環,鏡頭固定對焦距離為 3.2 公尺,以泛焦的方式拍攝。 你所要做的,就是盡情的拍囉!不過,盡量帶他白天出門拍照吧! 詳細參考: Camerapedia - Olympus Pen EE series Olympus PEN EE-3 主要規格 使用鏡頭: D.Zuiko 28mm f3.5 – f22 四片三群結構,等效約 135 片幅 的 40mm,濾鏡口徑  43.5mm 成像: 135 底片半幅 快門速度: 只有兩檔 1/40、1/200 秒 對焦: 固定焦距 3.2 公尺,泛焦拍攝 測光: 硒電池 ASA25 – 400 尺寸重量: 108x66x47mm,335公克重 過片: 轉輪過片 閃燈支援: PC 線連接、熱靴 拍攝模式 一、決定 ISO,相機自動測光 選擇 ISO,自動測光,光圈 F3.5 - F22,快門只有兩段 1/40,1/200,EE-3 會自動判斷,曝光不足時觀景窗內會出現紅色檔板做為警示,快門無法按壓,若真的要調整 EV,改變 ISO 值因應還是可以的。 二、決定光圈 手動設定光圈時,快門會定在 1/40 秒,此時不會再有紅色警示,測光就看你自己的判斷了。 Olympus PEN Flash CL (圖片來源 Google Search) 三、決定 GN 值 搭配閃燈用的,標示的是距離,有:1, 1.5, 2, 3,4 公尺五格,所以...

幾段介紹 Tintype 金屬板攝影古法的影片

Tintype,1856 年首次出現,由一位俄亥俄的教授所發明。這樣的拍攝方式被用於美國南北戰爭期間,直到 1874 年。 參考資料: Beaumont ... One family's history Tintype on Wiki Early Photographic Processes Tintype or Ferrotypes 幾段重現這種攝影古法的影片: Making a Tintype (From: http://youtu.be/fY5KQQLBbcs ) Making a Collodion Wet Plate Aluminum Tintype photograph (From: http://youtu.be/m5Lj5OnxFlE ) Tintype Photography by Harry Taylor (From: http://youtu.be/IA3GbBbYuMo )

[Contax CY] Contax Carl Zeiss Planar 50mm f1.7 AEJ

鏡頭資料》 對焦距離:0.6m - 無窮遠 光圈:f1.7 – f16 口徑:55mm 重量:190g 鏡片結構:七片六群 光圈葉片:六片 視角:45 度 鏡頭資料: photographyreview 如果拿這顆跟 Planar 50mm f1.4 相比,除了光圈比 Planar 50mm f1.4 小,最近對焦距離也略遠了一些。 然而,這顆 Planar 50mm 1.7 的評價卻很不錯,很多網友的文章稱之為平民鏡皇 (但其實近年來價錢已不那麼平民了),他是 Contax CY 鏡群中最便宜的一顆,但卻名列 Photodo 網站評比截至 2000 年 5 月止全世界的鏡頭中,最銳利的十名內,Planar 50mm f1.4 甚至還進不了榜。[按:原始網站的評測文章我找不到了,甲木兄有整理起來,可以 參考 。] 實拍照》 Contax 139Q + Contax CY Planar 50mm f1.7 + Fujifilm X-tra 400 Contax 167MT + Contax CY Planar 50mm f1.7 + Perutz Primera 200 本鏡實拍相片集: Contax CY Planar 50mm f1.7 AEJ 鏡身照》

預攝立場?

(Contax 139Q,CY Planar 50mm f1.7,Fujifilm X-tra 400) 『你拍照之前,有思考過照片拍出來應該呈現的樣子嗎?』卡文這麼問我。 『沒有。』我這麼回答。 其實,我擔心著失敗的恐慌,所以不敢有預攝立場。

華碩 Asus Padfone 正式發表了!

華碩終於在今天稍早前舉辦的 MWC 2012 發表會上公佈 Padfone 完整面貌, 去年 Computex 2011 上首度亮相的產品 ,目前終於確認將可從手機接變成平板,然後再從平板接上鍵盤基座變成筆電,根據華碩的說法,Padfone將會在今年 4 月間正式推出。 手機本身,4.3 吋 Super AMOLED,處理器是 Qualcomm Snapdragon S4 雙核心架構,記憶體為 1GB,儲存空間區分為 16GB、32GB 或 64GB 的版本,同時搭載 800 萬畫素攝影鏡頭與 f/2.2 大光圈 (含 LED 閃光燈),但並未搭載前端視訊鏡頭 (因為整合在外接平板週邊上),內建藍芽4.0、HDMI、GPS 等,內建作業系統為 Android 4.0,並且對應 WCDMA、HSPA+、EDGE、GPRS、GSM 等通訊模式。   (圖片與資料來源: UDN ) 發表會的影片看麥:ASUS Padfone Launch - All new Features demonstrated (From: http://youtu.be/YMnCGiu6Buo ) 網路商城價格參考: