跳到主要內容

發表文章

目前顯示的是有「底片」標籤的文章

16GB ROCm 本地 LLM-as-a-Verifier 實測數據:Qwen3.5-9B 跑起來到底多快

TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...

初老有感。

依稀記得,大學的時候,阿叡葛格說我是「憤青」,但他也同理我必須自己走過「憤青」之路的個人生命選擇;今天在他演講的研習場合再聽到一次類同的說法,仍是再次醍醐灌頂地,重新觀想自己此刻的內在。 回顧這三年,在工作上深刻體會,似乎學到了真心的把自己當成一個容器,去接納各種必須因時因地因人制宜的變動,而不再埋怨變動所造成的重工。 另一場研習,談到了一個佛典裡的故事,裡頭「福田」這個詞,觸動也很深。或許還悟不到什麼「離苦得樂」的情懷,但至少可以用不同於少壯之時的心境來接待所到來的人事物,應該是真的老了?是該體會「戒之在得」是什麼境界的時候了。

[拍立得相機] 向寶麗來經典致敬.Polaroid Originals OneStep2.2017

《廢話篇》 需要先寫一些沒相關的。 好幾年沒寫相機介紹文了,前幾年格子還特別借我幾台相機想讓我寫,放了幾年連帶出門拍都沒有,覺得很抱歉,最近把最後兩台寄還回去,居然還有點想念這兩台閒置在家裡的時候,那感覺很奇妙的。 The Impossible Project 的最大股東,今年收購了 Polaroid 的專利和品牌之後,上個月推出了這台 OneStep2 相機,使用去年 (2016) 新開發的 i-Type 底片,與原來的 Polaroid 底片的設計不同,新的 i-Type 底片盒不再有電池的設計,改為相機自行供電,這樣的設計帶來的好處是成本下降,同時底片也變得較為便宜。不過其實如果少掉了底片盒內建電池的空間,是不是有機會可以佛心的回到像 Polaroid 時代的一盒十張啊? 對於 The Impossible Project 持續生產拍立得底片的努力,是很難言喻的又愛又恨,三年前拍的照片,有好多當時就顯像得不盡理想,三年後的現在畫面還淡的只能自己想像。 但從去年開始,看到很多新一代配方的實拍,雖然感覺是進步不少了,卻也還是一直到了今年,看著 Polaroid 品牌的面子上,終於動了心,先是買了 Polaroid Originals Spectra 回來試拍了幾張,真心感覺進步了以後,才在上個月看到 OneStep2 的新機預購,想想以自己棉薄之力,再支持 The Impossible Project 取得 Polaroid 品牌後的相機新作。 (Minolat Instant Pro, Polaroid Originals Spectra) 有時候我們之所以愛,只是為了某件事得以延續,特別是在富士近幾年停產了撕拉片以後,常常是看著自己冰箱裡尚存的撕拉片,好幾次拿了出來,又冰了回去,苦惱與不捨之餘,又恨著自己跟 The Impossible Project 相遇的前幾年,那些不理想的測試經驗。 《功能篇》 前言講完了,我真的是個囉嗦口白很多的部落客。接下來的測試很簡單,介紹也不會太多,如果你覺得太多廢言,可以快速下拉到文末,我推薦的網友介紹文章。 首先,這款相機設計得很輕,對於我們手持慣大傢伙的神經病來說,手感是會擔心的,功能特點的部份如下: 內建自拍計時器,按下快門後有八秒的時間讓你跑步到定位,應該是對於我們這種百米需要超過 15 秒時間的廢人一點很好運動的機會...

拾捌。卅捌

(Olympus AF-10 QD, Fuji REALA 100, 對,這是舊照。) 難得誠摯的,你問著;道貌岸然的,我應著。 正因為你們十八的探索,加速著三八老人的脈膊。 18 的夢想,38 的悵茫。

[底片集] Topcon RE Super 卷八

使用相機: Topcon RE Super  with  TOPCON RE. Auto-Topcor 58mm F1.4 使用底片:Perutz Primera 200 過期 沖掃店家:台北紫羅蘭 每每想用這台拍出自認高級的照片,然後試圖脫手拿回現金時,總是最後退縮。 年初拍完的這一卷,至少拍了兩個多月那麼久,約莫去年冬天到今天春天,過程裡面有太多心情的轉換,有歡喜有悲傷,當時這卷洗出來後,因為那照片中的五味雜陳而不忍回憶。 結束這兩年通勤生活的兩個月後,最近以早睡早起的姿態在宜蘭生活著,無光害滿天星斗的夜晚以及伴隨著鳥叫和貓咬而自然醒的早晨,終於過著像個宜蘭人的生活。或許因為平淡,所以也減少了按快門這樣的療程,也許過陣子調整調整節奏,可以有意識的再度拿起相機,畢竟一位以無病呻吟見長的作者,要改變風格也請您給點時間這樣。 照片以下 其他本卷照片: Topcon RE Super vol.8

[底片集] Horizon 202 卷一

使用相機:Horizon 202 使用底片:Fujifilm X-tra 400 沖掃店家:台北紫羅蘭 最近寫了一篇連我老婆都覺得我很亂寫的東西,是應一位很熱心推廣底片的學妹的文字邀稿,但我真的不擅文詞,所以很簡短的回應了那篇的問題,我看其他玩家都很熱心的寫了很多內容,分享拍攝底片的各種快樂,覺得很棒,在此向大家推薦學妹的 Blog:[[ * 寫給時光的影像情書 ]] 我在寫 那十個問題 的前一天,家裡來了水電跟我在頂樓裝加壓馬達,於是我回答的第十個問題:最近有什麼事物/活動/作品讓你獲得靈感?照片是底下這張: 總試著讓自己的人生多些慰藉,留下軌跡。習慣了圖像記憶,看著照片還能想起當時在哪裡,我認為這樣很幸福。 其他本卷照片: Horizon 202 vol.1

[底片集] 一陣子・Contax F 卷一

使用相機:Contax F with Carl Zeiss Jena Biotar 58mm f2 M42 使用底片:Fujifilm X-tra 400 沖掃店家:台北紫羅蘭 其實過了有一點久,這卷拍完的時間都過了兩個月了,這陣子好忙,拖稿一堆沒寫,有時候想想其實也沒什麼人在看,就這樣一直放著。 能玩到這相機組合也是要感謝賴格子先生的。 照片以下。 其他本卷照片: Contax F vol.1

新生活。

這一年來,貴人很多。 總算在結婚六年,找到了屬於自家的房子。 附近的河堤,那片綠油油的農田,遠處的山,夕陽落在山後的那片雲彩,總覺得幾個月前還是一場夢,現在卻鮮明的近在眼前。 很感謝身邊的妳們,讓我這浪子能有這種程度的歸屬感,我不擅言詞,靜靜的享受著變化,平常日的晚歸少了很多的參與,裝修的進度、用料、傢俱等等,總讓妳們煩心。 感覺自己多少有點坐享其成,那關於家的想望,在我心裡,其實是當成夢想卻怯於追求的。 如果不是妳們,如今的我理應孑然一身,放蕩著,假裝堅強的不羈著,似乎才是我所想像的三十五歲時的形象。 由衷的感激寫在這裡,願我們一家人幸福的走向未來。 (攝於羅東溪畔,Polaroid J797,Rodenstock Yasrex 127mm f4.7,Fujifilm FP100C Silk)

[傻瓜拍相機] Universal Mercury II.1945

二戰後由美國 Universal Camera Corporation 推出的 Mercury II(水星二號)。 Universal 公司於 1932 年在紐約成立,以製造相機、電影攝影機和放映機以及軍用的雙筒望遠鏡為主,大部份皆以 Univex 品牌推出,這公司在 1952 年宣布破產,但大約於 12 年後的 1964 年才停止公司營運。 MERCURY 系列 早在二戰前,Universal 便推出了水星系列的相機,其實 1938 年推出的水星一代(MERCURY I,MERCURY MODEL CC)是世界上第一款相機內建金屬接點觸發的閃燈靴座(熱靴),在那之前所有的閃燈靴座都只是讓閃燈架在相機上面,另外再透過連接線連動快門。 最早的熱靴設計,From US2270311 專利文件。 水星系列的快門也是很獨特的設計,據說就是因為 Universal 公司是生產電影攝影機專門的公司,所以在 MERCURY 快門的設計上,才會採用旋轉式的快門,而非一般我們看到的横走或縱走的簾幕設計。 少見的旋轉式快門設計,From US2274707 專利文件。 MERCURY I 水星一代更是早在 1938 年就推出的半格片幅可換鏡相機,但當時採用的底片型式並非目前我們所見的由 KODAK 推出的 135 底片型式,而是由 UNIVERSAL 公司和比利時的 Gevaert 公司簽約製造的特殊底片型式。 MERCURY 系列也創下快門速度的紀錄,當時德國的 Zeiss Ikon 推出的 Contax II,最速快門為 1/1250 秒,而 MERCURY 則是完成了最速快門為 1/1500 秒的相機,資料上稱該款相機為 MERCURY MODEL CC - 1500。 資料參考: “America’s Challenge to the World’s Finest Cameras” – the UniveX Mercury Model CC World’s Fastest – the Mercury CC-1500 Superspeed Univex Mercury: The American Way 戰後 MERCURY II 二戰後所推出的水星二代(MERCURY II),基本上沿襲了水星一代的設計,最重要的是採用了目前我們所能見到的 13...

[底片集] Olympus 35 LC 卷二

使用相機: Olympus 35 LC 使用底片:Fujifilm REALA 100 過期 沖掃店家:台北紫羅蘭 留著這台,基本上是無悔的選擇。 這卷夯不啷噹拍了一個半月左右,其實很驚訝在這麼酷熱的環境之下,這卷過期片卻猛得像沒什麼過期一樣,不由得擔心起當手上的 REALA 拍完的那一天來臨,自己還能不能有這麼好的底片可以拍。 我們的底片時代,是不是快要結束了? 台南以下。 宜蘭以下。 其他本卷照片: Olympus 35 LC vol.2

[底片集] 天送埤一日寫真・Koni-Omega Rapid 卷一

使用相機:Koni-Omega Rapid,Konica Hexanon 58mm f5.6 使用底片:Kodak Ektacolor PRO 160 沖掃店家:台北紫羅蘭 用 Koni-Omega 拍照,片匣是絕妙的體驗。 無論裝片或過片都有其專業感,但或許由於過片太過容易,稍有一種十張一下子就沒有的感受,會很擔心其實搞不好根本沒拍到東西那種感覺,所幸每一張都紥紥實實的拍了下來。 不過老實說,我的肉眼測光真的退化了。 其他本卷照片: Koni-Omega Rapid vol.1