跳到主要內容

發表文章

16GB ROCm 本地 LLM-as-a-Verifier 實測數據:Qwen3.5-9B 跑起來到底多快

TL;DR: 用 Qwen3.5-9B(Q4_K)在單張 16GB AMD GPU 上跑本地 LLM-as-a-Verifier,每次 code comparison 約 0.5–2 秒,cache hit rate 66%,正確程式碼穩定給 1.0 分,有 bug 的給 0.0–0.14 分。16GB 跑 9B 模型綽綽有餘,還有空間跑其他服務。 這篇是實測續篇,前兩篇分別講了 架構設計 和 Docker 封裝 。前兩篇講的是「做什麼」跟「怎麼做」,這篇來量「到底多快」。 1. 測試環境 在一台 homelab Linux(CachyOS)上跑的: 項目 內容 GPU AMD 16GB(15.9 GiB)via ROCm 模型 Qwen3.5-9B(8.95B 參數,Q4_K ~5.7GB GGUF) 後端 llama.cpp(llama-server,ROCm HIP build) Verifier Docker container(llm-verifier),port 8010 模型 VRAM ~10.2 GB(模型本身 + 動態 KV cache) GPU 使用率 78% 系統 RAM 62 GB;使用 27 GB(swap 用了 9.3 GB) Context window 131,072 tokens MIN_SCORE 0.8 後端跑在另一台機器上,走 local Gigabit 網路連線。 2. Verifier 在幹嘛 docker-llm-as-a-verifier 包裝了 LLM-as-a-Verifier 這個研究套件,讀取 token-level log probability 來算連續分數,不是簡單的 yes/no 判斷。 Container 開了 7 個 HTTP endpoint: Endpoint Method 用途 /health GET 健康檢查 /v1/compare POST 兩組答案比對評分 /v1/select POST Best-of-N 選最佳 /v1/track POST Agent 軌跡分數追蹤 /v1/directed POST 導...

何謂安全快門?兼淺談防手震技術

各家防手震功能喊得震天價響,號稱三級四級的,有的是機身防震,有的是鏡頭防震,到底是什麼意思啊? 在談防手震機制之前,我們要先從「安全快門」的觀念談起。 簡單來說,安全快門就是讓你拍照不會因為手和人體的自然晃動而糊掉的快門速度,安全快門是與鏡頭焦距相關的。 以 135 規格來說:安全快門 = 1 / 鏡頭焦距 (秒) 因此換算至 DSLR,則安全快門 = 1 / (鏡頭焦距*X) (秒),其中 X 因不同廠牌而有不同的數值,如 Canon 為 1.6,N,S,P 為 1.5,4/3 System 為 2,簡單來說,安全快門必須換算為等效 135 規格的焦距。 舉例來說,一顆 20mm 的鏡頭,在 DSLR 上換算等效焦長為 30mm,因此安全快門為 1/30 秒,也就是只要快門速度比 1/30 秒來得快,就安全。 而一顆 200mm 的鏡頭,在 DLSR 的安全快門則為 1/300 秒,也就表示,鏡頭焦距愈長,愈需要較快的安全快門才能在手持拍攝時保持穩定不晃動。 那麼相機的防手震機制是做什麼用的?不用管安全快門了嗎?當然不是,防手震機制,主要是用來幫助你,可以使用較慢的快門速度,而透過相機或鏡頭內部的機制,穩定成像,而廣告詞裡所以稱為防手震一級、防手震二級,也就表示你可以最慢使用到比安全快門慢幾級的快門。 至於防手震級數與安全快門的算法,有前輩寫過,所以請參考: http://tnphoto.pixnet.net/blog/post/26494016 簡單地說,一顆 200mm 的鏡頭,在擁有一級防手震機制的 DSLR 上,原本的安全快門為 1/300 秒,透過防手震機制至少最慢可以用到 1/150 秒的快門速度;而在二級防手震機制的 DSLR 上,則快門最慢可以用到 1/75 秒,以此類推。 整體來說,安全快門算是個參考數值,還是應該了解正確的穩定握持相機的方法,或者使用腳架。當然如果物體動得比你的快門速度還快,當然怎麼樣都不會清楚滴! 您可以參考這一篇: 如何增加手持拍攝的穩定度? 而如果你不太清楚光圈和快門之間的關係,也可以參考這篇: 何謂 EV?

含苞待放

(攝於公企中心,Sony A450,Minolta AF 28mm) 電腦維護廠商的工程師,明天要離職了,今天來做最後一次的例行維護,特別來跟我道別,說是要自己創業,從事貿易。 口拙的我,一時之間也沒辦法吐出什麼字句,有一搭沒一搭地聊著之後他們公司可能會派哪一位工程師來接任,我認不認識之類的,順便也聊聊他們公司的現況。 我想把這朵含苞待放的花送給他,祝他的新事業一切順利,綻放美麗的色彩與人生。

拍什麼拍啊?!

(攝於公企中心,小花,Sony A450,Minolta AF 28mm) 一副老子正在睡午覺,吵個屁的臭臉。 拍完這張他就氣呼呼地揚長而去了!

如何增加手持拍攝的穩定度?

(攝於台大,Panasonic LX3) 來自國外 Digitail Photography School 的一篇文章: How to Hold a Digital Camera ,作者是 Darren Rowse ,個人覺得寫得不錯,很值得參考,中譯並摘錄於下: 解決手震最佳的解決方案,必定是三腳架,不過如果沒有三腳架,你必須先強化你手持拍攝的穩定度,這件事沒有絕對正確的方式,每個人有不同的習慣,筆者 ( Darren Rowse ) 是採取底下的方法增加手持的穩定度: 右手穩定握持,但食指按壓快門要輕: 除了右手食指以外,你的右手大姆指置於相機背面,右手剩下的三支指頭則自然地彎曲圍繞著相機的手把,穩定的握持但不要過份用力,食指按壓快門時要輕,現代大部份的相機都擁有良好的握持感,這點因人而異,你必須感覺到你的指頭握持相機時是自然自在的情況。 左手的位置: 左手的位置取決於相機,大致上應該要能支撐相機加上鏡頭的重量,看你是要托著相機底部或者圍繞著鏡頭。 取景: 如果你使用觀景窗取景拍攝,這將會有不錯的穩定度,但如果您使用 LCD 取景,要注意不要讓相機太過遠離您的身體,夾緊你的手肘,相機離你的臉不要超過 30 公分。如果你的觀景窗不會太小或者對您來說並不會造成取景困難,使用觀景窗吧! 利用物體來增加穩定度: 利用牆壁或是樹,或坐著或跪在地上,如果你必須站著,四周也沒有額外的物體可以支撐,將您的雙腳張開與肩同寬,讓自己有個穩定的站姿,您的站姿愈穩定,您的相機自然愈穩定。 呼吸的小技巧:拍攝之前 ,平順輕柔地深深吸一口氣,Hold 住這口氣,在按下快門之後才呼氣。有些人的習慣剛好相反,先呼一口氣,然後在按下快門之後才再吸氣。呼吸很容易就造成身體的起伏,注意您的呼吸對拍攝將有很大的幫助。 當然還有許多其他方式及新技術來避免相機震動,應該配合這些技術,同時您也穩定地掌握住手上的相機。控制快門速度、防手震鏡頭、三腳架都有幫助。 後記:這篇文章跟我這兩年來的經驗相吻合,參考價值很高,另外有一個「 安全快門 」的觀念,另篇討論,歡迎攝影先進提供意見或您自己增加穩定度的秘招。

窮人的選擇,Minolta Program 5400HS 閃燈

這是支好閃燈,至少在 Minolta 尚未推出 ADI 閃燈系統之前。 因為無法支援 ADI,TTL 也無法使用在數位機身上,一支二手的 5400HS 價格不貴,但 GN 值可達 54,還可以上下左右擺頭 (上下90度, 左右360度轉),配上我的 Minolta 707si ,全功能支援,擁有高速快門 (1/8000),以及支援無線離閃。 在數位機身上,雖然得全手動操作,不過因為 GN 值夠,像我一般都是在家裡補跳燈,感覺很夠力,先試拍個一張,調一下閃燈上的出力:1/1, 1/2, 1/4, 1/8, 1/16, 1/32,其實還蠻方便的,C/P 值很夠。 有看到一些可以改造這支閃燈的晶片,可以讓你在數位機身上使用 TTL,但仍舊不支援 ADI,而且有不少討論說改的價格蠻高的,也不是能完全正常使用,所以也沒有很想拿去改。加上在 707si 上使用正常,配上我的 Sony A450 使用 M 模式設定起來不是太難,反正數位可以先拍一張確定一下,預算不夠的情況之下,就決定先入了 5400HS 來擋一擋,以後再搞支援 ADI 的來玩。 在數位機身上使用 5400HS,就是先將機子調到 M 模式,設定好光圈快門,再插上並打開閃燈,然後按下圖紅框處的按鈕切換至 TTL-M 手動模式,手動設定閃燈出力大小,很容易吧! 在網路上找到一個有豐富 Minolta 資源的網站: http://www.vikenk.com/minolta_manual.htm 您可以到那裡自己下載 Manual 參考。 試拍照片》 (攝於永和自家,Sony A450,Minolta AF 28mm,Minolta Program 5400HS) Sony / Minolta Alpha 系統閃燈網路價格參考:

環保防疫系口罩!經濟實惠不會臭!重複水洗殺菌力超強!

一般我們市面上較容易買到的口罩,不外乎是不織布口罩、活性碳口罩、布面口罩,一般這類口罩不具有殺菌的能力,佩帶過久容易滋生細菌,同時產生異味,特別是你感冒咳嗽時噴在口罩內的口水,更是臭不可聞,所以往往您買的抛棄式口罩(如不織布或活性碳),一定是佩帶一天就必須更換,最多撐個兩天你自己就會受不了,非換不可!而布面口罩雖然可以重複使用,花樣也很多,但佩帶起來不密合,而且布料也不透氣,戴起來不舒服,有戴眼鏡的人更知道熱氣把自己的眼鏡弄霧的窘境。 從防止各種流行性病毒的散播的角度來看口罩的使用,有醫師表示,紙口罩和活性炭口罩都稱不上是防疫物資,「 基本上它只擋得了口水 」,因此,選擇有防護效果的口罩是很重要的!而且以嚴格的角度來看,慶生醫院高國慶高院長更認為應於每兩個小時須更換紙口罩一次,此舉更造成物資的浪費,非常不環保。因此,使用這款【 日本能量殺菌纖維布做的環保防疫系口罩 】,除了做為防疫的最佳武器,更是響應環保減碳! 這次試用的杏霖「環保防疫系口罩」,是一項改良各式口罩缺點,同時兼顧環保及可重複使用性的產品。   拆封拿出口罩時,感覺布料很輕,查了一下原廠的資料,原來這款布料採用來自日本的「能量殺菌纖維布」,擁有 可重複水洗、保持乾淨、數日長效、殺菌、抗菌除臭、確保衛生及環保的優點。 這類布料被使用在必須有效阻絕病毒的用途:環保防疫系口罩、醫師服、護士服、醫護人員等服裝、醫療院所床單、布簾、窗簾、手帕(可避免飛沫傳染)........等等。 而 根據SGS檢驗報告指出,所使用的洗滌次數越多越可以抗菌。科學實驗證實並且有多國專利認證,個人覺得十分安心可靠。這種布料才能夠真正為您阻絕影響您呼吸道健康的各種有害物質,並且真正防止病菌的傳染,更重要的是,可以重複洗滌使用! 身為機車族的我,平時很不喜歡戴口罩,因為布面口罩不透氣,戴起來很悶,不織布的口罩又必須每天換,戴上這款環保防疫系口罩,感覺布料很透氣,再加上有除臭的功用,所以戴上個幾天都不覺得臭,與市面賣的口罩效果截然不同! 底下我請老婆當我的模特兒,示範一下佩帶的情形,密合程度蠻不賴的,再加上布料很透氣,因此騎機車時不容易起霧,更增加了安全性,最主要是這款布料的殺菌抗菌的功能,其他市面上的口罩產品是比不上的! 您可以比較一般市面上賣的布面口罩,密合度不佳...

超好用的殺蟑藥,SIEGE 一點絕!效果又快又好!

自從家裡用了 SIEGE 一點絕 之後,真的都看不到蟑螂了,有一次跟同事聊天的時候,聊到她家有很多 德國小蟑螂 ,而且十分目中無人,躲在家裡的隙縫中,連有人在客廳活動的時候也會爬出來 Say Hello,很噁心,不勝其擾。 我把家裡還有一大罐的 SIEGE 一點絕 讓她帶回家試試,大概隔一個禮拜吧,她跟我說她跟她先生看到家裡的幾隻小強是以龜速爬行的方式,原本隙縫有小強的,現在都不見蹤影了,而且不知道其他的小強到底跑到哪裡去了,很神奇。 把這個好用的產品介紹給大家,除了我自己用了很滿意之外,我同事的先生剛好是念化學系的,直問這玩意兒是什麼成分啊!太強了!效果又快又好! 我自己的試用經驗: SIEGE 一點絕真的超有效,殺蟲公司沒生意! 效果最好的蟑螂藥!用點的!一點絕! 底下是該產品的介紹: ( http://basf.shop.conn.tw/article.php?id=67&member=af000020321 ) 一點絕除蟑膠餌於1992年首先在美國註冊,隨後在中國、台灣、阿根廷、巴西、法國、象牙海岸、墨西哥、巴拉圭和菲律賓獲得註冊,並將在許多其他國家註冊。 該產品的有效成份愛美松(hydramethylnon),商品名稱為一點絕,在台灣登記的劑型為 2% 膠餌,殺蟑效果極佳,滅殺率極高。 環署衛輸字第 0543 號、環藥販賣字第63-126號、環藥廣字第9504004號 其有效成分 愛美松 ,特別適用於社會性昆蟲。 24-48小時發生作用,其慢性作用機制通過蟑螂攜入巢穴,共用食物及取食糞便等生活習性達到更高的滅殺率。 具有連鎖作用,通過幼蟲取食成蟲屍體及糞便,同時消滅成蟲和幼蟲。 對各類蟑螂, 尤其是德國蟑螂效果極佳 ,可防治對氨基甲酸脂、菊酯類殺蟲劑已產生抗性的各種蟑螂。 作用機制 主要成份——愛美松,能有效抑制蟑螂的代謝系統。愛美松抑制粒腺體內ADP轉換成ATP的電子交換過程,造成心跳變慢,呼吸系統衰竭,耗氧量減少,最後因遲緩性痲痺而死亡。愛美松造成延遲作用,藉食屍性及食糞性將藥劑散播在整個族群,造成連鎖殺蟑。所以,延遲作用運用在最新的餌劑,是一大進步。 有效期長達3-6個月 根據蟑螂的飲食習慣所設計,蟑螂非常喜歡吃這種餌劑,適口性極佳。 配方中含有較多的水分,在放置後的24小時內膠體會失去一些水份,並在表面形成一層...