如去年那篇提到，家中電腦的GPU實在不夠力
所以ConmfyUI就只有去年體驗了一下下後就停了
直到最近有需求，幾經評估
就決定花點小錢來租用雲端算力服務，完成這個需求
不然買台看得上眼的新的電腦實在太貴太貴太貴了
當然，要讓ComfyUI跑得順不只有租算力平台的選項
還有官方營運平台ComfyCloud可以申請使用
那...之所以不考慮官方
圖的當然是更自由的應用，也就是想偶爾跑跑現在最新的LLM模型看看
只是這選項實現的佔比跟零差不多就是......
總之註冊與繳錢後，就斷斷續續在上面進行測試好一段時間
最近終於做出想要的成品的雛型
當然還要再修過，就在這裡留個設定上的記錄
先講一下選Runpod這間平台的理由
因為它是比較有安全性下便宜的選項之一
有沒有比它更便宜的選項，有
可是那種租用的方式，因為是連入私人設備，而非公司體系的設備
(也就是一般人將GPU設備租給公司，公司再轉租給使用者)
會出什麼問題，很難講，我不想冒這種風險，只能選略為高價的這家
(Runpod也有這種社群式服務，不過我沒用)
不過說略為高價，如這段前面所說其實還算便宜
以租用一台RTX5090的設備1小時的花費，加上儲存空間，最多算1.5美金好了
1小時的使用也不到台幣50元，OK啦
再講一下它的服務
老實說，用這種東西還蠻Hardcore的
設定要懂一大堆，要不是有AI輔助，搞懂要花的時間大概還要3倍以上吧
快速說一下，它主要有4項服務Serverless，Pods，Clusters與Storage
Serverless的直譯就是無伺服器，也就是使用者沒有一台完整伺服器的控制能力
主打有用才有算錢是最吸引人的地方
不過設定上我看到AI建議要包個Docker讓它啟動時可以讀取就覺得麻煩
一直到最近才搞懂整個設定流程，還沒實作過，這篇先Pass這項
Pods，其實就是租用完整的虛擬伺服器，是我主要使用的項目之一
使用者可以選有閒置的設備租用，並同時租用硬碟空間放置下載下來的模型
缺點當然是租用時就算機器閒置也要收錢，不過可以按下停止後，就不收錢啦
Clusters，聯合一堆GPU演算的功能。也就是所謂的「叢集」。
這個一聽就是沒機會碰到的項目，我不需要那麼多算力，就沒有研究了。
Storage，租用長時間硬碟的功能，也是我主要使用的項目之二
原本租用Pods時，只要一停機，後續被租走或整個關閉(Terminate)
裡面的資料就算消失了
要保留一些較長時間不會消失的資料，就要使用這個服務
只是...好，下面再詳談
所以我目前使用的項目就兩個Pods與Storage
先講有點麻煩的Storage，也就是前面說要詳談的部分
麻煩的點主要在於租用Storage要選區域，進而限制了GPU租用選擇
Runpod的服務不是只有一個點，而是有分散的資料中心
也就是當我選擇租用在runpod在美國1號的雲端硬碟存資料，那就只能用美國1號的GPU
如果那座資料中心的GPU租完了，那就沒得用了
畢竟真的不能在美國租顆硬碟，然後租用日本的GPU來跑
這樣每次載入模型或存檔就要千里迢迢傳來傳去，一點效率也沒有
這種限制是合理的，就建置上要自己再多考慮這條件
再來提到價格，基本上是都差不多，1GB，一個月0.07美金
不過US-CA-2這個伺服器的成本是其它的2倍
這在租用前最好還是確認一下
如果只在假日使用，建議還是在最後一次用完，產出資料下載後，清空會比較省錢
因為比較常用的會是租100GB的容量才夠用，一個月7美金，也是200多塊台幣的開銷
是沒很貴，但也可以開RTX5090算力6小時多了
我是來租算力，不是花錢買空間的
再講更麻煩的Pods設定
其實說麻煩，不如說要注意的步驟稍微比較多一點
包含的除了GPU的選擇，還要租用的數量
另外就是環境要架設成什麼樣子
它有提供多樣的樣板(Template)供使用者選擇
像是純Ubuntu加pytorch套件的環境，可以直接使用ComfyUI的環境
有架設vllm軟體的環境等等
再來就是磁碟的掛用
不管有沒有租用Storage的，它都是會逼你租暫時性的磁碟
畢竟系統安裝與使用還是要個硬碟空間
只是相當便宜，100GB記得不到0.1美元，當然關機所有資料就都沒了
而如果照它建議選了外掛的網路磁碟，系統碟的空間就可以設定小一點
然後除了前面講到租用網路磁碟的選區問題外
在官方樣版的ComfyUI的使用上也要特別注意設定問題
那就是ComfyUI其實除了模型之外，部分的設定算是留在網路磁碟上
所以有一次我前後兩次用的Cuda版本不同(12.8vs 13.0)，系統就掛了(Cuda版本衝突)
多花了快三個小時才把問題釐清，用一個多小時將模型搬走，刪掉ComfyUI目錄
然後重建整個資料，浪費掉我寶貴的租金
會撞上這點真的意外，我以為會是整個設定與系統資料一起消失，只留下載的模型說
總之後續使用就記得固定Cuda的版本了
Pod啟用後，就會給使用者這個pod連入的預設port與網址
本來還嫌它怎麼都用一些怪怪的名稱去命名pod
後來才知道，因為它預設是沒有鎖使用者的
也就是如果其它人知道你的pod伺服器名稱與port號
那他們就可以連進來使用，難怪都取一些有夠奇怪的名稱
而選擇ComfyUI樣板產出的POD有三個port可以連線
分別是JupyterLab的介面、ComfyUI網頁介面與檔案管理員的介面
不過我都習慣再開一個webssh的連線介面來用
因為雖然JupyterLab也可以開WebSSH來用
但記得只有單色，沒有ANSI色可以快速判定一些東西
Runpod終於講完，來到ComfyUI的環節啦
想做的工作流很簡單，從現有圖片中，將角色轉成Q版造型
接著替換掉Q版造型的服裝，替換成自行設計的
最後將這個圖片轉成3D模型，打算請人印製出來
其實前面的部分用ChatGPT或Gemini也是能產啦
不過就算付錢的要調整到覺得OK，就年初訂閱Gemini產圖的印象
張數一多也是會一下子就進入冷卻時間不給用
還是用ComfyUI要生幾張是幾張，幾乎沒有限制更好
而且ComfyUI最重要的是自由度更高，可以引入想要的Lora來朝目標精進
總之，這邊我選用的就是ComfyUI上的Qwen-Image-Edit-2511有選lora的樣板來進行產圖與修改
https://comfy.org/workflows/4ab928487496-4ab928487496/
它其實是關節人偶化的lora流程
不過因為可以方便掛lora，所以就當我最主要的2D工作流了
既然都用Qwen-Image-Edit-2511工作流了
就以Qwen-Image-Edit-2511展示圖的左邊這位小姐當模特兒好了
先另外下載了Qwen為基礎的動畫化Lora
https://huggingface.co/prithivMLmods/Qwen-Image-Edit-2511-Anime
指定好這個動畫風的Lora，然後給予專用提示詞"Transform to anime"
圖就很簡單地變成了動畫風格，只是只有人物，旁邊的畫風還是接近照片質感
接著再依AI建議，找到了3D人偶風格的Lora，再把動畫風格的圖轉成3D的人偶圖
https://huggingface.co/rsshekhawat/Qwen-Edit-3DChibi-LoRA
這邊就需要花一點時間調整了
畢竟頭要大要小，身材的整體比例該是多少都不是固定的，要微調
調整完成後就變成這樣
不過這張圖還不太行，要去背一下，不然混元3D會產出奇怪的東西
再來就是將去背後的圖轉混元3D 2.1
這個ComfyUI官方也有工作流
圖丟進去，轉出來的就是還不錯的3D模型啦
預設的解析度是差了點，不過可以再進行調整讓它夠精緻
如前面所說，最終目標是要產出能「印」的模型，讓人印製
而這樣的成品，品質雖只是草稿，但確實是可行的
不禁讓我感嘆時代進步幅度之巨大
竟然已經到了不到半小時就可以從一無所有然後生圖直接產出3D模型的狀況了
(以上當然是流程熟悉而且用上RTX5090以上等級才辦得到的)
希望我目標中的成品可以如期達成
沒有留言:
張貼留言