https://attach.iphone4.tw/2023/2302-SD2-0000.jpg
前言
在前面AI三部曲中的第二部「安裝Stable Diffusion需要哪種等級的顯卡與電腦？」中
https://attach.iphone4.tw/2023/2302-SD-096.jpg
吉米跟大家分享了不管你是PC還是蘋果電腦，安裝Stable Diffusion之後，大概會有怎樣的效能
當然這個效能僅供參考，因為那是吉米自己研究手邊設備的效能數據
今天，吉米就要進一步來研究，「我自己」要怎麼升級我的設備
其實從上面那個測試結果，吉米因為是macOS使用者，所以我心裡出現了兩個疑問
1.既然都要花錢買顯卡，是不是乾脆再買一台兒子那台內建3060的筆電？
2.是否可能透過外接顯卡的方式？來讓我的黑蘋果可以外掛N家顯卡（以下簡稱N卡）來加強算圖？
https://attach.iphone4.tw/2023/2302-SD2-101.jpg
吉米加入Dark Side應該不只四年了
當初吉米本來要分享eGPU對於蘋果電腦有很大的幫助，撰文時想要佐以實測數據時
不小心捅到了大大的蜂窩，發現了不能說的祕密
https://attach.iphone4.tw/2020/2001-eGPUF-005.jpg
推薦大家來看看這篇「《吉米教你看》外掛eGPU甚至AMD高檔顯卡對於FCP X輸出效果的幫助（最終回）」
你們就會知道阿婆這幾年不斷自廢武功、壓抑效能的故事
這場實驗結束後，我手邊就多了一台可以跑macOS的PC組裝電腦
https://attach.iphone4.tw/2019/14960679-XFASTEST.jpg
這邊非常感謝XFastest的站長半夜陪我搞這些有的沒的
https://attach.iphone4.tw/2019/14960679-MAQ.jpg
與我的蘋果顧問MAQ的技術支援
所以以下內容，都是我自己需求為出發點，衍生出的各種測試
https://attach.iphone4.tw/2023/2302-SD2-111.jpg
還有一個很大的重點，就是黑蘋果只能用A卡，所以機箱內一定得是A卡，不然無法使用macOS
3060筆電真的那麼快嗎？
https://attach.iphone4.tw/2023/2302-SD2-100.jpg
要確認這個想法，第一件事情當然就是借一張Nvidia RTX 3080 10GB的顯卡來測試囉
https://attach.iphone4.tw/2023/2302-SD2-102.jpg
當然搭配OWC推出的Thunderbolt3外接顯卡盒
https://attach.iphone4.tw/2023/2302-SD2-103.jpg
就這樣RTX 3080透過Thunderbolt3連接到了我的電腦
這裡我們得到了第一個結論：
macOS無法使用外接方式連接N卡
https://attach.iphone4.tw/2023/2302-SD2-104.jpg
蘋果電腦，不管是白的還是黑的，因為多年前恩怨，所以打死不認識前男友N卡
就算我們放在外接盒裡面想要借屍還魂，也因為macOS底層就不想認識它
因此什麼虛擬機還是其他方式外掛啟動N卡是不可能的
不然我們用黑蘋果的人早就全換3080或是4090了
若你是使用2015年之後，機器上面有原生Thunderbolt3的蘋果電腦，或是你也在Dark Side
只要重新開機進入Windows，你就可以接著看下去
Windows透過Thunderbolt3外掛N卡
https://attach.iphone4.tw/2023/2302-SD2-103.jpg
開機後，插上連接外接顯卡盒的Thunderbolt3排線，螢幕有沒有接在它後面沒有差別
除非你是要用這張卡來打電動，才需要把主要螢幕設定在這張外接顯卡後方的輸出
https://attach.iphone4.tw/2023/2302-SD2-105.jpg
等電腦辨識成功之後就會出現兩張顯卡啦
這時候執行Stable Diffusion，因為N卡支援CUDA，所以只會用N卡來跑算圖，A卡就負責畫面顯示功能
測試基準
https://attach.iphone4.tw/2023/2302-SD2-001.jpg
既然要測試，當然所有方式都要相同，以下是出圖數據，有興趣的話你也來試試看你電腦數據是多少
SD 模型：https://civitai.com/models/6424/chilloutmix
Lora 模型：https://civitai.com/models/7716/taiwan-doll-likeness
Prompt:
Negative prompt:引用:
<lora:taiwanDollLikeness_v10:0.66>, best quality, ultra high res, (photorealistic:1.4), 1girl, loose and oversized black jacket, white sports bra, (yoga pants:1), (light brown hair:1.2), looking at viewer, smiling, full body, streets, urban, makeup, wide angle
引用:
paintings, sketches, (worst quality:2), (low quality:2), (normal quality:2), lowres, normal quality, ((monochrome)), ((grayscale)), skin spots, acnes, skin blemishes, age spot, glans
測試一：
Size: 512x768
Seed: 537380690
Steps: 28
Sampler: DPM++ SDE Karras
CFG scale: 8
Hires steps: 0
Hires upscale: 1.75,
Hires upscaler: Latent (bicubic antialiased)
Denoising strength: 0.5
https://attach.iphone4.tw/2023/2302-SD2-003.jpg
測試二：
Size: 512x768
Seed: 537380690
Steps: 28
Batch count: 2
Batch Size: 2
Sampler: DPM++ SDE Karras
CFG scale: 8
Hires steps: 0
Hires upscale: 1.75,
Hires upscaler: Latent (bicubic antialiased)
Denoising strength: 0.5
然後看看所需時間
基準線Baseline
https://attach.iphone4.tw/2023/2302-SD-096.jpg
本來依照慣例，跑基準線應該要用我天天在用的A卡來測試
https://attach.iphone4.tw/2023/2302-SD2-106.jpg
但是測試一預估就要25分鐘45秒，我就不想測試了，直接按取消，它說多少就是多少
所以我們今天用兒子的筆電來當基準線
Asus 3060 筆電
https://attach.iphone4.tw/2023/2302-SD2-107.jpg
實驗一：3分10秒
https://attach.iphone4.tw/2023/2302-SD2-108.jpg
實驗二：8分22秒
RTX 3080
https://attach.iphone4.tw/2023/2302-SD2-112.jpg
其實經過吉米實測，3080不管是外接的方式，還是內接插在主板上面，成績都差不多
https://attach.iphone4.tw/2023/2302-SD2-021.jpg
實驗一：2分09秒
https://attach.iphone4.tw/2023/2302-SD2-023.jpg
實驗二：3分31秒
這裡大家可以觀察到，其實跑SD最重要的是VRAM越大越好，這張3080卡上有10GB的VRAM，最大已經用掉8,927MB的VRAM，難怪算再大一點的圖就爆掉了
RTX 4070 Ti
https://attach.iphone4.tw/2023/2302-SD2-109.jpg
這時候好心的海盜船長，直接買了一張全新的RTX 4070 Ti 12GB來借我測試
https://attach.iphone4.tw/2023/2302-SD2-110.jpg
這張卡已經巨大到無法塞入外接顯卡盒
https://attach.iphone4.tw/2023/2302-SD2-113.jpg
所以內接一定是唯一解
但這樣就違反的第一個原則，黑蘋果機箱內一定要裝A卡，不然永遠回不到macOS，所以4070Ti裝在機殼內的時間，就只能當純PC來使用啦
https://attach.iphone4.tw/2023/2302-SD2-077.jpg
實驗一：1分10秒
實驗二：4分34秒
這個部分我實在不太懂，為什麼後期會變慢
而且我們觀察到VRAM最大使用來到12,132MB
根本就把12GB的VRAM給搾乾啦
所以測試到這裡，我又上網爬文去了
Xformers
https://attach.iphone4.tw/2023/2302-SD2-114.jpg
Xformers是一個資料庫可以幫我們快速生成影像，並且減少VRAM的使用，但是這個優化只能針對N卡來使用
AUTOMATIC1111官方安裝教學請看這裡：https://github.com/AUTOMATIC1111/sta.../wiki/Xformers
玩到這裡，大家應該都會搞了，所以這部份就不贅述了
重點在於安裝成功之後
https://attach.iphone4.tw/2023/2302-SD-085.jpg
這改webui-user.bat （windows使用者），找到「COMMANDLINE_ARGS=」字串，加上--xformers
https://attach.iphone4.tw/2023/2302-SD-089.jpg
修改 webui-user.sh（mac或是Linux使用者），找到「export COMMANDLINE_ARGS=」字串加上--xformers
https://attach.iphone4.tw/2023/2302-SD2-025.jpg
啟動後看到字串有被吃到，就可以啦，其他所有東西都不變
https://attach.iphone4.tw/2023/2302-SD2-030.jpg
3080 +xformers 實驗一：41秒
3080 +xformers 實驗一：2分13秒
https://attach.iphone4.tw/2023/2302-SD2-090.jpg
4070 Ti +xformers 實驗一：42秒
4070 Ti +xformers 實驗一：2分44秒
https://attach.iphone4.tw/2023/2302-SD-2091.jpg
VRAM最多也只用到8,197MB
真的是除了快很多之外，VRAM的使用也變小了
至於4070 Ti在吉米這幾天的測試下比3080慢，我剛爬文可能是CUDA沒有更新到最新版，我寫到這裡才知道CUDA要另外安裝驅動，呵呵
總結一下
https://attach.iphone4.tw/2023/2302-SD2-094.jpg
https://attach.iphone4.tw/2023/2302-SD2-117.jpg
https://attach.iphone4.tw/2023/2302-SD2-118.jpg
從上面的表來看，先不管4070 Ti的奇怪表現，但是在3080上面有顯著的效能提昇，刷掉了將近一半的時間
所以若你有玩SD的話，強烈推薦安裝啊
當然這是N卡才有的福利
算圖速度快與慢，整個思考邏輯大不同
https://attach.iphone4.tw/2023/2302-SD2-120.jpg
這就是我這個週末摸索的內容
顯卡的快慢，真的是「非常的重要」
你看我現在完全不提算一張3秒還是5秒嗎？
我這個週末算的圖，單一張用4070Ti都要將近一分鐘
因為當我們算力慢的時候，一張圖3分鐘，你下的prompt相對保守，因為你不知道3分鐘之後，是正妹還是后里蟹
算力快的時候，一張圖3秒鐘、5秒鐘，你就會開始變鬼變怪
https://attach.iphone4.tw/2023/2302-SD2-123.jpg
例如超好用的魔咒百科词典 https://aitag.top/
解決了一堆我不知道女性服裝正確的英文名稱，這可真是考倒我了，還有各種運鏡、角度、情景的參考
從使用一個LORA，到多組日本、台灣、韓國、中國的LORA混合在一起...
產出更複雜精緻的圖片，產出更精緻的圖片之後，又會想要再放大、再細緻、再拓展
對，你今天看到的圖片全部都是AI生成
甚至生成之後，再用其他AI繼續擴展
https://attach.iphone4.tw/2023/2302-SD2-119.jpg
https://attach.iphone4.tw/2023/2302-SD2-101.jpg
這個在草地上面歡迎大家來到黑暗面的女孩
https://attach.iphone4.tw/2023/2302-SD2-104.jpg
與前男友賭氣，打死不相往來的哭臉妹仔
https://attach.iphone4.tw/2023/2302-SD2-121.jpg
還有這三位拿電腦採購單要我簽的秘書，你以為我這麼容易就放行嗎？
https://attach.iphone4.tw/2023/2302-SD2-122-2.jpg
我還得問問資訊室的主管才行啊～
硬體升級之路
https://attach.iphone4.tw/2023/2302-SD2-118.jpg
言歸正傳，畢竟不是每個人的鈔能力都沒有極限，全部都是選好選滿
https://attach.iphone4.tw/2023/2302-SD2-010.jpg
當然若你是擁有這種鈔能力的課長，吉米建議你直接組一台最強的PC，不管是算圖還是電競，就算是看盤或是看小說，都覺得讓你飛天遁地
https://attach.iphone4.tw/2023/2302-SD2-009.jpg
若你是intel晶片的蘋果電腦使用者，或是機箱裡面裝的是A卡的中階PC使用者，你可以考慮用Thunderbolt3的顯卡外接盒（約一萬出頭），再買一張N卡，撰文的現在3060約一萬元上下，3080約兩萬上下，又回到了鈔能力的原點，但前提是要有Thunderbolt3，且全程在Windows下面算圖，不能用虛擬機
雖然我已經有了顯卡外接盒，目前可能找張二手3080，沒事可以玩PC GAME，特效選項應該可以比我的VEGA64選好選滿
但缺點就是要佔用電腦時間，用PC就不能用Mac，兩難啊
或是直接去買一台3060的筆電，三萬元起跳也是多一台電腦，但這選擇適合沒有外接顯卡盒與顯卡的人，因為這兩個最基本就要兩萬了，你多花一萬就多一台電腦，多好
https://attach.iphone4.tw/2023/2302-SD2-008.jpg
另一種不需要買硬體的方式，就是把網路上提供的雲計算服務，買好買滿，相信兩萬元低消，應該可以買不少時數，而且你還不用真的一次就花這麼多錢，先玩看看，有興趣再加碼
https://attach.iphone4.tw/2022/2212-RV-001.jpg
若你是M1/M2的蘋果電腦使用者，那你就跟Tim一樣... 只好去買Mac Studio Ultra +128GB RAM囉
你現在知道上面幾張圖是怎麼生成了吧
以上就是我的應用方式，我生圖用來不是只有電風扇，而是用來寫文當插圖，或是影片B Roll的用途
https://attach.iphone4.tw/2023/2302-SD2-0000.jpg
光看是這三部曲的封面圖，就比吉米之前都放自己的照片香太多了，不是嗎？
吉米，你不會裡面裝一張，外接再一張？
https://attach.iphone4.tw/2023/2302-SD2-072.jpg
內接4070 Ti，外接3080，根本就是人生勝利組的感覺嘛～
https://attach.iphone4.tw/2023/2302-SD2-124.jpg
當然這麼惡劣的想法我也想過啦
https://attach.iphone4.tw/2023/2302-SD2-125.jpg
只是到我分享這篇文章之前，爬過了好多地方，很多人說python本身就支援多GPU，但是SD有沒有支援都沒有人測試成功
倒是有另外一個dream的AI平台，它比較像指派中心，把prompt丟給SD去跑，而這個指派中心有支援多CPU
也許不久的將來，就有支援吧
目前的測試是只有一張顯卡會運作
