搞完後Podman Desktop與Mtranserver應用後
很難不注意到Podman Desktop還有個AI Lab功能
可是使用之後,其效能沒有很好
說實話就是太慢到超出我容忍的限度
看來這應該是桌機與高階顯卡才能跑吧
正當測試不出我要的速度與效果,要放棄跑離線模型時
就這麼剛好,因為這陣子Google發表了最新開源的Gemma3
就看到有網友討論到ollama這軟體也有Gemma3可以用了
ollama?又是沒聽過的東西
於是就抽空研究了一下ollama這軟體
發現支援的模型還真不少,網路上中文說明也多
就試著使用看看
用完之後的簡單結論,這就是我要的離線AI應用啊