學習筆記

Google Cloud Run,自動調整擴容的實例

前言 對於中小公司來說,自己維護 k8s 不只坑多,尋找維護的人手也是一個問題,這時候這種代管 k8s 的服務就很方便, 最近工作上遇到了客戶反映流量達到峰值時,伺服器常常會回應 502 或是 timeout,但機器更多時間又是空閒的,所以機器開更大會造成資源的浪費,也不一定能保證能滿足以後日益增加的流量需求,所以我將服務遷移到 Google Cloud Run,這幾篇會開始簡單的介紹,以...

自建 LocalAI,本地使用 ai 模型 - 文字轉語音

前言 這是 LocalAI 系列的第三篇文章,要來介紹如何將文字轉成語音,以及切換不同的模型 首先可以看到官網的使用方式,有很多模型可以切換,這邊推薦兩個 Bark,轉換後的文字是帶有情緒的 Piper,更成熟的模型,基於 Piper 訓練的中文模型也很多 相較於情緒、背景音等元素,我更看重產出速度,所以選擇了這個模型 zh_CN-huayan-medium.onnx ...

Preview Image

自建 LocalAI,本地使用 ai 模型 - 文字生成圖片

文字生成圖片 繼第一篇的文章後,第二個要介紹的是如何在本地透過文字生成圖片 模型選擇 首先是模型選擇,第一篇有提到,我拿來測試的硬體沒有獨立的 GPU,可以用來 cuda 加速,所以模型的選擇目標會優先挑選 step 次數少,輕量的模型。 關於 step 的介紹可以看這邊,簡而言之就是模型選染的次數,越多細節會越高,當然也不是越高越好。 所以測試過後,選擇了sdxl-turbo 這...

Preview Image

結合內網穿透以及自建中繼的開源遠端桌面 - RustDesk

前言 最一開始使用到遠端服務時,大部份人可能都是用 Anydesk 或是 Teamviewer 這種商業軟體,但在使用過程中常常會有中繼服務器延遲太高或是限流導致畫面很模糊的問題,甚至 Teamviewer 在偵測到遠端寫 code 後直接判定為商業使用,只能放棄,找到了這套可以自建的遠端桌面服務。 架設 架設之前機器需要滿足幾個條件 docker 公網 ip 硬體 1...