課程名稱:TC5343 打造你的專屬 AI:LLM 本地部署實戰課
-實體上課與視訊同步-請攜帶筆電
-
課程介紹
- 這門課程專為希望在本地端部署大型語言模型(LLM)的企業和開發者設計,特別適合關注資料安全與隱私的應用場景。
課程特色
✅ 資料安全:完全離線運行,確保機密資訊不外流。
✅ 實作導向:提供詳細步驟,讓學員能迅速應用於實際業務。
✅ 客製化彈性:針對不同產業需求,提供最佳模型調整建議。
這門課程將幫助你快速掌握 LLM 本地部署與應用,打造高效、安全、可控的 AI 解決方案!
***實體課程:學員自備筆電***
***本課程提供實體上課與遠距同步教學兩種方式,請於報名時選擇適合您的上課方式。遠距課程將使用Microsoft Teams平台,開課前會提供視訊連結。為尊重智慧財產權,課堂中請勿錄音或錄影。***
【特別提醒】
若申請政府補助,建議選擇實體上課,以符合相關規定。
-
課程大綱
-
一、基礎模型介紹
認識主流開源 LLM,如 Llama、Mistral 和 Breeze,了解它們的效能比較與適用場景。
二、本地部署實作
1.Ollama 環境建置:從安裝到設定,一步步帶你完成本地 LLM 環境搭建。
2.模型下載與管理:如何選擇合適的模型,並有效管理與更新。
3.系統資源優化:提升運行效能,確保模型穩定運行。
三、進階應用技術
1.RAG(檢索增強生成)技術:提升模型回答準確度的核心技術。
2.文件檢索與問答系統:建構能夠快速查找企業內部文件的 AI 助手。
3.Page Assist 瀏覽器擴充:將 LLM 整合到瀏覽器,提高資訊檢索與應用效率。
四、個人化 AI 工具
1.LM Studio 本地運行環境:輕鬆搭建個人或企業級 AI 運行環境。
2.AnythingLLM 私人知識庫:建立專屬 AI 助手,讓模型學習你的專屬知識。
3.資料安全與效能優化:確保 AI 應用既安全又高效。
五、客製化訓練
1.Fine-tuning 基礎:了解模型微調概念,讓 AI 更貼近你的需求。
2.實務操作:手把手帶你完成模型調校。
3.企業專屬訓練流程:打造符合特定產業需求的 AI 解決方案
-
課程對象
-
🔹 企業 IT / AI 團隊:希望導入 AI,但重視資料安全與內部運行的企業技術團隊。
🔹 開發者與工程師:對本地 LLM 部署、模型微調及 AI 應用開發有興趣的技術人員。
🔹 研究人員 / AI 愛好者:想深入學習 LLM 內部運作及應用技術的學者與技術愛好者。
🔹 產品經理 / AI 解決方案規劃者:希望了解 AI 部署可能性,以設計適合企業的 AI 產品與服務。
無論你是企業決策者、開發者,還是對本地 AI 部署有興趣的學習者,這門課程都能幫助你快速上手!
-
課程效益
- 幫助企業與開發者掌握 本地端 LLM(大型語言模型)部署與應用技術,讓 AI 運行不再依賴雲端,確保資料安全與系統自主性。
學員將學會:
1.選擇適合的開源 LLM(如 Llama、Mistral、Breeze),了解其特性與應用場景。
2.搭建本地 LLM 環境,包括模型下載、管理與系統資源優化。
3.運用 RAG 技術,提升 AI 在文件檢索與問答系統中的準確度。
4.建置個人化 AI 助手,透過 LM Studio 和 AnythingLLM 打造專屬知識庫。
5.進行模型微調(Fine-tuning),讓 AI 符合企業需求,提高回應品質。
完成本課程後,學員將能 獨立部署與優化本地 LLM,並打造符合企業需求的 AI 解決方案!
-
主辦單位
-
課程資訊
-
報名時間:2025/2/10 ~
2025/5/23
-
上課日期:2025/5/26~2025/5/27
(一 二 09:30-16:30)
- 時數: 12小時
- 上課地點:台北市承德路二段81號B1 (台北承德)
-
課程負責人: (02)25555525 #02800 陳雅鈴 小姐 02800@cpc.tw
-
課程費用
- 定價:8,000
-
商城會員價:
7,900
-
2025/4/26日前(含)報名繳費:
7,600
-
3人以上報名(每人):
7,200