TC5343 打造你的專屬 AI：LLM 本地部署實戰課 - 列印 - 財團法人中國生產力中心線上商城

課程介紹
- 這門課程專為希望在本地端部署大型語言模型（LLM）的企業和開發者設計，特別適合關注資料安全與隱私的應用場景。
  
  課程特色
  ✅ 資料安全：完全離線運行，確保機密資訊不外流。
  ✅ 實作導向：提供詳細步驟，讓學員能迅速應用於實際業務。
  ✅ 客製化彈性：針對不同產業需求，提供最佳模型調整建議。
  
  這門課程將幫助你快速掌握 LLM 本地部署與應用，打造高效、安全、可控的 AI 解決方案！
  
  ***實體課程:學員自備筆電***
  
  ***本課程提供實體上課與遠距同步教學兩種方式，請於報名時選擇適合您的上課方式。遠距課程將使用Microsoft Teams平台，開課前會提供視訊連結。為尊重智慧財產權，課堂中請勿錄音或錄影。***
  【特別提醒】
  若申請政府補助，建議選擇實體上課，以符合相關規定。
課程大綱
- 一、基礎模型介紹
  認識主流開源 LLM，如 Llama、Mistral 和 Breeze，了解它們的效能比較與適用場景。
  二、本地部署實作
  1.Ollama 環境建置：從安裝到設定，一步步帶你完成本地 LLM 環境搭建。
  2.模型下載與管理：如何選擇合適的模型，並有效管理與更新。
  3.系統資源優化：提升運行效能，確保模型穩定運行。
  三、進階應用技術
  1.RAG（檢索增強生成）技術：提升模型回答準確度的核心技術。
  2.文件檢索與問答系統：建構能夠快速查找企業內部文件的 AI 助手。
  3.Page Assist 瀏覽器擴充：將 LLM 整合到瀏覽器，提高資訊檢索與應用效率。
  四、個人化 AI 工具
  1.LM Studio 本地運行環境：輕鬆搭建個人或企業級 AI 運行環境。
  2.AnythingLLM 私人知識庫：建立專屬 AI 助手，讓模型學習你的專屬知識。
  3.資料安全與效能優化：確保 AI 應用既安全又高效。
  五、客製化訓練
  1.Fine-tuning 基礎：了解模型微調概念，讓 AI 更貼近你的需求。
  2.實務操作：手把手帶你完成模型調校。
  3.企業專屬訓練流程：打造符合特定產業需求的 AI 解決方案
課程對象
- 🔹 企業 IT / AI 團隊：希望導入 AI，但重視資料安全與內部運行的企業技術團隊。
  🔹 開發者與工程師：對本地 LLM 部署、模型微調及 AI 應用開發有興趣的技術人員。
  🔹 研究人員 / AI 愛好者：想深入學習 LLM 內部運作及應用技術的學者與技術愛好者。
  🔹 產品經理 / AI 解決方案規劃者：希望了解 AI 部署可能性，以設計適合企業的 AI 產品與服務。
  
  無論你是企業決策者、開發者，還是對本地 AI 部署有興趣的學習者，這門課程都能幫助你快速上手！
課程效益
- 幫助企業與開發者掌握本地端 LLM（大型語言模型）部署與應用技術，讓 AI 運行不再依賴雲端，確保資料安全與系統自主性。
  
  學員將學會：
  1.選擇適合的開源 LLM（如 Llama、Mistral、Breeze），了解其特性與應用場景。
  2.搭建本地 LLM 環境，包括模型下載、管理與系統資源優化。
  3.運用 RAG 技術，提升 AI 在文件檢索與問答系統中的準確度。
  4.建置個人化 AI 助手，透過 LM Studio 和 AnythingLLM 打造專屬知識庫。
  5.進行模型微調（Fine-tuning），讓 AI 符合企業需求，提高回應品質。
  
  完成本課程後，學員將能獨立部署與優化本地 LLM，並打造符合企業需求的 AI 解決方案！
主辦單位
- 中國生產力中心教育訓練服務組