TC5343 打造你的專屬 AI:LLM 本地部署實戰課

-實體上課與視訊同步 -請攜帶筆電

課程資訊

上課日期 2025/5/26~2025/5/27 (一 二)
上課時間 09:30-16:30 (共 12小時)
教學方式 課堂講授、數位教學、活動體驗、電腦應用教學
課程對象 🔹 企業 IT / AI 團隊:希望導入 AI,但重視資料安全與內部運行的企業技術團隊。
🔹 開發者與工程師:對本地 LLM 部署、模型微調及 AI 應用開發有興趣的技術人員。
🔹 研究人員 / AI 愛好者:想深入學習 LLM 內部運作及應用技術的學者與技術愛好者。
🔹 產品經理 / AI 解決方案規劃者:希望了解 AI 部署可能性,以設計適合企業的 AI 產品與服務。

無論你是企業決策者、開發者,還是對本地 AI 部署有興趣的學習者,這門課程都能幫助你快速上手!
報名時間 即日起 ~ 2025/5/23
上課地點 台北市承德路二段81號B1 (台北承德)
課程負責人 (02)25555525 #02800 陳雅鈴 小姐
聯絡信箱 02800@cpc.tw
主辦單位 中國生產力中心 教育訓練服務組

定價:8,000

商城會員價:7,900
成為商城會員,登入之後報名即可享有

2025/4/26日前(含)報名7,600
非使用信用卡繳費者敬請等收到「開課暨繳費通知」後再行繳費

3人以上報名(每人):7,200

以上課程費用僅線上報名適用


這門課程專為希望在本地端部署大型語言模型(LLM)的企業和開發者設計,特別適合關注資料安全與隱私的應用場景。

課程特色
✅ 資料安全:完全離線運行,確保機密資訊不外流。
✅ 實作導向:提供詳細步驟,讓學員能迅速應用於實際業務。
✅ 客製化彈性:針對不同產業需求,提供最佳模型調整建議。

這門課程將幫助你快速掌握 LLM 本地部署與應用,打造高效、安全、可控的 AI 解決方案!


***實體課程:學員自備筆電***

***本課程提供實體上課與遠距同步教學兩種方式,請於報名時選擇適合您的上課方式。遠距課程將使用Microsoft Teams平台,開課前會提供視訊連結。為尊重智慧財產權,課堂中請勿錄音或錄影。***
【特別提醒】
若申請政府補助,建議選擇實體上課,以符合相關規定。

一、基礎模型介紹
認識主流開源 LLM,如 Llama、Mistral 和 Breeze,了解它們的效能比較與適用場景。
二、本地部署實作
1.Ollama 環境建置:從安裝到設定,一步步帶你完成本地 LLM 環境搭建。
2.模型下載與管理:如何選擇合適的模型,並有效管理與更新。
3.系統資源優化:提升運行效能,確保模型穩定運行。
三、進階應用技術
1.RAG(檢索增強生成)技術:提升模型回答準確度的核心技術。
2.文件檢索與問答系統:建構能夠快速查找企業內部文件的 AI 助手。
3.Page Assist 瀏覽器擴充:將 LLM 整合到瀏覽器,提高資訊檢索與應用效率。
四、個人化 AI 工具
1.LM Studio 本地運行環境:輕鬆搭建個人或企業級 AI 運行環境。
2.AnythingLLM 私人知識庫:建立專屬 AI 助手,讓模型學習你的專屬知識。
3.資料安全與效能優化:確保 AI 應用既安全又高效。
五、客製化訓練
1.Fine-tuning 基礎:了解模型微調概念,讓 AI 更貼近你的需求。
2.實務操作:手把手帶你完成模型調校。
3.企業專屬訓練流程:打造符合特定產業需求的 AI 解決方案

幫助企業與開發者掌握 本地端 LLM(大型語言模型)部署與應用技術,讓 AI 運行不再依賴雲端,確保資料安全與系統自主性。

學員將學會:
1.選擇適合的開源 LLM(如 Llama、Mistral、Breeze),了解其特性與應用場景。
2.搭建本地 LLM 環境,包括模型下載、管理與系統資源優化。
3.運用 RAG 技術,提升 AI 在文件檢索與問答系統中的準確度。
4.建置個人化 AI 助手,透過 LM Studio 和 AnythingLLM 打造專屬知識庫。
5.進行模型微調(Fine-tuning),讓 AI 符合企業需求,提高回應品質。

完成本課程後,學員將能 獨立部署與優化本地 LLM,並打造符合企業需求的 AI 解決方案!

您可能會有興趣的課程

資料讀取中...

您可能會有興趣的文章

資料讀取中...

您可能會有興趣的出版品

資料讀取中...

能力雜誌

資料讀取中...