當(dāng)前位置：首頁北京站東方瑞通教育北京大模型本地部署與微調(diào)

北京大模型本地部署與微調(diào)

暫無報(bào)價(jià)

開班日期：滾動(dòng)開班

開課機(jī)構(gòu)：東方瑞通教育點(diǎn)擊咨詢

聯(lián)系方式： 400-029-0821轉(zhuǎn)30633 免費(fèi)通話

預(yù)約試聽索取底價(jià)

課程介紹

培訓(xùn)時(shí)長：2 天（15 課時(shí)）

課程介紹：

隨著人工智能技術(shù)的飛速發(fā)展，大模型成為了推動(dòng)自然語言處理、圖像識別等眾

多領(lǐng)域創(chuàng)新的關(guān)鍵。然而，如何高效地在本地環(huán)境中部署這些大型模型，并根據(jù)

特定需求對其進(jìn)行微調(diào)，成為了企業(yè)和研究機(jī)構(gòu)面臨的重要挑戰(zhàn)。

本課程旨在為學(xué)員提供從理論到實(shí)踐的全面指導(dǎo)，幫助學(xué)員掌握大模型的本地部

署與微調(diào)技巧，從而能夠?qū)⑾冗M(jìn)的 AI 技術(shù)應(yīng)用到實(shí)際場景中。

學(xué)員基礎(chǔ)：

? 具備一定的 Python 編程經(jīng)驗(yàn)

? 對機(jī)器學(xué)習(xí)或深度學(xué)習(xí)有基本了解

? 了解常見的深度學(xué)習(xí)框架（如 TensorFlow、PyTorch）

? 已熟悉大模型相關(guān)基本概念

? 對云計(jì)算有一定認(rèn)識，了解虛擬化、容器化等概念

學(xué)后收獲：

? 理解大模型的特點(diǎn)及其對硬件資源的需求

? 掌握多種大模型如 DeepSeek 的本地部署方法

? 學(xué)會(huì)使用不同的工具和框架對大模型進(jìn)行微調(diào)

? 了解模型壓縮技術(shù)，提高模型效率

? 理解大模型的安全治理重要性及其實(shí)現(xiàn)方法

? 能夠獨(dú)立完成大模型的部署與微調(diào)項(xiàng)目

課程內(nèi)容：

模塊主要內(nèi)容

大模型本地部署

? 本地部署基礎(chǔ)認(rèn)知

? 為什么要進(jìn)行本地部署

? 模型參數(shù)量與硬件資源

◆ 模型大小與計(jì)算資源的關(guān)系

◆ 不同規(guī)模模型的適用場景

? 環(huán)境準(zhǔn)備

? 必要的軟件和庫安裝

◆ CUDA

◆ Python 虛擬環(huán)境

◆ Docker

◆ Pytorch

◆ Git

? 開發(fā)環(huán)境配置

模塊主要內(nèi)容

? Ollama 快速部署大模型

? Ollama 平臺介紹

? 一鍵部署流程

? 實(shí)戰(zhàn)練習(xí)：使用 Ollama 部署 DeepSeek R1 大模型

? vLLM 生產(chǎn)級部署大模型

? vLLM 框架概述

? 部署步驟解析

? 實(shí)戰(zhàn)練習(xí)：使用 vLLM 部署 DeepSeek R1 大模型

? 開源大模型應(yīng)用開發(fā)平臺 Dify 本地部署

? Dify 平臺特性

? Dify 適用場景

? 實(shí)戰(zhàn)練習(xí)：基于 Dify 集成 DeepSeek

大模型微調(diào)

? 大模型訓(xùn)練流程回顧

? 什么是模型微調(diào)

? 微調(diào)的基本概念

? 微調(diào)的重要性

模塊主要內(nèi)容

? 微調(diào)方法

? 全參微調(diào)適用場景與風(fēng)險(xiǎn)控制

? 主流 PEFT 技術(shù)對比（LoRA/QLoRA/Adapter/P-Tuning）

? 微調(diào)工具

? 流行的微調(diào)工具介紹

◆ Transformers

◆ MS-Swift

◆ Deep-Speed

◆ LLaMA-Factory

? 工具的選擇與使用

? 數(shù)據(jù)工程體系

? 模型壓縮（量化）

? 模型蒸餾

? 模型蒸餾的基本原理

? 模型蒸餾的應(yīng)用場景

? DeepSeek 模型蒸餾的實(shí)現(xiàn)過程解析

模塊主要內(nèi)容

? 實(shí)戰(zhàn)：DeepSeek 模型蒸餾實(shí)踐

? 大模型安全治理

? 為什么要進(jìn)行安全治理

? RLHF 技術(shù)全景（PPO/DPO/CPO）

? 微調(diào)模型評估

? 實(shí)戰(zhàn)

? 基于 Llama Factory 微調(diào)一個(gè)法律大模型

? 基于 DeepSpeed 大模型并行訓(xùn)練框架 LoRA 微調(diào)實(shí)踐

? 基于 ms-swift LoRA 微調(diào) Qwe*****1.5B 實(shí)踐

課后贈(zèng)送拓展課程（錄播）

? 《Linux 快速入門》

? 《Docker 快速入門》

? 《華為昇騰硬件部署與微調(diào)大模型》

? 《基于 ComfyUI 本地部署 DeepSeek 開源多模態(tài)模型 Janus-Pro》

校區(qū)導(dǎo)航

清華校區(qū)

中關(guān)村大街

熱推課程

北京全國職稱計(jì)算機(jī)培訓(xùn)
暫無價(jià)格詢底價(jià)
北京零基礎(chǔ)嵌入式培訓(xùn)
暫無價(jià)格詢底價(jià)
北京職稱計(jì)算機(jī)考試輔導(dǎo)班
暫無價(jià)格詢底價(jià)
北京網(wǎng)絡(luò)設(shè)計(jì)工程師培訓(xùn)
暫無價(jià)格詢底價(jià)

東方瑞通教育

北京大模型本地部署與微調(diào)

校區(qū)導(dǎo)航

熱推課程

站內(nèi)導(dǎo)航

學(xué)員中心