大模型本地部署

  培训讲师:彭晓辉

讲师背景:
彭晓辉老师企业人才发展教练国际注册ACI沙盘讲师国际注册高级人力资源专家15年大型企业管理经验银鹭食品集团高级培训师中部人才论坛十佳人才官之一广西科技大学创业规划导师曾任:富士康科技IDPBG事业群丨人力发展课长曾任:武汉康顺汽车服务有限公 详细>>

彭晓辉
    课程咨询电话:

大模型本地部署详细内容

大模型本地部署

课程目标



本课程旨在使学员深入理解大模型本地部署的原理、流程和关键技术,具备独立完成常见大模型本地部署的能力,并能够根据实际需求对部署进行优化和维护。通过理论学习与实践操作相结合,让学员掌握从环境搭建、模型选择与下载、部署实施到性能优化的全流程技能,为在实际工作或研究中应用大模型奠定坚实基础。





课程对象



对大模型技术有兴趣,希望深入了解并掌握本地部署技能的技术爱好者



企业中需要在本地环境部署大模型以满足业务需求(如数据安全、定制化服务等)的工程师





课程大纲



第一讲:大模型简介



一、 定义与概念



1. 大模型的定义



2. 大模型的应用领域



3. 大模型本地部署的意义



二、 本地大模型的工作原理



1. 模型架构



2. 工具链



3. 本地知识库





第二讲:本地部署环境搭建



一、 硬件需求



1. CPU



2. GPU



3. 内存



4. 存储



二、 软件环境



1. 操作系统



2. 工具链的介绍



3. UI工具的介绍





第三讲:大模型选择与下载



一、 开源大模型介绍



1. LLaMA 系列



2. Deepseek系列



3. Qwen 系列



4. 其他知名开源模型





第四讲:大模型本地部署流程



一、 使用工具部署



1. Ollama 部署



2. llama部署



3. vLLM部署



4. LM Studio部署



二、 部署后的优化与维护



1. 性能优化



2. 模型更新与维护





第五讲:项目介绍与目标设定



一、 项目实施步骤



1. 需求分析(大模型使用的方向)



2. 环境搭建(桌面系统与硬件)与模型要求(模型名称)



3. 部署与优化



4. 集成与测试



 

彭晓辉老师的其它课程

课程时间:2天,6小时/天课程对象:企业管理人员、核心员工课程背景:沙盘模拟培训是一种极具实战色彩的体验式培训课程。是西方知名商学院借鉴军事沙盘推演,开发出的优秀高端教学模式。军事沙盘推演是红、蓝两军通过在战略、战术上的不断对抗与较量,达到检验和提高指挥员作战能力的目的。而沙盘模拟培训则是由参加学习的学员组成几个相互竞争的模拟公司,围绕与培训主题相关的经营活

 讲师:彭晓辉详情


课程时间:1天,6小时/天课程对象:企业中基层的员工、新员工课程背景:在企业组织中,首席执行官(ChiefExecutiveOfficer,缩写CEO)是在一个企业中最高行政官员,又称作总经理或最高执行长。主要负责人员的任免,监督最高管理层决议的执行,公司对外合同的签订与处理。在国内大部份企业中这个职责基本还都在老板的头上,特别在目前经济环境下,大多数员工都

 讲师:彭晓辉详情


课程时间:1天,6小时/天课程对象:企业全体员工、后备新员工、在校大学生课程背景:体验式培训兴起于西方,通常以游戏和情景模拟演练的方式把生活中、工作中种种问题,诸如组织形态、人性问题通过游戏折射出来,受训者通过选择、沟通、决策、行动导致的结果,引发思索,从而自觉引导自身行为的改变。 掘金之旅已经被清华大学Emba课程,复旦大学BI国际MBA课程,Coco-c

 讲师:彭晓辉详情


课程时间:5天,6小时/天课程对象:有志向新媒体发展的党宣人员或者企业宣传人员课程背景:2021年是我们伟大的中国共产党成立一百周年,同时也是“十四五”工作规划的开局之年,做好党的建设工作意义重大。其中加强企业党建文化建设、认真抓好党员干部的培训教育工作成为不少企业的当务之急。传统媒体的宣传方式已经无法吸引新一代的员工,不利于党组织和团组织的发展,能采用年轻

 讲师:彭晓辉详情


课程时间:1天,6小时/天课程对象:有志向线上销售领域发展者课程背景:2020年的一场冠性病毒让人类再一次老老实实必须待在家中,在上一次发生同样的事情时,中国的实体经济受到重大打击让中国的电商得到黄金发展十年期,那这一次的黄金发展期对哪个行业是机会呢?同时在国人面对这一困境的时候,不少有识之士伸出双手进行募捐,其中有一个1.5亿的捐款吸引不少人,这位捐款人是

 讲师:彭晓辉详情


课程时间:3天,6小时/天课程对象:企业内训师、企业管理人员课程背景:企业内部培训对于企业来说主要是增加“造血”功能,不断得培养人才,其中企业培训师是重要一环节,是企业组织经验与实践的传播者,是组织不断成长的核心力量,要想让企业培训师发挥巨大的价值,但是企业培训师成长之路上都这样或者那样的问题:自己明明是这个领域的NO.1,但是就在可一站上讲台就有点“茶壶倒

 讲师:彭晓辉详情


课程时间:3-4天,6小时/天课程对象:企业内训师课程背景:为什么别人家的培训有很多的视频呢?还都是员工自拍自演的?为什么别人家的培训中音乐那好听呢?我也收集很多音频,但是不知道怎么剪辑拼接到一起。为什么别人家录制的视频或音频课程中没有噪音,而且声音甜美,而我录制的噪音大,声音僵硬呢?为什么别人家拍摄的图片大家都喜欢拿来发朋友圈呢?为什么别人家的课件一看就感

 讲师:彭晓辉详情


课程时间:7天,6小时/天课程对象:企业内训师、大中小学老师、教育工作者课程背景:随着微博微信的广泛使用,微的时代早已到来,那企业培训的微时代是什么样的呢?随着可汗学院渐渐被人熟知,3到5分钟的一个课程,被定义为微课的主要特点,但是微课就是将原有的课程进行分解得出的吗?在3到5分钟内如何吸引学员的注意力呢?PC已经不在是职场人士的标配,越来越多的工作APP的

 讲师:彭晓辉详情


课程背景当前企业80的岗位依赖外部招聘(智联招聘),而73的Z世代喜欢通过抖音、小红书等平台获取职场信息(脉脉研究院),传统招聘模式与新生代求职需求严重错位。调研显示,员工个人账号发布的真实职场内容(如工资福利、企业额环境)可信度远超企业号,且大多数企业还坚守传统的校招、人才市场等,并把招聘网站当电子公告栏,已经远远跟不上时代。针对这一痛点,本课程首创“短视

 讲师:彭晓辉详情


【课程背景】体验式培训兴起于西方,通常以游戏和情景模拟演练的方式把生活中、工作中种种问题,诸如组织形态、人性问题通过游戏折射出来,受训者通过选择、沟通、决策、行动导致的结果,引发思索,从而自觉引导自身行为的改变。掘金之旅已经被清华大学EMBA课程,复旦大学BI国际MBA课程,Coco-cola,Philips,JohnsonJohnson,本系列培训课程是引

 讲师:彭晓辉详情


COPYRIGT @ 2018-2028 HTTPS://WWW.QG68.CN INC. ALL RIGHTS RESERVED. 管理资源网 版权所有