当前课程目录 (点击可折叠)
  • 资料
    • LLama实战本地CPU推理大语言模型-C++开发实战.zip
  • 第1章课程介绍(11分钟2节)
    • 01-01.课程介绍.mp4
    • 01-02.推演程序演示，基于130亿参数模型.mp4
  • 第2章llama模型下载和推理测试(37分钟4节)
    • 02-01.llama模型分析和训练数据分析.mp4
    • 02-02.git和msys2安装和llama模型下载.mp4
    • 02-03.llama推理测试程序演示.mp4
  • 第3章llama.cpp源码编译(38分钟4节)
    • 03-01.llama.cpp构建环境说明.mp4
    • 03-02.visutal_studio_2022安装.mp4
    • 03-03.llama.cpp构建和项目分析.mp4
    • 03-04.cmake windows安装二进制版本.mp4
  • 第4章llama模型格式转换和量化(41分钟5节)
    • 04-01.ggml格式介绍.mp4
    • 04-02.conda在windows中的安装和使用.mp4
    • 04-03.conda的python环境安装.mp4
    • 04-04.llama的pth格式转换为ggml的bin.mp4
    • 04-05.llama量化模型到Q4_0.mp4
  • 第5章Chinese-LLaMA-Alpaca 中文模型(1小时12分钟5节)
    • 05-01.Chinese-LLaMA-Alpaca 中文模型分析和下载.mp4
    • 05-02.Transformers安装和llama模型格式转换.mp4
    • 05-03.合并中文LoRA权重和llama生成全量模型权重.mp4
    • 05-04.使用Transformer和Web图形界面实现推理.mp4
    • 05-05.使用llama.cpp量化和推理中文模型.mp4
  • 第6章 大语言模型参数结合源码分析 (49分钟 4节)
    • 06-01.llama参数ctx-size上下文大小相关代码分析.mp4
    • 06-02.predict和batch-size回复数和推理批次.mp4
    • 06-03.增加结果多样性-重复惩罚repeat-penalty.mp4
    • 06-04.21温度改变随机性top-k和top-p算法分析.mp4
  • 第7章 开源llamaqt 实战开发 (4小时3分钟 12节)
    • 07-01.开源llamaqt项目分析说明.mp4
    • 07-02.基于llama.cpp的cmake项目配置和模型加载.mp4
    • 07-03.完成了推理预处理prompt代码.mp4
    • 07-04.完成了推理结果逻辑表采样并输出.mp4
    • 07-05.完成了精简版的推理示例程序.mp4
    • 07-06.xllama接口类图设计说明.mp4
    • 07-07.XGp测试项目和线程启动停止代码完成.mp4
    • 07-08.XGpt用户输入和线程接收和回调反馈完成.mp4
    • 07-09.完成xllama的推理和反馈接口并测试.mp4
    • 07-10.XGptFac工厂类创建.mp4
    • 07-11.基于cmake配置了推理QT项目.mp4
    • 07-12.完成了基于QT的推理交互程序.mp4
隐藏内容
本内容需权限查看
  • 普通用户: 40金币
  • 代理: 20金币5折
  • 永久至尊会员: 20金币5折
已有2人解锁查看

 

主题授权提示：请在后台主题设置-主题授权-激活主题的正版授权，授权购买：RiTheme官网

本站所有资料均来源与网络以及用户发布，如对资源有争议请联系微信客服我们可以安排下架！