找回密码
 立即注册
查看: 120|回复: 1

51CTO夏曹俊-LLama实战本地CPU推理大语言模型-C++开发实战【4GB】

[复制链接]

159

主题

0

回帖

2249

积分

管理员

积分
2249
发表于 2025-9-6 12:28:42 | 显示全部楼层 |阅读模式
下载地址:
游客,如果您要查看本帖隐藏内容请回复

【课程目录】

    1-1.课程介绍.mp4
    1-2.推演程序演示,基于130亿参数模型.mp4
    2-1.llama模型分析和训练数据分析.mp4
    2-2.git和msys2安装和llama模型下载.mp4
    2-3.llama推理测试程序演示.mp4
    3-1.llama.cpp构建环境说明.mp4
    3-2.visutal_studio_2022安装.mp4
    3-3.llama.cpp构建和项目分析.mp4
    3-4.cmake windows安装二进制版本.mp4
    4-1.ggml格式介绍.mp4
    4-2.conda在windows中的安装和使用.mp4
    4-3.conda的python环境安装.mp4
    4-4.llama的pth格式转换为ggml的bin.mp4
    4-5.llama量化模型到Q4_0.mp4
    5-1.Chinese-LLaMA-Alpaca 中文模型分析和下载.mp4
    5-2.Transformers安装和llama模型格式转换.mp4
    5-3.合并中文LoRA权重和llama生成全量模型权重.mp4
    5-4.使用Transformer和Web图形界面实现推理.mp4
    5-5.使用llama.cpp量化和推理中文模型.mp4
    6-1.llama参数ctx-size上下文大小相关代码分析.mp4
    6-2.predict和batch-size回复数和推理批次代码.mp4
    6-3.增加结果多样性-重复惩罚repeat-penalty.mp4
    6-4.21温度改变随机性top-k和top-p算法分析.mp4
    7-1.开源llamaqt项目分析说明.mp4
    7-10.XGptFac工厂类创建.mp4
    7-11.基于cmake配置了推理QT项目.mp4
    7-12.完成了基于QT的推理交互程序.mp4
    7-2.基于llama.cpp的cmake项目配置和模型加载代码实现.mp4
    7-3.完成了推理预处理prompt代码.mp4
    7-4.完成了推理结果逻辑表采样并输出.mp4
    7-5.完成了精简版的推理示例程序.mp4
    7-6.xllama接口类图设计说明.mp4
    7-7.XGp测试项目和线程启动停止代码完成.mp4
    7-8.XGpt用户输入和线程接收和回调反馈完成.mp4
    7-9.完成xllama的推理和反馈接口并测试.mp4


0

主题

102

回帖

666万

积分

【永久VIP】

积分
6666919
发表于 2025-9-10 20:18:54 | 显示全部楼层
111111111111111
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|每日学IT论坛 |网站地图

GMT+8, 2025-12-8 03:06

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表