深度学习

本文介绍通过微调 Meta 的 Llama 2 7B 模型对18 个不同类别的新闻文章进行分类，本教程将详细解释每个步骤，涵盖使用的所有类、函数和参数。 安装所需库 加载所需库  Bitsandbytes 配置 定义一个函数&nbs…

近期出现一些基于大模型的情感陪伴型对话机器人，主要是结合心理学知识，使用心理咨询数据训练，实现量表测量、情绪安抚、情感陪伴等功能，为老人、青少年等提供心理健康支持。本文选取了两个项目，分别用ChatGLM6B…

通过部署LLama2示例，比较不同LLM开源推理服务框架的优缺点。本文没介绍深度学习模型推理服务的传统库，如TorchServe，KServe或Triton Inference Server。 1. vLLM 它的吞吐量比HuggingFace Transformer （HF） 高 …

Python项目配置文件高效管理参数，例如通过ini/cfg、json、yaml文件。

Pandas+Re正则处理文本字符串示例

工作学习中常用的正则表达式总结、工具分享和示例

扫码关注程旭源，一起精进和成长 ...通过本文可以了解：在MacBookPro 上设计实验，体验一下等优化改

在Windows上安装RTX4090深度学习环境，并远程连接的相关方法

LoRA​模型加速原理、peft包使用、Autocust自动混合精度、Accelerate和deepspeed加速、多GPU分布式训练等大模型加速训练和微调的方法和代码模板

介绍流程化微调大模型 LMFlow库和使用示例

Prefix-Tuning、P-tuning V1和 V2相关的原理和思路，并结合了大模型ChatGLM微调解析。

书山有路勤为径，学海无涯苦作舟！新年更有新气象，财源广进、广开财路！

Mac/Windows/Linux下，一次解决python环境管理和换镜像源。

智能对话机器人技术进展如何？存在哪些问题？如何设计一个企业对话机器人？用到哪些技术？

ChatGPT火爆出圈，相关文档分享，一起学习。