原创文章。转载请注明：
作者:meixi
网址: https://www.icnma.com
在Windows上安装RTX4090深度学习环境，并远程连接的相关方法
Like (0)
大模型加速微调和训练，不得不掌握的方法，代码解析和应用示例
Previous
06/04/2023 13:33
在Mac上体验Pytorch 2.0 自注意力性能提升示例
Next
06/04/2023 13:34
猜你想看
-
HF datasets 使用技巧总结
- 常用操作： Sort, shuffle, select, split, shard, rename, remove, cast, and flatten 2. 结合 map 处理数据 3. 不同格式的加载和存储 4. 多线程加速处理 5. 与pytorch操作示例 # 常用操作 ## 加载 ```pyth…
-
文本摘要简述，基于Pytorch和Hugging Face Transformers构建示例，有源码
文本摘要的常见问题和解决方法概述，以及使用Hugging Face Transformers代码示例。
-
智能留学咨询，Chatbot走进马来亚大学，一款留学对话机器人
工作之余，我开发了一款留学问答机器人，服务母校马来亚大学的学弟学妹们。提高留学申请时获取关键信息的效率。
-
深度学习项目，代码结构、风格和习惯，让自己的代码更Pythonic!
深度学习组织架构和代码层面的风格学习，有助于代码交流和审查等。
-
大模型的N种高效部署方法：以LLama2为例
通过部署LLama2示例，比较不同LLM开源推理服务框架的优缺点。本文没介绍深度学习模型推理服务的传统库，如TorchServe，KServe或Triton Inference Server。 1. vLLM 它的吞吐量比HuggingFace Transformer （HF） 高 …