OneFlow

深度学习框架 人工智能操作系统 训练&前向推理 PyTorch Tensorflow MindSpore caffe 张量加速引擎TBE 深度学习编译器 多面体 polyhedral AI集群框架

AI嵌入式框架OneFlow&清华计图Jittor&华为深度学习框架MindSpore&旷视深度学习框架MegEn
EwenWanW·2024-09-09 13:54

语言大模型的分布式训练与高效微调指南

原文：语言大模型的分布式训练与高效微调指南-知乎目录收起1分布式训练2ZeRO驱动的数据并行3全分片数据并行4实现5高效微调6实践指南7关于DeepSpeed和FSDP的更多内容OneFlow编译翻译｜
javastart·2024-01-28 05:20

GLM国产大模型训练加速

为了解决这一挑战，OneFlow框架提供了强大的功能和优化，为大模型训练带来了显著的加速和显存节省。OneFlow框架通过使用数据并行技术，实现了在A100PCIE40G硬件环境下的高性能训练。
百度_开发者中心·2024-01-24 16:43

ChatGPT背后：从0到1，OpenAI的创立之路

OneFlow编译翻译｜杨婷、贾川、徐佳渝ChatGPT一出，OpenAI名声大震，CEOSamAltman也成为聚光灯下的C位主角，有些报道甚至开始了对他的“造神”运动。
边缘计算社区·2024-01-03 14:54

OpenVINO异步Stable Diffusion推理优化方案

文章目录StableDiffusion推理优化背景技术讲解：异步优化方案思路：异步推理优化原理OpenVINO异步推理PythonAPI同步和异步实现方式对比oneflow分布式调度优化优势：实现思路总结
落798.·2023-11-28 15:24

为什么开源语言大模型很重要？

（本文由OneFlow编译发布，转载请联
OneFlow深度学习框架·2023-11-10 15:26

开源语言大模型演进史：高质量基础模型竞赛

以下内容经授权后由OneFlow编译发布，转载请联系授权。原文：https://cameronrwolfe.subst
OneFlow深度学习框架·2023-11-10 15:26

LoRA和QLoRA微调语言大模型：数百次实验后的见解

（本文由OneFlow编译发布，转载请联系授权。原文：https://lightning
OneFlow深度学习框架·2023-11-10 15:55

深度学习AI编译器-TVM简介

为什么需要深度学习编译器深度学习编译器主要为解决不同框架下训练的模型部署到指定的某些设备上时所遇到的一系列复杂的问题，即将各种深度学习训练框架的模型部署到各种硬件所面临的问题；首先深度学习领域，从训练框架看，当前可选的框架有pytorch、TensorFlow、Mxnet、paddle，oneflow
WRichards·2023-11-01 13:52

iPhone 15系列USB-C数据线曝光；Flutter 3.13发布|极客头条

疑似小米汽车新疆路试谍照曝光王慧文病休53天，旗下OneFlow团队重新创业阿里将推出大模型数学工具MindOptCopilot用友发布首个企业服务大模型YonGPT中国程序员拒写赌博程序被拔14颗
极客日报·2023-08-28 09:54

OneFlow源码解析：基础计算接口Primitive

作者｜郑建华‍此前，OneFlow版本更新博客中的第5节对框架的“多设备适配”作了说明，原文摘录如下：OneFlow提供简洁高效易扩展的硬件抽象层EP（ExecutionProvider），以应对适配不同硬件的复杂性
OneFlow深度学习框架·2023-08-28 09:50

YOLOv5全面解析教程⑧：将训练好的YOLOv5权重导为其它框架格式

欢迎大家到这里查看本篇文章的完整版本：https://start.oneflow.org/oneflow-yolo-doc/tutorials/06_chapter/export_onnx_tflite_tensorrt.html2
OneFlow深度学习框架·2023-08-28 09:19

Chat GPT-4，大增长时代的开始！

虽然我们早在2017年就预测了超大模型的到来，因此才搞了分布式深度学习框架OneFlow（github.com/Oneflow-Inc/oneflow/），且2020年的GPT-3也掀起了大模型热潮（OneFlow
星辰_218·2023-08-12 04:31

OneFlow 中的 Softmax

而OneFlow内部针对输入数据的类别数量，采用3个kernel来分别处理，在多数情况下都可以获得比cuDNN更优的性能表现。测试结果可见如何实现一个高效的SoftmaxCUDAkernel？
图波列夫·2023-08-11 20:26

通俗解构语言大模型的工作原理

（以下内容经授权后由OneFlow编译发布，转载请联系OneFlow获得授权。原文：ht
OneFlow深度学习框架·2023-08-03 10:44

编译 OneFlow 模型

|ApacheTVM中文站本文介绍如何用Relay部署OneFlow模型。首先安装OneFlow包，可通过pip快速
HyperAI超神经·2023-08-01 19:29

【Meetup预告】OpenMLDB＋OneFlow：链接特征工程到模型训练，加速机器学习模型开发

活动背景提供生产级实时数据及特征开发全栈解决方案的开源学习数据库OpenMLDB邀请静态编译和流式并行的深度学习框架OneFlow合作带来OpenMLDBMeetup第五期。
·2023-06-21 11:51

关于大型语言模型的争论和局限

（以下内容经授权后由OneFlow编译发布，译文转载请联系OneFlow获得授权。
OneFlow深度学习框架·2023-06-17 17:06

OneFlow｜推荐一款兼容 PyTorch 的国产 AI 框架

在人工智能和深度学习的不断发展进程中，深度学习框架已经成为行业研发基础，承载着越来越多的研发者基于框架构建、训练和部署相关应用。基于深度学习框架，研发人员可以依据研究或业务目标更快速地开发相关应用，行业的研发效率和水平也因此得到了显著提升。在深度学习框架中，PyTorch和TensorFlow推出时间比较早，在科研和研发场景渗透率都比较高，PyTorch是目前受到用户喜欢的框架之一，它的API友好
矩池云Matpool·2023-06-16 10:26

深度学习编译器之公共子表达式消除和死代码消除实现

同时也维护了一个cuda学习仓库https://github.com/BBuf/how-to-optim-algorithm-in-cuda以及一个如何学习深度学习框架（PyTorch和OneFlow）
just_sort·2023-06-16 07:36

没有这个传奇工程师，就没有今天的 Windows

这是「进击的Coder」的第177篇热点新闻作者：OneFlow社区来源：OneFlow“阅读本文大概需要17分钟。”
VIP_CQCRE·2023-06-16 01:01

简单算法部署

无论我们使用什么样的训练框架来训练模型（TensorFlow/Pytorch/OneFlow/Paddle），我们都可以在训练后将这些框
好记性＋烂笔头·2023-06-14 16:27

OneFlow v0.9.0正式发布

今天是OneFlow开源的第903天，OneFlowv0.9.0正式发布。本次更新包含640个commit，完整更新列表请查看链接：https://github.com/Oneflow-In...
·2023-06-13 12:22

OneFlow-ONNX v0.6.0正式发布

OneFlow-ONNXv0.6.0正式发布。新版本提升了转换接口的易用性，开发了多个新特性，并新增支持6种模型以及20多种算子，此外，还修复了6个转换过程中的bug。
·2023-06-13 12:21

OneFlow源码解析之Eager模式下Tensor存储管理

目录1不同Tensor类型的存储管理方式2Tensor存储相关类的关系3通过虚拟机指令为Tensor分配存储3.1存储相关对象的构造3.2在指令执行过程中分配tensor存储4通过虚拟机指令释放Tensor存储5reshape等场景的存储管理6两个TensorStorage类型可以合并吗？7附录1不同Tensor类型的存储管理方式LazyTensor的存储是由Runtime和Actor等对象管理的
·2023-06-06 21:29

全球首个完全开源的指令跟随大模型；T5到GPT-4最全盘点

全球首个完全开源的指令跟随大模型；T5到GPT-4最全盘点OneFlow社区OneFlow2023-04-1308:07发表于北京图片1.Dolly2.0：世界上第一个完全开源的指令跟随LLM两周前，Databricks
Java程序员老张·2023-04-21 14:59

OneFlow源码解析：Eager模式下Tensor的存储管理

作者｜郑建华1不同Tensor类型的存储管理方式LazyTensor的存储是由Runtime和Actor等对象管理的。静态图完成编译后，需要多少个对象、多少存储空间都是确定的，Runtime等在初始化时会分配存储，在退出时回收资源。Eager模式下，GlobalTensor可以视为对LocalTensor的分布式封装，EagerGlobalTensorImpl在本地的数据是一个EagerLocal
·2023-04-19 15:32

【BBuf的CUDA笔记】九，使用newbing（chatgpt）解析oneflow softmax相关的fuse优化

0x0.背景随着年纪越来越大，读代码越来越困难，如果你发现看不懂同事写的代码应该怎么办呢？不要担心，大语言模型的时代了来了，chatgpt和gpt4会教会我们怎么读代码。本篇文章就来展示一下使用newbing（chatgpt）来读oneflowsoftmax相关的fuse优化kernel的过程。本文的代码解释均由chatgpt生成，我只是手工做了非常少的一点微调来保证对代码解释的正确性。完整代码解
just_sort·2023-04-18 23:45

ChatGPT和Claude 对比测试（以Review MLIR Codegen代码为例）

Codegen任务（目标是在mlircodegen中支持oneflowstream，用oneflowstream替换pass中自己生成的stream，PR链接为：https://github.com/Oneflow-Inc
just_sort·2023-04-18 23:41

GPT-4，大增长时代的序幕

虽然我们早在2017年就预测了超大模型的到来，因此才搞了分布式深度学习框架OneFlow（github.com/Oneflow-Inc/oneflow/），且2020年的GPT-3也掀起了大模型热潮（OneFlow
分享干货的猫·2023-04-12 02:52

1秒出图，全球最快的开源Stable Diffusion出炉

来源：机器之心机器之心编辑部OneFlow将StableDiffusion的推理性能推向了一个全新的SOTA。
人工智能与算法学习·2023-04-07 15:17

独家 前美团联合创始人王慧文“正在收购”国产AI框架OneFlow，光年之外欲添新大将

以ChatGPT为代表的AI大模型是2023年的科技C位。2023年3月27日，ChatGPT引发的“抓马连续剧”，又有新剧更新。前情提要：前美团联合创始人、高级副总裁王慧文发文宣布进入AI领域，称将打造中国的OpenAI。新闻标题一：《王慧文放话：我先投3个亿》当然，他现在的身份是美团非执董，北京光年之外科技有限公司股东、执董。随后，王兴在朋友圈中表示：“……既然他决心拥抱这次大浪潮，那我必须支
松鼠协会总动员·2023-04-03 14:51

ChatGPT进化的秘密

来源：转自OneFlow本文作者，符尧[email protected]，爱丁堡大学(UniversityofEdinburgh)博士生，本科毕业于北京大学，与彭昊，TusharKhot在艾伦人工智能研究院
人工智能学家·2023-04-03 06:20

ChatGPT数据集之谜

来源：OneFlow 机器学习算法与自然语言处理 ‍‍‍‍‍‍‍‍‍‍作者：AlanD. 
数据派THU·2023-04-01 18:49

深度学习框架如何优雅的做算子对齐任务？

回答提到了去年在OneFlow开发一些算子时，基于算子AutoTest框架找到了一些PyTorch算子的bug，并给PyTorch做出了反馈或修复。
just_sort·2023-04-01 10:21

机器学习中的开源框架

它们都各自力挺一种深度学习框架：谷歌有自家的TensorFlow、Facebook有Pytorch、百度有PaddlePaddle、微软有CNTK、亚马逊的AWS则有MXNet，华为有国内全栈的MindSpore，一流科技的OneFLow
微生活Pro·2023-03-31 22:17

35张图，直观理解Stable Diffusion

来源|OneFlow作者｜JayAlammar翻译｜杨婷、徐佳渝最近，AI图像生成引人注目，它能够根据文字描述生成精美图像，这极大地改变了人们的图像创作方式。
人工智能与算法学习·2023-03-31 13:21

GPT-4创造者：第二次改变AI浪潮的方向

OneFlow编译翻译｜贾川、杨婷、徐佳渝编辑｜王金许一朝成名天下知。ChatGPT/GPT-4相关的新闻接二连三刷屏朋友圈，如今，这些模型背后的公司OpenAI的知名度不亚于任何科技巨头。
OneFlow深度学习框架·2023-03-29 07:45

GPT-4，大增长时代的序幕

作者｜成诚虽然我们早在2017年就预测了超大模型的到来，因此才搞了分布式深度学习框架OneFlow（github.com/Oneflow-Inc/oneflow/），且2020年的GPT-3也掀起了大模型热潮
OneFlow深度学习框架·2023-03-28 15:07

日烧70万美元的ChatGPT如何融入搜索引擎

作者｜DylanPatel、AfzalAhmad编译｜OneFlow翻译｜杨婷、徐佳渝、贾川搜索引擎的市场格局已经有二十年没有什么大的变化，如今，Google和微软两大巨鳄的交锋再度上演。
夕小瑶·2023-03-28 13:28

独家丨前美团联合创始人王慧文“正在收购”国产AI框架OneFlow，光年之外欲添新大将...

文丨谭婧以ChatGPT为代表的AI大模型是2023年的科技C位。2023年3月27日，ChatGPT引发的“抓马连续剧”，又有新剧更新。前情提要：前美团联合创始人、高级副总裁王慧文发文宣布进入AI领域，称将打造中国的OpenAI。新闻标题一：《王慧文放话：我先投3个亿》当然，他现在的身份是美团非执董，北京光年之外科技有限公司股东、执董。随后，王兴在朋友圈中表示：“……既然他决心拥抱这次大浪潮，那
亲爱的数据·2023-03-28 09:32

OpenAI创始人：GPT-4的研究起源和构建心法

OneFlow编译翻译｜杨婷、贾川、徐佳渝三十年前，互联网（Web1.0）时代开启。
OneFlow深度学习框架·2023-03-22 14:48

A计划：基础架构软件创业之道分享实录

点击蓝字关注我们GitHub:https://github.com/Oneflow-Inc/oneflow（点击“阅读原文”，即刻进入GitHub仓库！）
OneFlow深度学习框架·2023-03-22 14:48

ChatGPT 背后的经济账

来源：OneFlow原文地址：https://sunyan.substack.com/p/the-economics-of-large-language-models作者：Sunyan翻译：杨婷、徐佳渝
人工智能学家·2023-03-17 19:53

ChatGPT背后的经济账

点击上方“AI遇见机器学习”，选择“星标”公众号重磅干货，第一时间送转载自|OneFlow作者｜Sunyan翻译｜杨婷、徐佳渝、贾川ChatGPT能否取代Google、百度这样的传统搜索引擎？
Evan-yzh·2023-03-15 13:51

ChatGPT作者John Shulman：我们成功的秘密武器

推荐：深度学习与NLP来源：转载自OneFlow，杨婷、徐佳渝翻译除了OpenAI，外界可能很少有人知道ChatGPT模型成功的真正原因，实际上，OpenAI也会对ChatGPT拥有的巨大影响力感到不可思议
智能交通技术·2023-03-15 09:42

ChatGPT背后：从0到1，OpenAI的创立之路

来源：OneFlow作者：GregBrockman编译：OneFlow翻译：徐佳渝、贾川ChatGPT一出，OpenAI名声大震，CEOSamAltman也成为聚光灯下的C位主角，有些报道甚至开始了对他的
人工智能学家·2023-03-15 09:09

YOLOv5全面解析教程⑥：模型训练流程详解

作者|Fengwen、BBuf欢迎Star、试用One-YOLOv5：https://github.com/Oneflow-Inc/one-yolov51结构项目预览2安装git clone https
OneFlow深度学习框架·2023-03-11 21:51

One-YOLOv5 v1.2.0发布：支持分类、检测、实例分割

完整更新列表请查看链接：https://github.com/Oneflow-Inc/one-yolov5/releases/tag/v1.2.0，欢迎体验新版本，期待你的反馈。
OneFlow深度学习框架·2023-03-11 21:21

适配PyTorch FX，OneFlow让量化感知训练更简单

作者|刘耀辉审稿|BBuf、许啸宇1背景近年来，量化感知训练是一个较为热点的问题，可以大大优化量化后训练造成精度损失的问题，使得训练过程更加高效。Torch.fx在这一问题上走在了前列，使用纯Python语言实现了对于Torch.nn.Module的解析和向IR的转换，也可以提供变换后的IR对应的Python代码，在外部则是提供了简洁易用的API，大大方便了量化感知训练过程的搭建。此外，Torch
OneFlow深度学习框架·2023-03-10 07:19
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他