TorchDynamo

LLaMA 2端到端推理打通！来自中国团队

我们在BuddyCompiler的前端部分实现了面向TorchDynamo的第三方编译器，从而结合了MLIR和PyTorch的编译生态。
QbitAl·2023-11-27 09:11

TorchDynamo初探②：Torch.FX调研和实践

作者｜strint1概要torch.fx是PyTorch官方发布的Python到Python的代码变换工具。如果你想做Torch代码变换，torch.fx是首选工具。torch.fx会将Torch代码trace成6种基础的node组成的graph，基于这个graph可以方便的做各种变换，变换后的graph可以再生成torch代码（一个nn.Module），然后像普通的nn.Module一样去执行。
OneFlow深度学习框架·2023-09-29 12:25

pytorch2.0 起步

live-qa-series总览特性fastermorepythonicasdynamicasevertorch.compile，部分零件由C++迁移到Python,加强torch.compile的新技术有TorchDynamo
转身之后才不会·2023-04-12 20:09

OneFlow 源码阅读 12：从 Tensor 看 CPython 的对象创建过程

春节前后拜读了许啸宇的《TorchDynamo初探：PythonByteCode的动态修改》，随后简单总结了一下TorchDynamo的执行过程。这期间对CPython也多了一些了解。
·2023-02-16 20:54

TorchDynamo 的执行过程

1执行流程1.1初始化设置全局变量extra_index。这是PEP523设置PyCodeObject.co_extra需要的。初始化TSSKey。这是PEP539需要的。Tss的key是固定的，这里定义的这个key只用于存储callback，tss是每个线程私有的（Eachthreadhasadistinctmappingofthekeytoavoid*value）。Dynamocallback
·2023-02-16 20:05

如何看待PyTorch 2.0？

而PyTorch在试了这么多方案之后似乎已经锁定TorchDynamo作为graphcapture的未来方向了，所以写一点关于TorchDynamo的内容，主要是解释到底为什么要做这个东西（离开FB一年了
·2023-01-03 15:40

TorchDynamo初探：Python ByteCode的动态修改

作者｜strint1背景深度学习框架编译优化时，需要先根据计算逻辑形成一个逻辑计算图，然后再改写计算图，最后执行改写后的计算图。其中生成逻辑计算图方式有两种。一种计算图生成是基于tracetensor的，跟踪tensor的执行路径。tensor执行时，基于函数重载，可以落到支持tensor计算的框架自定义函数，该函数一般是c++层的。c++层的自定义函数中，功能是用于生成一个Operation的符
·2023-01-03 14:04

TorchDynamo初探：Python ByteCode的动态修改

作者｜strint1背景深度学习框架编译优化时，需要先根据计算逻辑形成一个逻辑计算图，然后再改写计算图，最后执行改写后的计算图。其中生成逻辑计算图方式有两种。一种计算图生成是基于tracetensor的，跟踪tensor的执行路径。tensor执行时，基于函数重载，可以落到支持tensor计算的框架自定义函数，该函数一般是c++层的。c++层的自定义函数中，功能是用于生成一个Operation的符
OneFlow深度学习框架·2023-01-03 13:38

如何看待PyTorch 2.0？

而PyTorch在试了这么多方案之后似乎已经锁定TorchDynamo作为graphcapture的未来方向了，所以写一点关于TorchDynamo的内容，主要是解释到底为什么要做这个东西（离开FB一年了
OneFlow深度学习框架·2023-01-03 13:38
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他