tpu

LLM-分布式训练工具01-DeepSpeed：ZeRO系列【将显存优化进行到底】

前言目前训练超大规模语言模型主要有两条技术路线：TPU+XLA+TensorFlow/JAX和GPU+PyTorch+Megatron-LM+DeepSpeed。
u013250861·2023-11-03 07:41

智能卡车之3D打印制作MrCrankyface V4卡车（二）

我选取了透明色PLA打印卡车，透明色TPU打印卡车轮胎。我查阅了相关资料，透明色的PLA强度较低，有色的PLA较高，有条件的朋友还是要用有色的PLA材料打印保证零件的强度。
一铭爸爸·2023-10-28 23:31

英码边缘计算盒子IVP03X——32T超强算力，搭载BM1684X算能TPU处理器

产品8大优势：高效节能：相较异构产品，IVP03X数据调配效率更高，资源利用率更高，平均功耗更低；升级换代：相较算能BM1684平台，IVP03X算力、编码，模型转换性能均翻倍提升，且不用改底板，仅需替换核心模组即可快速、低成本实现平台升级；全国产化：适配国产化麒麟系统；散热性能：被动散热设计，0噪音，运行更稳定可靠；接口连接：采用凤凰端子接口，适配性更强；开发环境：相比同行提供的深度学习开发工具
英码科技·2023-10-25 04:40

谷歌云的利润增长才刚刚开始

（3）但谷歌(GOOG)也面临一个很大的风险，即：能否成功击退英伟达(NVDA)日益强大的生态系统，并让客户使用自己的TPU。在2023
猛兽财经官网·2023-10-24 01:29

Motorola IPMC761 使用边缘TPU加速神经网络

MotorolaIPMC761使用边缘TPU加速神经网络人工智能(AI)和机器学习(ML)正在塑造和推进复杂的自动化技术解决方案。
DCS13365909307·2023-10-17 19:58

简单的聊聊 NPU ，Tensor core

有篇文章是介绍这个的，CPU/GPU/TPU/NPU傻傻分不清楚-知乎看完这个介绍，或许可以明白一些概念，但是还是不明白本质现在我们大谈算力，在计算机的世界里可以按照维度把运算分为，标
jinre2·2023-10-13 13:50

【论文笔记】EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks

【论文链接】：https://arxiv.org/abs/1905.11946【论文代码】：https://github.com/tensorflow/tpu/tree/master/models/official
Qn_351c·2023-10-12 18:30

中国创可贴市场研究与未来预测报告（2023版）

内容简介：创可贴由胶布（带）、吸水垫、防粘层等组成，胶布以弹性布、棉布、无纺布或PE、PVC、PU打孔膜、TPU等材料为常见基材，涂以氧化锌和橡胶为主要原料的胶浆或医用压敏胶黏剂或丙烯酸酯胶粘剂制成。
立木信息咨询·2023-10-09 07:33

极智AI | 一文看懂 Google TPU 脉动阵列加速卷积计算原理

TPU中计算卷积的方式和GPU不同，主要是依靠一种称为“脉动阵列”的硬件电路结构来实现的。
极智视界·2023-10-09 06:16

GPU如何成为AI的加速器

本文关键词：GPU、深度学习、GPGPU、渲染、Brook语言、流计算、硬件T&L、CUDA、PyTorch、TOPS、TPU、NPU深度学习理论的发展是一个渐进的过程，从1940年代人工神经元网络的提出到
使者大牙·2023-10-05 19:30

如何识别棉布裱花袋的好坏

涂层就多了，有PVC的，PE,TPU,EVA，TPE,TPU的等等。市场主要是这几种，最差的应该是PVC的，好一点的品质应该是EVA,TPE,PU,这几种，TPU的价格太高，市场上不能接受这样的价格。
天天向上08·2023-10-04 09:01

PyTorch Lightning工具学习

PyTorchLightning中提供了以下比较方便的功能：multi-GPU训练半精度训练TPU训练将训练细节进行抽象，从而可以快速迭代P
pprpp·2023-10-04 04:48

晨间日记 2021/9/8

1.CND3铁壳表面油污-lowCND3富士康中框TPU破损-mid格林后壳短边变形-midCNW5转轴Cap脱落-lowstinger电阻测试设备-major带着长盈王工去看镭雕浅的后壳寄几片回去分析
有文化的刘氓·2023-09-24 21:26

大模型训练之加速篇 -＞ peft(Lora) -＞ accelerator -＞ deepspeed (Zero)

prefix-tuning.prompttuning,AdaLoRA,LLaMA-Adapter训练的库HUGGINFACEaccelerator库：是一个将pytorch模型迁移到CPU/GPU/Multi-GPUs/TPU
zhurui_xiaozhuzaizai·2023-09-22 03:22

关于谷歌云计算进行Python yolov5的使用操作（简略版）

关于谷歌云计算的使用操作（简略版）谷歌云盘：https://drive.google.com/订阅：链接谷歌云盘创建操作：123.添加Colaboratory关联设置免费的GPU它是很容易更换默认的硬件（None,GPU,TPU
kokotao·2023-09-19 02:16

人工智能AI界的龙头企业，炸裂的“英伟达”时代能走多远

只有少数芯片能与他匹敌，如谷歌的TPU(从2017年开始已具备训练和推理能力)。另外，当算法开始稳定和成熟，ASIC定制芯片，凭着专用性和低能耗，在一定程度上也能承接部分算力。相较
BFT白芙堂·2023-09-18 23:10

MixNet: Mixed Depthwise Convolutional Kernels

arXiv：https://arxiv.org/abs/1907.09595Tensorflow版本：https://github.com/tensorflow/tpu/tree/master/models
sliderSun·2023-09-17 08:02

轻量级网络：MixNet

设计MDConvonMobileNets消融实验MixNet结论论文：https://arxiv.org/abs/1907.09595代码：https://github.com/tensorflow/tpu
傅里叶不积分1·2023-09-17 07:30

深度学习怎么跑代码？

Colabortory是一个jupyternotebook环境，它支持python2和python3，还包括TPU和GPU加速，该软件与Google云盘硬盘集成，用户可以轻松共享项目或将其
程序媛珂珂·2023-09-15 09:19

麻省理工用碳纳米管做出CPU，成功执行“Hello World”经典程序

pagetype=news&id=442327根据TPU的报道，麻省理工学院的研究人员与来自AnalogDevices的科学家合作，成功地构建了完全使用碳纳米管（CNT）的CPU，基于RISC-V架构。
Shirleyslife·2023-09-13 09:19

为什么 AI 芯片时代必然到来——从TPU开始的几十倍性能之旅

一个开创性的例子就是谷歌在2015年推出的张量处理单元（TPU），目前已经在为超过十亿人提供服务。
人工智能学家·2023-09-11 16:41

【CPU & GPU & TPU】机器学习扫盲篇

学号：17020150042姓名：宗泽民原文链接：https://blog.csdn.net/DreamSeeker_1314/article/details/89069966?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-4.control&depth_1-utm_source=d
Funzo·2023-09-10 05:22

AI人工智能Mojo语言：AI的新编程语言

Mojo编译器应用高级优化，甚至GPU/TPU代码生成。Mojo可以完全控
ygtu2018·2023-09-09 02:34

mysql对json数据排序问题

项目场景：需对json内容中name进行排序问题描述SELECTJSON_EXTRACT(c_director_leader,'$[*].name')FROMt_prop_unittpuWHERE(tpu.c_del
mine_wz·2023-09-08 09:30

accelerate 分布式技巧（一）

Accelerate精确地抽象了与多GPU/TPU/fp16相关的模板代码，并保持Pytorch其余代码不变。
发呆的比目鱼·2023-09-07 06:25

Python开源项目周排行 2023年第31周

#2023年第31周2023年8月20日1Jax一个由Google2018年开发的用于优化科学计算Python库：它可以被视为GPU和TPU上运行的NumPy，jax.numpy提供了与numpy非常相似
Python学习导航·2023-09-05 22:58

面向深度神经网络的特定领域架构

随着AI对算力的需求不断增长，以TPU为代表的面向DNN的特定领域架构为DNN计算提供了几十倍的性能提升以及能效优化。本文基于谷歌真实业务场景数据，介绍了TPU相对CPU/GPU的实际性能、能效指标。
DeepNoMind·2023-09-04 20:45

面向深度神经网络的特定领域架构

随着AI对算力的需求不断增长，以TPU为代表的面向DNN的特定领域架构为DNN计算提供了几十倍的性能提升以及能效优化。本文基于谷歌真实业务场景数据，介绍了TPU相对CPU/GPU的实际性能、能效指标。
·2023-09-04 09:34

《特利迦奥特曼》第二集

主人公真中剑悟，跟着静间光国（女主的父亲以及TPU的组织的组建和投资人）来到了地球，并带着他去了基地去见其他队员。
A一粒星辰·2023-09-03 00:43

Infatuated with mini beauty, I'm obsessed with loo

I'vecompletelyabandonedallmylove,Istillcan'tsaytoyou,you'rebeautiful,I'vegotalongwaytogo,I'mlookingforyou,butIcan'tpu
denghan·2023-09-02 23:42

论文讲解——TPU-MLIR: A Compiler For TPU Using MLIR

论文讲解——TPU-MLIR:ACompilerForTPUUsingMLIRhttps://arxiv.org/pdf/2210.15016.pdf概览模型转换TranslationCanonicalizeLoweringLayerGroup
算能开发者社区·2023-08-31 07:37

Milk-V Duo开发板实战——基于MobileNetV2的的图像分类

Milk-VDuo开发板实战——基于MobileNetV2的的图像分类本教程介绍使用TPU-MLIR工具链对MobileNet-Caffe模型进行转换，生成MLIR以及MLIR量化成INT8模型，并在Milk-VDuo
算能开发者社区·2023-08-31 07:03

TPU学习记录以及遇到的坑

一、错误记录1、Traceback(mostrecentcalllast):File"demo/transfer.py",line210,inmain()File"demo/transfer.py",line178,inmainengine=ImprintingEngine(args.extractor)File"/usr/lib/python3/dist-packages/edgetpu/swi
AI信仰者·2023-08-28 04:27

大语言模型之五 谷歌Gemini

近十年来谷歌引领着人工智能方向的发展，从TensorFlow到TPU再到Transformer，都是谷歌在引领着，然而，在大语言模型上，却被ChatGPT（OpenAI）抢了风头，并且知道GPT-4（OpenAI
shichaog·2023-08-27 07:58

笔记：transformer系列

1、和其他网络的比较自注意力机制适合处理长文本，并行度好，在GPU上，CNN和Self-attention性能差不多，在TPU（TensorProcessingUni）效果更好。
博观而约取,厚积而薄发·2023-08-24 22:26

GPU短缺：人工智能行业的可持续发展问题

“人工智能热潮被低估的一个原因是GPU/TPU短缺。这种短缺导致了产品推出和模型培训的各种限制，但这些都不明显。相反，我们看到的是英伟达的股价飙升。一旦供给满足需求，事情就会加速发展。”
BFT白芙堂·2023-08-21 21:03

[Pytorch基础]免费的Colab使用和经验

Google提供了Colab给我们初学运行有很大的帮助，有免费的GPU和TPU资源可以使用。当然要使用前提是要啦。
Cang_Wang·2023-08-15 06:11

TFRecords详解

内容目录TFRecords是什么序列化(Serialization)tf.data图像序列化（SerializingImages)tf.Example函数封装小结TFRecords是什么TPU拥有八个核心
Avasla·2023-08-12 07:32

搭载TPU处理器BM1684X，适配麒麟系统，支持OTA升级！

随着人工智能技术不断深入实际应用场景，加速各行各业场景应用落地，边缘计算的重要性越发凸显。相较于传统的集中式云计算，边缘计算在距离数据源或用户更近的地方提供计算能力，不仅满足了对实时性要求较高的场景应用需求，还节省了带宽、开发和运维成本。编辑切换为居中添加图片注释，不超过140字（可选）多年来，英码科技一直专注于深入挖掘边缘计算领域的潜力和需求，致力于国产边缘计算的产品创新和技术实践，面向不同行业
英码科技·2023-08-11 13:22

机器学习加速利器jax，让numpy加速30倍

jax.numpy是CPU、GPU和TPU上的numpy，具有出色的自动差异化功能，可用于高性能机器学习研究。我今天就来试一试到底多快。
喝粥也会胖的唐僧·2023-08-08 10:46

【fixed】No GPU/TPU found, falling back to CPU.或者XlaRuntimeErrorFAILED_PRECONDITION: DNN library initi

问题用jax报错NoGPU/TPUfound,fallingbacktoCPU.(SetTF_CPP_MIN_LOG_LEVEL=0andrerunformoreinfo.)或者XlaRuntimeError:FAILED_PRECONDITION:DNNlibraryinitializationfailed.解决pipinstall--upgradepip#CUDA12installation#
Baily24·2023-08-08 10:15

TPU-NNTC 编译部署LPRNet 车牌识别算法

TPU-NNTC编译部署LPRNet车牌识别算法注意：由于SOPHGOSE5微服务器的CPU是基于ARM架构，以下步骤将在基于x86架构CPU的开发环境中完成初始化开发环境(基于x86架构CPU的开发环境中完成
算能开发者社区·2023-08-06 20:53

TPU编程竞赛系列 | 创客北京2023·算能AI+边缘计算专项赛开始啦！

为助力北京市高精尖产业发展，构建大中小企业相互依存、相互促进的企业发展生态，打造北京市有影响力的双创服务品牌赛事，“创客北京”大赛组委会联合算能举办AI+边缘计算方向专项赛。1.赛题任务本赛题基于“AI+边缘计算”方向，针对视觉领域中的“AI+石化”和“AI+泛园区”场景输出商业落地解决方案。石化场景鼓励针对油气勘探、油气传输场景输出完整解决方案。泛园区场景鼓励针对智慧医院、智慧校园场景输出完整解
算能开发者社区·2023-08-06 20:23

This TensorFlow binary is optimized with oneAPI Deep Neural Network Library (oneDNN) to use the foll

通过合适的安装，它可以与CPU、GPU或TPU一起使用。快速发展的一部分意味着它根据您的硬件使用不同的代码。一些CPU支持其他CPU不支持的操作，例如矢量化加法（一次添加多个变量）。
nuliliq·2023-08-04 17:01

AI模型训练推理一定要知道的事情

AI训练的算力要求算力模型训练需要大量计算资源，包括CPU(CentralProcessingUnit)、GPU(GraphicalProcessingUnit)、TPU(TensorProcessingUnit
河南-殷志强·2023-07-29 10:30

CPU、GPU、FPGA、ASIC等AI芯片特性及对比

同时有部分芯片企业开始设计专门用于AI算法的ASIC专用芯片，比如谷歌TPU、地平线BPU等。
maopig·2023-07-29 04:51

【多模态】18、ViLD | 通过对视觉和语言知识蒸馏来实现开集目标检测（ICLR2022）

Open-vocabularyObjectDetectionviaVisionandLanguageKnowledgeDistillation代码：https://github.com/tensorflow/tpu
呆呆的猫·2023-07-29 00:53

TPU编程竞赛委员会开始招募啦！

TPU编程竞赛委员会开始招募啦！「TPU编程竞赛委员会」服务于高水平开源编程竞赛，由算能赞助，和开发者协同运营，共同致力于激发开源创新活力，培养开源实践人才，助力开源生态建设。
算能开发者社区·2023-07-27 14:08

TPU编程竞赛系列｜第九届 “互联网+”大学生创新创业大赛产业命题赛道，算能6项命题入选！

算能六项赛题主要围绕国产TPU芯片的边缘计算系统和RISC-V架构处理器来设计，且为参赛选手提供了超强算力开发板等硬件资源，欢迎各大高校学生们积极报名参与！
算能开发者社区·2023-07-27 14:07

【转载】MilkV Duo使用TPU推理pytorch模型

MilkVDuo的TPU推理Pytorch模型部署1.MilkVDuo开发板最近在朋友的推荐下，购入了一块国产RISC-V架构的MilkVDuo开发板，首先这个开发板价格很便宜才35块，并且支持TPU模型推理
算能开发者社区·2023-07-27 14:07
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他