模型部署

解决“distribution shift”的问题

即使训练测试数据来自同一分布,当模型部署后,真实环境也与测试环境可能存在偏差。对抗攻击。对手可以故意让输入分布偏离模型
子燕若水·2023-09-19 17:39

【模型部署】yolox模型部署 |ERROR: Could not install packages due to an OSError: [WinError 206] 文件名或扩展名太长。 | 报错

项目场景：在学习yolox模型部署时遇到的bug问题描述例如：部署yolox模型需要几个包：其中onnx相关的包我是第一次安装在安装onnx-simplifier包的时候使用以下指令时出现了报错：pipinstall-ihttps
今天一定要洛必达·2023-09-19 13:02

2023 Google 开发者大会：将大型语言模型部署到你的手机

全球总共有接近100个大语言模型，可谓是百花齐放显而易见，大语言模型凭借出色的AI对话能力，已经逐渐深入各个行业2023Google开发者大会带来了AI专题，Google技术推广工程师魏巍提出“将大语言模型部署到个人终端
负债程序猿·2023-09-19 09:47

使用 Keras 和 TensorFlow Lite 的设备端大型语言模型

将大型语言模型部署到Android设备上是一个复杂的任务，因为这些模型通常需要大量的计算资源。首先，您需要加载和优化模型，然后选择一个合适的推理引擎，最后将其集成到Android应用程序中。
Just_Paranoid·2023-09-18 22:50

yolactC#onnxruntime模型部署

我在网上搜了很多,有搜到大神c++部署的。奈何我只能用winform,一去搜winform上部署竟啥也没有,onnx文件在.net上在用微软的vs,nuget上一搜onnxruntime直接无脑安装啊。看来winform,c#已经要被大家抛弃了。无奈只能自己去看搜模型输出解析，再参看源码的detect,一步步解析出来了。踩了不少坑，结果也原模型有些差距。。。可能是自己的解析方式哪里出了点问题。附几
qq_26444467·2023-09-18 04:20

机器学习 day34（机器学习项目的完整周期、精确度和召回率、F1）

部署在生产环境中的常见方法：将模型部署在服务器中，并在应用程序中通过API调用，最后返回模型的预测根据生产环境是服务于少数几个用户还是几百万个用户，软件工程的需求也有所不
丿罗小黑·2023-09-17 06:53

深度学习之模型压缩、加速模型推理

简介当将一个机器学习模型部署到生产环境中时，通常需要满足一些在模型原型阶段没有考虑到的要求。例如，在生产中使用的模型将不得不处理来自不同用户的大量请求。
小北的北·2023-09-16 08:10

FastChat工作原理解析

在了解FastChat如何完成大模型部署前，先了解下Huggingface提供的Transformer库。
taoli-qiao·2023-09-13 04:09

yolov8 模型部署--TensorRT部署-c++服务化部署

写目录yolov8模型部署--TensorRT部署1、模型导出为onnx格式2、模型onnx格式转engine部署yolov8模型部署–TensorRT部署1、模型导出为onnx格式如果要用TensorRT
绿箭柠檬茶·2023-09-12 12:09

AIGC：【LLM（七）】——Baichuan2：真开源可商用的中文大模型

文章目录一.模型介绍二.模型部署2.1CPU部署2.2GPU部署三.模型推理3.1Chat模型推理3.2Base模型推理四.模型量化4.1量化方法4.2在线量化4.3离线量化4.4量化效果五.模型微调5.1
J_Xiong0117·2023-09-12 06:46

AI平台如何赋能后端研发

建模流程整个模型建模流程主要需要四大步：特征处理、模型训练、模型评估、模型部署。并且模型还需要进行不断的迭代才能保证模型效果。特征处理包括特征存储、特征选择、特征清洗、特征加工
·2023-09-11 13:58

自动驾驶多任务框架Hybridnets——同时处理车辆检测、可驾驶区域分割、车道线分割模型部署（C++/Python）

一、多感知任务在移动机器人的感知系统，包括自动驾驶汽车和无人机，会使用多种传感器来获取关键信息，从而实现对环境的感知和物体检测。这些传感器包括相机、激光雷达、雷达、惯性测量单元（IMU）、全球导航卫星系统（GNSS）等。在自动驾驶和移动机器人的感知系统里面，相机的功能主要是周围的物体，这些感知任务包括任务包括物体检测和分割。物体检测：物体检测是指通过处理传感器数据来检测环境中的物体，如汽车、行人、
知来者逆·2023-09-11 08:07

基于TensorFlow2.3.0的物体分类Android篇

花卉分类基于TensorFlow框架训练出可识别"雏菊",“蒲公英”,“玫瑰”,“向日葵”,"郁金香"5种花卉图片的模型文件，并将模型部署到AndroidAPP中，效果如图：果蔬分类基于TensorFlow2.3.0
lilihewo·2023-09-11 05:06

Linux学习-LVS之NAT模型部署

以下实例通过Vmware下Centos7系统上部署环境准备准备3台centos7虚拟机DirectorServer：VIP:192.168.88.101，DIP：172.16.1.3RealServer1(web服务器)：RIP1：172.16.1.2网关(指向DirectorServer)：172.16.1.3RealServer2(web服务器)：RIP2：172.16.1.4网关(指向Dir
丢爸·2023-09-10 09:18

科技云报道：生成式AI已成为企业新兴风险，但我们不应该因噎废食

但与此伴生的对于数据保护、合规风险及隐私泄露的担忧，也让业界格外关注AI大模型部署过程中将带来的安全风险。同时，生成式AI又是一把双刃剑，它既可以帮助企
科技云报道·2023-09-09 03:44

基于任务队列的机器学习服务实现

将机器模型部署到生产环境的方法有很多。常见的方法之一是将其实现为Web服务。最流行的类型是RESTAPI。
新缸中之脑·2023-09-07 04:48

Generative AI 新世界 | Falcon 40B 开源大模型的部署方式分析

本期文章，我们将重新回到文本生成的大模型部署场景，探讨如何在AmazonSageMaker上部署具有400亿参数的Falcon40B开源大模型。
亚马逊云开发者·2023-09-06 18:32

10个常用于数据分析的python方法

数据科学家的日常工作涉及各种任务，例如数据预处理、数据分析、机器学习模型创建、模型部署。如果您开始成为数据科学家的旅程，那么第一步就是掌握数据操作的技能，因为几乎每个数据科学项目都需要它。
紫色沙·2023-09-06 05:52

模型部署

一、深度模型线上部署1、预训练embedding+轻量级模型复杂网络离线训练，生成embedding存入内存数据库，线上实现LR或浅层NN等轻量级模型拟合优化目标；（1）分别用复杂网络对“用户特征”和“广告特征”进行了embedding化，在最后的交叉层之前，用户特征和广告特征之间没有任何交互，这就形成了两个独立的“塔”，因此称为双塔模型。最终的用户embedding和广告embedding存入内
inspiredhss·2023-09-05 22:13

ESPFriends之ESP32模型部署训练历险记(一)

开发环境的部署搭建超级小星星：时间过得可真快ESPFriends创客沙龙已经在武汉举办了两期，在这里有行业内的工程师、高校的学生以及极客，在这里我们交流分享自己的开发心得，提出遇到的“大坑”也可以得到小伙伴们的解决方案，希望活动可以越办越好，在这里我也记录一下自己的开发历程和学习心得与大家共勉。内容源码地址：link本期的主题是模型的训练与部署，AI这个东西确实很神奇，我们之所以感觉这东西很“虚”
超级小星星·2023-09-05 21:32

使用 Amazon SageMaker 微调和部署 ChatGLM 模型

本篇文章主要介绍如何使用AmazonSageMaker进行ChatGLM模型部署和微调的示例。
亚马逊云开发者·2023-09-05 04:17

[Yolov5] 将 yolov5 模型部署在 Ubuntu 上的 ROS

我用的是yolov5v6.0版本。虚拟机为VM。Ubuntu的版本是20.04。相应的onnx各种包的版本如下图。1）导出onnx格式的模型。TIPS:一定要加--weightsyolov5s.pt，否则将从Yolov5的官网下载最新的你现在使用yolov5的对应的权重文件，而这权重文件的版本可能不会和你的yolov5的版本相对应，臂如你的yolov5是v5版本的，而下载的权重文件是v7版本的，而
史迪幼仔·2023-09-03 16:00

2020年下半年软件设计师下午真题及答案解析

(2)检测模型部署。管理员对常用机器学习方法建立检测模型分布。(3)图像采集。实时将检测多样的产品待检测建分存储，包括产品结构，生产时间，图像信号和产品图像。(4)缺陷检测。根据检测模型和检
任铄·2023-09-02 10:32

Kubeflow Pipelines介绍与实例

1.背景MLcode仅是MachineLearningsystems中的一小部分，像数据收集、特征抽取、配置管理、资源管理、模型部署、模型监控等同样十分的重要。
Pistachiout·2023-09-01 04:11

KubeFlow组件介绍

kubeflow是一个胶水项目，它把诸多对机器学习的支持，比如模型训练，超参数训练，模型部署等进行组合并已容器化的方式进行部署，提供整个流程各个系统的高可用及方便的进行扩展部署了kubeflow的用户就可以利用它进行不同的机器学习任务
Pistachiout·2023-09-01 04:08

Sanic框架下部署Pytorch模型

前言本文针对业余范围的Pytorch模型部署，类似各位想把自己开发的深度学习模型上线web端demo等等。
孟大师·2023-08-31 13:17

【VScode模型部署】输出结果不一致的问题

问：在Python中训练好的pb模型，拿到VScode的C＋＋程序中进行调用，结果在相同的数据下产生不同的输出结果ChatGPT：如果您在Python中训练好了一个.pb模型，并尝试在VSCode的C++程序中进行调用，但是产生了不同的输出结果，可能有以下原因：TensorFlow版本不一致：确保在Python和C++中使用相同版本的TensorFlow。不同版本的TensorFlow可能在底层运
dataloading·2023-08-30 16:00

【VScode推理模型部署】ONNX runtime

推理模型部署(一)：ONNXruntime实践VSCode配置之OnnxRuntime(CPU)&&YOLOv7验证简单来说，对于机器学习模型过程可分为训练迭代和部署上线两个方面：训练迭代，即通过特定的数据集
dataloading·2023-08-30 16:53

安卓端部署PPOCR的ncnn模型——模型部署

包括文本检测和文本识别）在安卓端的部署，由于工作中用到的算法是基于百度研发的PPOCR算法，最终需要在安卓端落地应用，部署框架使用的是ncnn框架，中间涉及模型转换和部署的问题，所以特意在此做一个记录，本文主要讲一下模型部署的问题
彧侠·2023-08-30 14:41

用YOLOv5代码训练模型并部署到Android客户端

RuntimeError:CUDAerror:nokernelimageisavailableforexecutiononthedevice（2）在vscode上使用tensorboard将YOLOv5训练得到的模型部署到
ShmilySiu·2023-08-29 07:30

Llama-2大模型本地部署研究与应用测试

目前正在开展大模型部署应用测试，
一马平川的大草原·2023-08-28 17:38

图像分类之食物分类（NCWU机器学习课程设计）

目录1.实验要求1.任务描述2.数据集说明2.实验分为两块，机器学习和深度学习2.1机器学习方法2.1.1机器学习数据处理2.1.2机器学习训练模型2.1.3机器学习数据分析2.1.4机器学习模型部署2.2
Gosling123456·2023-08-28 06:25

2023华为产品测评官－开发者之声 + ModelArts尝鲜

简介ModelArts是面向AI开发者的一站式开发平台，通过AI开发全流程管理使用户能够智能、高效地创建AI模型和一键模型部署到云、边、端。
ClownMagize·2023-08-27 23:32

端侧智能公司产品学习02：xnor和imagimob

现在的云端AI公司的模式基本集中在软件工具+解决方案（算法API;算法模型部署），硬件+软件服务（芯片+算法）打包的模式端侧公司的模式基本也是如此；今天分析的两家都是提供开发套件+领域内封装AI服务的模式
M_waterwaterwat·2023-08-27 19:10

从嵌入式AI开发工程师招聘看高校人才培养

开发工程师的招聘信息，主要内容如下：嵌入式AI开发工程师职位详情（关键词）cC++ARM开发计算机相关专业通信相关专业嵌入式/单片机开发经验tensorrtrknnascendcl任职要求:1.熟悉嵌入式开发,有AI模型部署经验优先
人工智能教学实践·2023-08-27 07:33

6.跑一下Triton官方教程

1.模型部署首先拉取官方示例代码gitclone--recursivehttps://github.com/triton-inference-server/tutorials.gitcdtutorials
qq_38196982·2023-08-27 01:02

客户说有了PAI-AutoML，一下子可以节约半年开发周期

好不容易生成了算法模型，怎么把模型部署成服务供手机、PC这些终端调用也是困扰开发同学的一大难题。有的时
许此一生·2023-08-25 20:21

机器学习模型部署--打通前后端任督二脉

前言学历与定位近日在某论坛，有网友提问道：搞机器学习是不是要博士或是硕士学历，是不是要求很高，顶会论文？本科生或者更低学历的，是不是就没有机会了？从最近公司的招聘来看，算法工程师的bar确实有在提高。但在某些事业部，仍需要很大的人力来做落地场景。每个人都要找准自己的定位，公司也有它的部门定位。如果是发论文、要在学术界站稳脚跟，给投资人“我们很重视最新技术”的信心，那博士确实很重要。另一个角度，从实
谷粒先生_·2023-08-25 16:31

使用Docker进行模型部署

一、常见的模型部署场景实时的、小数据量的预测应用部署方式：采用python-httpserve应用部署（如flask,fastApi,django），缺点是可能需要跨环境，从Java跨到Python环境实时的
羊羊猪·2023-08-25 12:54

通透解读模型部署端到端大流程——以终为始，以行为知

去年6月份拿到开发板到现在，转眼已经过去大半年了，这个博客11月初就在写，断断续续写到现在。C++部署需要考虑的问题很多，如果只给个简单部署教程的话，就算整理出来，感觉帮助也不大，各位开发时候我遇到的坑，你们也会重新踩一遍。这段时间我一直在思考作为开发者需要的是什么，应该如何安全的使用一套工具，要以何种方式呈现出来，要如何将一件事情清晰的说清楚。草稿改改变变，最后决定以大流程的形式，从量化到C++
小玺玺·2023-08-25 02:41

8个最受欢迎的机器学习部署工具【2023】

本文列出了用于模型部署的最佳工具。帮助你扩展和管理机器学习生命周期
新缸中之脑·2023-08-23 16:13

PaddleRS 1.0.0版本安装

同时，PaddleRS也期望助力投身于产业实践的开发者，便捷地实现从数据预处理到模型部署的全流程遥感深度学习应用。一、安装Pa
hsg77·2023-08-23 13:06

Pytorch-day10-模型部署&推理-checkpoint

模型部署&推理模型部署模型推理我们会将PyTorch训练好的模型转换为ONNX格式，然后使用ONNXRuntime运行它进行推理1、ONNXONNX(OpenNeuralNetworkExchange)
闪闪发亮的小星星·2023-08-22 01:56

探索人工智能 | 模型训练 使用算法和数据对机器学习模型进行参数调整和优化

模型训练一般包含以下步骤：数据收集、数据预处理、模型选择、模型训练、模型评估、超参数调优、模型部署、持续优化。
阿Q说代码·2023-08-21 23:05

Flask模型部署教程？

Flask是一个轻量级的PythonWeb框架，它非常适合用于将机器学习模型部署成实际应用。什么是Flask？Flask是一个PythonWeb应用框架，它允许轻松地构建Web应用程序。
沐尘而生·2023-08-21 06:50

模型训练系列：1、用清华ChatGLM-6B模型部署自己的本地AI助手

最近清华大学开源的ChatGLM-6B语言模型在国际上大出风头，仅仅62亿参数的小模型，能力却很强。很期待他们后续1300亿参数模型130B的发布。为什么一些能力较弱的小模型，这么受追捧？因为ChatGPT、GPT-4虽好，毕竟被国外封锁，而且还要付费，更重要的是，LLM要在各行业提高生产力，很多企业接下来肯定是要自己部署语言模型的，毕竟谁也不敢泄漏自己商业数据给别人的AI去训练，为他人做嫁衣，最
六吨代码·2023-08-19 16:01

flask模型部署教程

搭建pythonflask服务的步骤1、安装相关的包具体参考https://blog.csdn.net/weixin_42126327/article/details/1276422791、安装conda环境和相关包#一、安装conda#1、首先，前往Anaconda官网（https://www.anaconda.com/products/individual）下载适合您的Linux版本的Anac
阿君聊风控·2023-08-19 10:06

AI平台AutoML在哈啰的探索与实践

第三步是把训练好的模型部署到模型平台上面。最后，决策平台会做业务流程的编排。如图是整个平台的产品架构图。上面是各类应用场景，包括智能调度、营销&增长、司乘匹配、基础算法等。
·2023-08-18 16:59

精简CNN模型系列之二：SqueezeNet

作者列举了三项小的CNN模型的优点：可以进行更高效率的分布式训练：在分布式训练中，模型可训练参数变小，意味着用于网络通讯的时间减少，这样整个分布式训练系统就能拥有更高的扩展效率；可更高效地将新训练模型部署至端侧设备
manofmountain·2023-08-18 06:40

基于树莓派与YOLOv3模型的人体目标检测小车（四）

前面几篇文章完成了训练端和部署端的环境搭建以及模型的训练，并经过两次模型转化最终将YOLOv3TINY模型部署在了树莓派上。其实最核心的内容已经完成了，接下来就是一些应用层面的东西了。
凌乱533·2023-08-18 01:08
上一页 5 6 7 8 9 10 11 12 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他