MNN

排列组合数的一些公式

分类计数原理：做一件事，有nn类办法，在第11类办法中有m1m1种不同的方法，在第22类办法中有m2m2种不同的方法，…，在第nn类办法中有mnmn种不同的方法，那么完成这件事共有N=m1+m2+…+mnN

wuming先生·2024-08-25 23:37

NCNN GPU初始化加速——cache实现

其他框架例如MNN有载入cache的方式来进行加速，NCNN目前没有相关接口来实现加速，那么NCNN是否也可以加载cache来实现加速呢？

陈立里·2024-02-08 09:56

手写数字识别从训练到部署全流程详解——模型在Android端的部署

目前市面上基本所有的训练框架训练出来的模型都无法直接在移动端上使用和推理，尽管部分框架同时做了移动端部署功能（如Tensorflow-lite、pytorch-mobile等），但是在性能表现上对比专业的部署框架（如ncnn、mnn

彧侠·2024-02-02 10:59

【深度学习】MNN ImageProcess处理图像顺序，逻辑，均值，方差

文章目录介绍Opencvnumpy等效的MNN处理介绍MNNImageProcess处理图像是先reisze还是后resize，均值方差怎么处理，是什么通道顺序？这篇文章告诉你答案。

XD742971636·2024-01-31 11:03

VS CMAKE链接MNN静态库，使用pybind11生成python接口

pybind11的使用教程已经有很多了，参考https://zhuanlan.zhihu.com/p/93299698，建议使用vcpkg安装pybind11pybind11:x64-windows-static等等库我的接口形式为voidface_handler(py::module&m){py::class_(m,"RFInfer").def(py::init()).def("__call__

qizhen816·2024-01-29 03:15

MNN编译android版本脚本

#!/bin/bash./schema/generate.shexportANDROID_NDK="/home/yw/android_ndk/android-ndk-r18b"rm-rfbuild_androidmkdirbuild_androidcdbuild_androidfunctionbuild_android{mkdir$PREFIXcd$PREFIXcmake../../../-DCM

yuhongjiu·2024-01-25 05:32

鸿蒙使用第三方SO库

一、示例：使用第三方SO库以导入OpenCV和MNN的SO库为例1、将MNN和Opencv的so文件(包括.407文件)，放入模块下libs目录对应的版本(arm64-v8a和armeabi-v7a)entry

neo_尼欧·2024-01-19 07:47

大模型内容分享(二十八)：mnn-llm: 大语言模型端侧CPU推理优化

在大语言模型(LLM)端侧部署上，基于MNN实现的mnn-llm项目已经展现出业界领先的性能，特别是在ARM架构的CPU上。

之乎者也··2024-01-18 12:44

[MNN]vs2019编译MNN x86

打开开始编译cd/path/to/MNNmkdirbuild&&cdbuildcmake-G"NMakeMakefiles"-DCMAKE_BUILD_TYPE=Release..nmake

FL1623863129·2024-01-15 16:34

香橙派--编译MNN报错，关于汇编的嵌套展开

先看报错：/home/orangepi/MNN-master/source/backend/cpu/arm/arm64/bf16/ARMV86_MNNPackedMatMulRemain_BF16.S:

lindsayshuo·2024-01-14 09:44

mnn-llm: 大语言模型端侧CPU推理优化

在大语言模型(LLM)端侧部署上，基于MNN实现的mnn-llm项目已经展现出业界领先的性能，特别是在ARM架构的CPU上。

阿里巴巴淘系技术团队官网博客·2024-01-08 03:48

探索模块化神经网络在现代人工智能中的功效和应用

一、介绍在快速发展的人工智能领域，模块化神经网络(MNN)已成为一项关键创新。与遵循整体方法的传统神经网络架构不同，MNN采用分散式结构。

无水先生·2024-01-04 12:03

移动端模型部署框架

移动端模型部署框架1.MNN整体特点轻量性通用性高性能易用性架构设计主体工具致谢移动端模型部署框架1.MNNhttps://www.yuque.com/mnn/cn/aboutMNN是全平台轻量级高性能深度学习引擎

落花逐流水·2024-01-02 13:54

Microsoft C++ 异常: std::length_error，位于内存位置 0x000000AF9B7AF810 处

mnn运行报错：0x00007FFCFD1C4ED9处(位于mnn_yolo.exe中)有未经处理的异常:MicrosoftC++异常:std::length_error，位于内存位置0x000000AF9B7AF810

AI视觉网奇·2024-01-01 20:54

【AI】模型结构可视化工具Netron应用

支持ONNX,TensorFlowLite,CoreML,Keras,Caffe,Darknet,MXNet,PaddlePaddle,ncnn,MNN

TopFancy·2023-12-22 10:17

conan入门(二十九):对阿里mnn进行Conan封装塈conans.CMake和conan.tools.cmake.CMake的区别

去年写过一篇博客《conan入门(十九):封装第三方开源库cpp_redis示例》，当时通过自己写conanfile.py,实现了对第三方库cpp_redis的conan封装。当时使用的conan1.45.0时过一年多，conan版本也经过了很多次升级，最新的版本是2.x，不过为了保持兼容现在我使用的版本是1.60.0conans.CMakeVSconan.tools.cmake.CMake当时使

10km·2023-12-03 14:38

Int8量化算子在移动端CPU的性能优化

背景MNN对ConvolutionDepthwiseInt8量化算子在ARMV8(64位)和ARMV8.2上的性能做了较大的优化，主要优化方法包括改变数据

阿里巴巴淘系技术团队官网博客·2023-11-26 15:07

pth转onnx转mnn bug总结

pytorch版yolov3转onnx样例importtorchimporttorchvisionimportnumpyasnpfromonnxruntime.datasetsimportget_exampleimportonnxruntimefromonnximportshape_inferenceimportonnximportosfrommodelsimport*img_size=416cf

三寸光阴___·2023-11-17 02:47

深度学习可视化工具：Netron

Netron支持ONNX、TensorFlowLite、Caffe、Keras、Darknet、PaddlePaddle、ncnn、MNN、CoreML、RKNN、MXNet、MindSporeLite

泠山·2023-11-14 23:21

nndeploy：一款最新上线的支持多平台、简单易用、高性能的机器学习部署框架

作为一个多平台模型部署工具，我们的框架最大的宗旨就是高性能以及使用简单贴心，目前nndeploy已完成TensorRT、OpenVINO、ONNXRuntime、MNN、

nudt_qxx·2023-10-26 16:55

管理类联考——数学——汇总篇——知识点突破——数据分析——计数原理——加法原理&减法原理

+mnN=m_1+m_2+...+m_nN=m1+m2+...+mn种不同的方法。(2）理解

fo安方·2023-10-26 07:21

友善之臂NanoPC-T4 RK3399 配置安装TensorFlow2 Pytorch

安卓改Linux避坑3.换源-备份官方源-换国内源--清华源：--华为源（据说很快）：-更新软件列表和升级4.文件传输-U盘传输文件-通过XFTP传输5.远程连接6.安装Mini-forge7.编译安装MNN

Yuuchuin·2023-10-10 19:12

信科算法课课后思考题

https://wenku.baidu.com/view/7c9de809581b6bd97f19ea72.html鹰蛋问题两颗蛋：考虑sqrt(n)的方式逐个扔蛋M颗蛋，N层楼：（1）动态规划，O（MNN

lucia320·2023-10-05 22:19

NBIS系列单细胞转录组数据分析实战（三）：多样本数据整合

Seurat使用单细胞数据综合集成中介绍的数据整合方法，而Scran和Scanpy使用相互最近邻方法（MNN）。以下是用于多样本数据集整合的常用方法：MarkdownLanguageLibraryR

Davey1220·2023-10-05 07:51

ChatGLM 项目集合

ChatGLM-MNN:一个基于MNN的ChatGLM-6BC++推理实现，支持根据显存大小自动分配计算任务给GPU和CPUJittorLLMs：最低3G显存或者没有显卡都可运行

张志翔的博客·2023-09-19 16:00

修改MNN模型参数和节点的方法

最近有需求要更改MNN模型的结构，在网上找了好久，只找到两篇相关的，但是试了一下都没成功。之后我在钉钉群里面问了一下，得到此方法。

星辰辰大海·2023-09-17 08:30

onnx模型修改：将均值和方差放到模型中

有些推理框架会提供对应的接口，我们只需要设置均值和方差即可，如MNN.也有一些框架不提供这样的功能，如Tensorrt，这时，我们就需要自己去逐像素进行这个操作，不仅繁琐，还可能比较耗时。

CodingInCV·2023-09-13 09:51

yolov8-mnn C++部署

本文链接：https://blog.csdn.net/zaibeijixing/article/details/131581809————————————————目录准备工作1、MNN编译2、yolov8

zaibeijixing·2023-09-11 01:22

MNN学习笔记（八）：使用MNN推理Mediapipe模型

1.项目说明最近需要用到一些mediapipe中的模型功能，于是尝试对mediapipe中的一些模型进行转换，并使用MNN进行推理；主要模型包括：图像分类、人脸检测及人脸关键点mesh、手掌检测及手势关键点

MirrorYuChen·2023-08-21 12:56

【水文】基于 MNN 训练能力解方程

【水文】基于MNN训练能力解方程简介许久没上，水篇文章，事由同学想由房贷月还款额推测年利率：月还款额=pow(年利率/12+1,期数)*(年利率/12)*贷款总额/(pow(年利率/12+1,期数)-1

夕阳叹·2023-08-07 19:33

scanpy数据整合批次效应去除原理

引用：葬花朴1.scanpy.external.pp.mnn_correct**第一步：将表达量按细胞进行归一化，计算细胞之间归一化后的Euclidean距离。

云养江停·2023-08-06 17:14

2021-06-29 4、Seurat多组样本数据合并

参考原文https://www.jianshu.com/p/29bccd5178dbscRNA数据校正批次效应的算法有很多：MNN,CCA+MNN,Harmony,Scanorama,scMerge等，

不学无数YD·2023-07-31 15:38

Could not find toolchain file: E:/Git/build/cmake/android.toolchain.cmake问题解决

问题描述在Windows下编译MNN的Android平台时，需要运行.sh文件，那么之后几种方式：在powershell中启动gitbash，但是这个窗口一闪而过，看不清输出的信息，可以通过在脚本中最后一行加入

masteryi-0018·2023-07-25 13:42

【调试】MNN库编译踩坑记录

简述MNN是阿里的推理框架，号称很快，因此要编译试试。

远瞻。·2023-07-24 20:16

淘系专家带你初探端智能与MNN（上篇）

作者|舒会(玄裳)出品|阿里巴巴新零售淘系技术部关注「淘系技术」微信公众号，回复“MNN”即可获取两次直播完整版PPT及视频回放链接；点击下方「阅读原文」获取MNN开源地址，欢迎大家star我们哦~舒会

阿里巴巴淘系技术团队官网博客·2023-07-16 17:25

基于 MNN 在个人设备上流畅运行大语言模型

LLM（大语言模型）因其强大的语言理解能力赢得了众多用户的青睐，但LLM庞大规模的参数导致其部署条件苛刻；在网络受限，计算资源有限的场景下无法使用大语言模型的能力；低算力，本地化部署的问题亟待解决。ChatGLM-6B在60亿参数的情况下做到了优秀的中英文对话效果，且能够支持在消费级显卡本地部署；因此在HuggingFaceTrends上很快登顶。6B的参数量虽然能够做到本地部署，但是目前的实现依

阿里巴巴淘系技术团队官网博客·2023-07-14 11:28

chinese_lite OCR使用教程

目录一、简介二、环境三、项目地址四、使用说明五、各语言的Demo地址六、效果展示一、简介超轻量级中文ocr，支持竖排文字识别,支持ncnn、mnn、tnn推理(dbnet(1.8M)+crnn(2.5M

小小晓晓阳·2023-07-14 09:25

AI 模型编译器 MegCC 开源，解决推理引擎体积问题

目前社区已经有多个移动端深度学习推理框架，如：NCNN、MNN...这些推理引擎都给社区的用户带来了在移动端上部署深度学习非常多的便利，但是他们也都有一个共性问题：随着不断地迭代以及性能优化，运行时库会逐渐的增大

·2023-06-14 18:42

【部署】MNN推理

【参考】Ubuntu下阿里MNN模型的c++读取调用-知乎这篇将整个过程归纳为以下5步：（1）创建Interpreter（2）调度配置ScheduleConfi（3）后端配置BackendConfig（

weixin_50862344·2023-06-12 23:37

【实战】Chatglm微调指引和部署（MNN）

一.Chatglm相对简单，而且微调之后性能比较奇怪，可以参考ChatGLM-6B的部署与微调教程1.1MNN部署https://github.com/wangzhaode/ChatGLM-MNN1.1.1Linux

weixin_50862344·2023-06-12 18:08

【深度学习】yolov7 pytorch模型转onnx，转ncnn模型和mnn模型使用细节

文章目录前言1.前置1.1安装必要的库1.2.pt权重转ncnn和mnn所需要的权重2、编码C++项目1.ncnn2.mnn总结前言yolov7pytorch模型转onnx，转ncnn模型和mnn模型使用细节

weixin_40293999·2023-06-08 22:52

算法常用功能收藏夹

，cd到模型存储文件夹级路径下2.NN模型压缩框架TinyNeuralNetwork/tinynnatmain·alibaba/TinyNeuralNetwork·GitHub3.python转C++MNN

默-言·2023-04-20 22:43

单细胞笔记7-scRNA-seq去除批次效应的方法总结

CCA降维之后细胞在低维空间有了可以度量的“距离”，MNN(mutualnearestneighbor)算法以此找到两个数据集之间互相“距离”最近的细胞，Seurat将这些相互最近邻细胞称为“锚点细胞”

江湾青年·2023-04-16 09:06

目标检测——YOLOv6（十二）

在部署方面，YOLOv6支持GPU（TensorRT）、CPU（OPENVINO）、ARM（MNN、TNN、NCNN）等不同平台的部署，极大地简化工程部署时的适配工作。

Y.Z.Y.·2023-04-12 03:34

车道线检测（二）——使用MNN部署PINet

目录一、MNN简介二、MNN编译三、MNN部署PINet模型pytorch转onnxonnx转mnnmnn部署一、MNN简介是阿里开源的一个轻量级的深度神经网络引擎，支持深度学习的推理与训练，适用于服务器

Mega_Li·2023-04-10 08:25

从端到端打通模型端侧部署流程（MNN）

从端到端打通模型端侧部署流程（MNN）MNN框架：MNN的官方介绍：MNN的架构：问题解决：MNN使用样例:MNN部署：一般流程：创建会话:运行会话:获取输出：流程汇总总结MNN框架：MNN的官方介绍：

KingsMan666·2023-04-10 08:48

【开源项目】模型网络可视化查看器Netron