浮点型精度

机器学习先导课《数值分析》（1）——绪论及误差分析

绪论及误差分析数值分析——绪论及误差分析全文目录数值分析的作用及其学习工具使用数值分析常用工具数值分析的具体实例（多项式简化求值）计算机数值误差产生机理计算机的数值存储方式计算机误差产生原因误差误差限与精度模型误差观测误差截断误差舍入误差有效数字缺失误差的产生和避免误差的传播算法设计的稳定性与病态条件病态问题计算的稳定性练习题
WarrenRyan·2024-08-24 04:28

c语言如何把计算结果保留两位小数

这里就是普通的计算，简单的盘账，核对账面数与实际数的差异，假设实际数是由1000，307.02，20.6组成，简单的浮点数计算是保留6位小数，这里不需要那么高德精度，保留两位小数就可以了，人民币只到分，
冰暮流星·2024-08-23 13:37

了解精密零部件加工制造的关键技术

从高端电子设备到航空航天领域，都离不开高精度的零部件。时利和详细解析了解精密零部件加工制造的关键技术，对于推动工业发展的重要性。高精度的加工设备是实现精密零部件制造的基础。
时利和精密机加工·2024-08-23 07:33

工业定位系统，基于UWB定位技术的定位系统

再者，UWB定位系统的超高精度，定位误差小于10cm，使企业能够很精确的对人员进行监控。最为重要的是，UWB定
项目源码库·2024-08-23 06:54

盘点lv复刻包一般要多少钱一个，复刻lv包包价格一览表

复刻包的价格因其质量、精度和来源的不同而有所差异。下面，让我们来盘点一下复刻LV包包的价格一览。微信:scp4187(下单赠送精美礼品)1.低级复刻LV：价格800元-2800元这种复刻包
美表之家·2024-08-23 00:26

Android 应用集成百度地图定位SDK

其中，百度定位SDK凭借其高精度和丰富的功能。集成百度定位功能到你的Android应用中是一个相对直接的过程，但需要遵循几个关键步骤。参考官方文档：https://lbsyun.baidu
Just_Paranoid·2024-08-22 14:22

48V60V输入DCDC降压恒压芯片电机驱动应用H6205L 稳定量产

产品特征：●内置100V高压MOS●宽压8V-90V输入范围●支持输出电压可调至3.3V●典型的2A持续电流及4A峰值瞬间电流●转换效率高可达95%●超低的待机功耗●输出线损电压补偿●输出电压精度±4%
HH18925796970·2024-08-22 12:40

yolov8 出现loss 为nan

原因：混合精度训练是一种通过同时使用FP16和FP32精度来加速深度学习训练的技术。它可以在不损失模型性能的情况下,显著减少训练时间和内存使用。
qq_wuqingdefeng·2024-08-22 12:38

四：《Python基础语法汇总》— 列表&元组&集合

无需重新开辟空间存储1.下标与切片：列表中也可以应用下标索引和切片，与在字符串中的应用一样创建列表：使用中括号[]将所有准备放入列表中的元素给包裹起来，不同元素之间使用英文逗号隔开列表中可以放入整型，浮点型
温轻舟·2024-08-22 04:48

PL3322B 升级为PC3322C

PL3322C是一款高效率、高集成度、原边调节的电源驱动芯片，PL3322C可去除光耦以及次级控制电路，简化了充电器/适配器等传统的恒流/恒压的设计，高精度的电压和电流调节。
QQ_2169636881·2024-08-22 03:43

【ARM+Codesys 客户案例 】RK3568/A40i/STM32+CODESYS在工厂自动化中的应用：PCB板焊接机

IBLLöttechnikGmbH公司的CM800焊接机（也被称之为“蒸汽锤”）为此提供了完整地解决方案，其中控制单元采用Berghof的DC1012TT大尺寸、高分辨率、高精度彩色显控一体控制器。
深圳信迈科技DSP+ARM+FPGA·2024-08-22 03:39

c/c++ 字符转换为数字(整型、长整型、浮点型)

c/c++字符转换为数字(整型、长整型、浮点型)string/arraytoint/floatC/C++语言提供了几个标准库函数，可以将字符串转换为任意类型(整型、长整型、浮点型等)。
薛文旺·2024-08-22 02:08

C语言float关键字详解

float类型的变量占用4个字节（32位）的内存空间，可以表示的数值范围大约是-3.4E38到3.4E38，精度大约是6到7位有效数字。
嘻嘻爱编码·2024-08-21 23:51

8月22日在线研讨会 | 如何提高仿真测试的真实性和覆盖度

该系统通过实时数据反馈和状态机模型优化（如Reactive-Replay方法），整合多源传感器、驾驶行为和环境数据，构建出高保真度的仿真环境，确保仿真的高精度和高可靠性。
经纬恒润·2024-08-21 22:09

opencv日常学习之approxPolyDP函数和boundingRect函数说明

opencv中利用函数approxPolyDP来对指定的点集进行逼近，其逼近的精度是可设置的对应的函数为：voidapproxPolyDP(InputArraycurve,OutputArrayapproxCurve
adsdriver·2024-08-21 20:55

减震组装对于哪些无人机是必不可少的！你知道吗？

高精度无人机对于需要搭载高精度传感器或进行高精度测量的无人机，如测绘无人机、环境监测无人机等，减震组装是必不可少的。
云卓SKYDROID·2024-08-21 19:52

Golang标准库fmt深入解析与应用技巧

Golang标准库fmt深入解析与应用技巧前言fmt包的基本使用打印与格式化输出函数Print系列函数格式化字符串格式化输入函数小结字符串格式化基本类型的格式化输出自定义类型的格式化输出控制格式化输出的宽度和精度小结错误处理与
walkskyer·2024-03-29 06:38

[高精度加法和乘法] 阶乘之和

题目描述用高精度计算出S=1!+2!+3!+⋯+n!（n≤50）。其中!表示阶乘，定义为n!=n×(n−1)×(n−2)×⋯×1。例如，5!=5×4×3×2×1=120。输入格式一个正整数n。
StudyingPanda·2024-03-29 03:32

Python dict字符串转json对象，小数精度丢失问题

本篇介绍一个float数据转换时精度丢失的案例。
朝如青丝 暮成雪·2024-03-29 01:00

【循环神经网络rnn】一篇文章讲透

目录引言二、RNN的基本原理代码事例三、RNN的优化方法1长短期记忆网络（LSTM）2门控循环单元（GRU）四、更多优化方法1选择合适的RNN结构2使用并行化技术3优化超参数4使用梯度裁剪5使用混合精度训练
CX330的烟花·2024-03-27 04:51

Mysql数据库——数据类型

目录一、数值类型1.整数型2.浮点型(float和double)，近似值3.定点数二、字符串型1.字符串2.char和varchar比较Mysql中定义数据字段的类型对数据库的优化是非常重要的Mysql
一坨小橙子ovo·2024-03-22 07:24

MATLAB中的符号计算是什么？如何使用它？

这对于需要高精度结果的工程和科学计算来说至关重要
爱花的程序·2024-03-22 07:53

demoMySQL（增、删、查、改、列表型、小数型、整型、浮点型、定点型）

desc：查看表结构select*：查询所有数据交互方式1、客户端连接认证：连接服务器、认证身份（mysql.exe-hPup）2、客户端发送SQL指令3、服务器接收SQL指令，并处理SQL指令，返回操作结果4、客户端接收结果，并显示结果5、断开连接MySQL服务器内部对象分成了四层：系统（DBMS）：管理数据库的数据库（DB）：放数据表的数据表（Table）：管理字段的字段（Field）：存放数
清清不快乐·2024-03-20 12:56

Kalman滤波参数、调整原则

缺点就是会让系统变化过快，如果测量值更加不准，则精度会下降，系统不够稳定。2.K与Q、R关系k~Q/(R+Q)P0/(Q+R)，收敛的快慢程度。总结下自
Terry Cao 漕河泾·2024-03-19 09:50

神经网络量化

在深度学习中，神经网络模型通常使用高精度的参数（例如32位浮点数）来表示权重和激活值。
小厂程序猿·2024-03-19 06:45

基于单片机的电梯系统模拟与研究

摘要:随着建筑物规模越来越大，楼层也越来越高，对电梯的调速精度、调速范围等静态和动态特性都提出了更高的要求。由于传统的电梯运行逻辑控制系统采用的是继电器逻辑控制线路。
电气_空空·2024-03-18 09:17

加速 PyTorch 模型预测常见方法梳理

目录1.使用GPU加速2.批量推理3.使用半精度浮点数(FP16)4.禁用梯度计算5.模型简化与量化6.使用TorchScript7.模型并行和数据并行结论在使用PyTorch进行模型预测时，可以通过多种方法来加快推理速度
samoyan·2024-03-17 16:54

基于单片机的光电传感转速测量系统的设计

通过测试表明该系统具有结构简单、所耗成本低，测量精度高、稳定可靠等优点，具有广阔的应用前景。
电气_空空·2024-03-17 06:41

基于单片机的电梯系统模拟与研究

摘要:随着建筑物规模越来越大，楼层也越来越高，对电梯的调速精度、调速范围等静态和动态特性都提出了更高的要求。由于传统的电梯运行逻辑控制系统采用的是继电器逻辑控制线路。
电气_空空·2024-03-16 08:41

Canny详解

它由JohnF.Canny在1986年提出，是一种多阶段的边缘检测算法，具有高精度和低错误率的特点。
kxg916361108·2024-03-15 06:31

新质生产力关注哪些领域

而算力作为支撑人工智能发展的重要基础，也在不断提升，以满足更复杂、更高精度的计算需求。智能驾驶与机器人：这一领域关注自动驾驶汽车、无人机以及各类智能机器人的研发和应用。随着传感器、
安全方案·2024-03-15 02:56

Java异常

解决精度问题BigDecimalBigDecimala=BigDecimal.valueOf(?)
我喜欢你呀！·2024-03-13 14:08

基于深度学习的缺陷检测有哪些应用场景

基于深度学习的缺陷检测在众多领域中都得到了广泛应用，其主要优势在于可以通过学习数据更新参数，避免了人工设计复杂的算法流程，同时拥有极高的鲁棒性和精度。
matlabgoodboy·2024-03-13 11:35

2.8 慢吞吞慢吞吞

但是精度感觉并没有很大提高。。可能是最近说日语不多，反应也没有刚入职的时候快（個人的に）说着说着总感觉自己脑子转不过来或转的很慢。。テレビ見過ぎかな？反省：テレビ見てもいいが、テープアワーやろうよ。
没啥营养的碎碎念·2024-03-11 20:44

显著性目标检测评价指标Smeasure, wFmeasure, MAE, adpEm, meanEm, maxFm

wFmeasure(WeightedF-measure)加权F-measure是精度和召回率的加权平均值，其中精度衡量了分割结果中正确分类的像素数量，而召
一只懒洋洋·2024-03-10 08:34

基础算法 - 快速排序、归并排序、二分查找、高精度模板、离散化数据

文章目录前言Part1：排序一、快速排序二、归并排序Part2：二分一、二分-查找左边界二、二分-查找右边界Part3：高精度一、高精度加法二、高精度减法三、高精度乘法四、高精度除法Part4：离散化一
Calebbbbb·2024-03-06 17:42

《模式识别与机器学习》第一章

β\betaβ：标量，协方差的倒数，表示样本的精度。α\alphaα：标量，同上，曲线拟合例子中的先验的精度。多项式曲线拟合E(w)=12∑n=1N{y(xn,w)−t
CS_Zero·2024-03-06 09:03

MongoDB聚合运算符：$cosh

语法{$cosh:}为可被解析为数值的表达式$cosh返回弧度，使用$radiansToDegrees运算符可以把弧度转换为角度$cosh默认返回双精度数double，如果表达式解析为128-bitdecimal
原子星·2024-03-05 22:48

关系运算符

基本数据类型：整型，字符型，浮点型整型常量
·2024-03-04 13:25

c语言求N分之一序列前N项和

题目保证计算结果不超过双精度范围。
不太爱喝水·2024-03-04 12:04

【自动驾驶】自动驾驶地图构建方法与工具小结

自动驾驶地图构建小结概述制作流程主要利用定位与建图算法（组合导航，视觉、激光SLAM等），融合多种传感器数据，构建高精度、高分辨率的三维语义地图，将要素矢量化，构建要素间的关联关系，通过质检确保质量可靠
CS_Zero·2024-03-02 19:39

02_PHP 数据类型

1.PHP数据类型1.PHP数据类型1.1.String（字符串）1.2.Integer（整型）1.3.Float（浮点型）1.4.Boolean（布尔型）1.5.Array（数组）1.6.Object
VicSong·2024-03-01 03:00

C语言变量

必须通过数据类型来结合使用，在c语言中存在很多的数据类型，例如：char    //字符数据类型short   //短整型int    //整形long    //长整型longlong //更长的整形float   //单精度浮点数
IT二哥·2024-02-28 00:08

MongoDB聚合运算符：$atan2

语法{$atan2:[,]}为可被解析为数值的表达式$atan2返回弧度，使用$radiansToDegrees运算符可以把弧度转换为角度$atan2默认返回双精度数double，如果表达式解析为128
原子星·2024-02-27 10:50

Java基本面试问题（一）

标准回答：Java中的基本数据类型包括整型（int,long,short,byte）、浮点型（float,double）、字符型（char）、布尔型（boolean）。
Zm6Cc·2024-02-26 18:31

防止你的 Web 应用被别人通过 Chrome 开发者工具进行调试的一种简单办法

performance.now()代码中使用了performance.now()方法来获取高精度的时间戳，它返回从某一时间点到当前时间的毫秒数，不受系统时间的影响。
·2024-02-26 14:59

【C++】高精度加减法

前言高精度，是模拟算法的一种。模拟算法，就是模拟我们人类的思考过程进行运算。那么，高精度加减法便是模拟加减法竖式罢了（乘除法以后再写）。我第一次听说高精度时，我还刚会用for循环呢。
·2024-02-26 14:58

神经网络量化

最近在做神经网络的端侧部署，在做端侧部署的时候，为了减少内存压力和加快推理速度，会将单精度(fp32)模型量化成int8或者fp16。
掉毛学渣·2024-02-26 11:53

【深入了解PyTorch】模型优化和加速：PyTorch优化技术与库的应用

深入了解PyTorch】模型优化和加速：PyTorch优化技术与库的应用模型优化和加速：PyTorch优化技术与库的应用模型剪枝（ModelPruning）模型量化（ModelQuantization）混合精度训练
prince_zxill·2024-02-24 07:23

如果对类似汽车这种单体进行建模，围绕一圈拍摄，普通的手机或者相机拍摄的照片有足够的重叠度就能建模吗？不需要专业的设备可以吗？

重建大师是一款专为超大规模实景三维数据生产而设计的集群并行处理软件，输入倾斜照片，激光点云，POS信息及像控点，输出高精度彩色网格模型，可一键完成空三、自动建模和LOD构建。
大势智慧·2024-02-23 10:28
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他