模型部署量化

使用Ollama本地化部署DeepSeek

1、Ollama简介Ollama是一个开源的本地化大模型部署工具，旨在简化大型语言模型（LLM）的安装、运行和管理。

·2025-02-01 16:48

监控易：一体化智能运维在复杂网络环境的架构优势

面对海量设备与复杂的网络结构，传统的监控工具往往难以满足动态化、海量化的需求。监控易以其“一体化智能运维”的产品理念，成为运维领域的优势品牌。

MXsoft618·2025-02-01 13:44

python 求导实现_python – NumPy中的Softmax导数接近0(实现)

这是如何以更加矢量化的numpy方式计算softmax函数的导数的答案.然而,偏导数逼近零的事实可能不是数学问题,并且只是学习率或复杂深度神经网络的已知死亡权重问题.像ReLU这样的图层有助于防止后一问题

非凡运营笔记·2025-01-31 23:22

Python如何获取股票实时行情？有哪些好用的库和工具

Python股票接口实现查询账户，提交订单，自动交易（1）Python股票程序交易接口查账，提交订单，自动交易（2）股票量化，Python炒股，CSDN交流社区>>>Python与股票行情获取的基础Python

股票程序化交易接口·2025-01-31 19:49

搞嵌入式开发，如何才能“小有所成”，获得更高的收入？

开源项目参与2.行业级项目实战3.专利布局三、高价值领域选择1.薪资溢价行业2.技术风口方向四、职业发展加速路径1.认证体系进阶2.收入增长策略3.职场跃迁节点五、持续进化方法论1.技术雷达维护2.工程能力量化

智驾·2025-01-31 19:19

YOLOv10改进策略【注意力机制篇】| EMA 即插即用模块，提高远距离建模依赖（含二次创新）

专栏目录：YOLOv10改进目录一览|涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF

Limiiiing·2025-01-31 17:31

【Numpy核心编程攻略：Python数据处理、分析详解与科学计算】1.18 逻辑运算引擎：数组条件判断的智能法则

1.18逻辑运算引擎：数组条件判断的智能法则1.18.1目录逻辑运算引擎：数组条件判断的智能法则引言短路逻辑的向量化替代方案复合条件表达式的优化编写掩码操作在图像分割中的应用多条件并行评估的性能测试总结参考文献

精通代码大仙·2025-01-31 14:11

基于YOLOv11无人机视角船舶检测系统：项目概述与技术实现

**轻量化设计**4.**实时处理能力**数据准备与模型训练1.**数据集构建**2.**模型训练**系统功能与使用方法1.**实时目标检测**2.**静态图片检测**3.**视频文件处理**4.

qq1309399183·2025-01-31 14:03

H266/VVC 量化编码中量化矩阵 QM 技术

量化矩阵QM量化矩阵（QuantizationMatrixes，QM）的原理是对于不同位置的变换系数使用不同的量化步长进行量化，人眼对高频不敏感对低频敏感，对低频分量进行小步长量化，对高频分量进行大步长量化

码流怪侠·2025-01-31 12:17

趋势交易的经典模型有哪些？

趋势交易的核心在于识别并跟随市场趋势，经典的模型和策略通常结合技术指标、价格形态或量化规则。

人大博士的交易之路·2025-01-31 10:58

书生浦语第五期

基础作业完成以下任务，并将实现过程记录截图：配置lmdeploy运行环境下载internlm-chat-1.8b模型以命令行方式与模型对话视频链接文档链接基础知识学习模型部署在软件工程中，部署通常指的是将开发完毕的软件投入使用的过程

晴斋1216·2025-01-31 06:27

LLM模型部署经验分享

LLM模型部署经验分享作者：大连理工大学李凯首先，你需要选择一个合适的部署平台，这可以是本地服务器、云服务提供商（如AWS、Azure、GoogleCloud等）、边缘设备或者特定的部署服务（如HuggingFaceHub

lewis_kai·2025-01-31 06:56

＜ OS 有关＞阿里云：轻量应用服务器的使用：轻量化阿里云 vpm 主机

原因：＜OS有关＞阿里云：轻量应用服务器的使用：从新开始配置SSH主机名DNSTailscale更新OS安装包最主要是清除阿里云客户端这个性能杀手-CSDN博客防止I/O祸害系统操作：查看进程，删除不必要软件包。aptremovemodemmanageraptremoveudisks2aptremovetunedaptremovepcpaptremovepackagekitaptremovepol

davenian·2025-01-31 06:55

vscode和pycharm对比

现在vscode和pycharm两个编辑器到底哪个好其实这两个的话各有所长vscode这个比较轻量化，启动快速，插件丰富，基本所以神级插件都有，但是调试比较麻烦对于小白来说有一定的难度但这个用起来是非常舒服的

hack（卧龙）·2025-01-31 06:54

使用shell将zip, rar压缩包压缩到同目录的文件夹中

今天在研究压缩包解压的时候，发现批量化处理相关的脚本还是挺少的。和大家分享下如何快速用shell识别不同压缩包并在同名目录下解压缩。

ミッタン·2025-01-30 12:52

网易有道开源 “子曰 - o1” 推理模型

低比特量化技术：该模型使用低比特量化技术，在不影响模型推理能力的前提下，对模型数据进行量化处理，减少数据存储和计算所需的空间和资源，进

timer_017·2025-01-30 07:19

Torchserve服务开发

handler开发1.1.1.context参数1.1.2.data参数1.2.handler调试2.配置文件3.batch推理0.Torchserve介绍0.1.背景TorchServe是PyTorch中推荐的模型部署解决方案

qq_27844739·2025-01-30 04:26

【书生·浦语大模型实战营】学习笔记（五）：LMDeploy 量化部署

GoAI·2025-01-30 03:18

0. 金融资产组合模型进化全图鉴

目录0.前言0.1专栏主旨0.2本文主旨1.资产组合模型进化路线2.资产组合模型量化回测实现3.金融量化难点通俗解释0.前言0.1专栏主旨本专栏【金融资产组合模型进化论】以马科维茨资产组合模型为起点，带领读者一步步感受

AI量金术师·2025-01-29 21:59

免费期货量化交易软件有哪些？各自有何特色和优势？

Python股票接口实现查询账户，提交订单，自动交易（1）Python股票程序交易接口查账，提交订单，自动交易（2）股票量化，Python炒股，CSDN交流社区>>>常见免费期货量化交易软件类型传统券商类软件附带功能一些传统券商提供的交易软件开始融入量化交易功能

股票程序化交易接口·2025-01-29 20:54

量化交易接口申请的流程复杂吗？需要满足哪些条件才能顺利申请

Python股票接口实现查询账户，提交订单，自动交易（1）Python股票程序交易接口查账，提交订单，自动交易（2）股票量化，Python炒股，CSDN交流社区>>>量化交易接口是连接量化交易系统与金融市场的桥梁

股票程序化交易接口·2025-01-29 18:06

大模型部署工具 llama.cpp 介绍与安装使用

1.大模型部署工具llama.cpp大模型的研究分为训练和推理两个部分。训练的过程，实际上就是在寻找模型参数，使得模型的损失函数最小化，推理结果最优化的过程。

大模型柳儿·2025-01-29 18:03

华泰证券开户有哪些优惠活动？开户流程是否简便快捷？

炒股自动化：申请官方API接口，散户也可以python炒股自动化（0），申请券商API接口python炒股自动化（1），量化交易接口区别Python炒股自动化（2）：获取股票实时数据和历史数据Python

财云量化·2025-01-29 18:30

MATLAB中的矩阵索引

矢量化意味着使用MATLAB的语法结构替代循环这一语法，能够使程序运行得更快、更具有可读性。当今大多数向量化的技术，许多

yyytucj·2025-01-29 13:27

空间权重矩阵——理论介绍（第一期）

空间权重矩阵（SpatialWeightMatrix）是一个矩阵，用于量化地理单元之间的相互影响。矩阵中的每个元素表示两个地理单元之间的空间联系强度。

我也可以是流浪诗人584·2025-01-29 10:45

通达信实时行情API的功能有哪些？如何利用这些功能进行股票分析

Python股票接口实现查询账户，提交订单，自动交易（1）Python股票程序交易接口查账，提交订单，自动交易（2）股票量化，Python炒股，CSDN交流社区>>>行情数据获取功能通达信实时行情API

股票程序化交易接口·2025-01-29 09:39

DeepSeek是由杭州深度求索人工智能基础技术研究有限公司（简称“深度求索”）发布的一系列人工智能模型

一、公司背景与核心理念DeepSeek的母公司深度求索由幻方量化在2023年4月创立。幻方量化是国内量化私募领域的巨头之一，管理规模庞大。DeepSeek的

大霸王龙·2025-01-29 07:50

深入解析ncnn::Net类——高效部署神经网络的核心组件

在移动端和嵌入式设备上进行高效的神经网络推理，要求框架具备轻量化、高性能以及灵活的扩展能力。作为腾讯开源的高性能神经网络推理框架，ncnn在这些方面表现出色。

又吹风_Bassy·2025-01-29 03:13

python、JAVA等多种语言演示免费获取股票数据（实时数据、历史数据、CDMA、KDJ等指标数据）配有股票数据API接口说明文档说明

近一两年来，股票量化分析逐渐受到广泛关注。而作为这一领域的初学者，首先需要面对的挑战就是如何获取全面且准确的股票数据。

Eumenides_max·2025-01-29 00:46

LLM架构与优化：从理论到实践的关键技术

架构与优化：从理论到实践的关键技术”文章信息摘要：文章探讨了大型语言模型（LLM）开发与应用中的关键技术，包括Transformer架构、注意力机制、采样技术、Tokenization等基础理论，以及模型部署

XianxinMao·2025-01-28 20:14

【如何获取股票数据05】Python、Java等多种主流语言实例演示获取股票行情api接口之沪深A股最新分时MA数据获取实例演示及接口API说明文档

码农蝶澈·2025-01-28 07:12

【如何获取股票数据01】Python、Java等多种主流语言实例演示获取股票行情api接口之沪深A股实时交易数据获取实例演示及接口API说明文档

Eumenides_max·2025-01-28 06:36

[日记]轻量回测框架 Backtesting.py 与 Streamlit集成

如下图：同时提供常用的收益和风险指标数据作为量化分析的参考。

·2025-01-27 18:11

python在统计专业的应用_Python在计量经济与统计学中的应用

随后还将陆续推出统计学习在在量化金融中的应

weixin_39851457·2025-01-27 06:49

开发者实战 | OpenVINO™ 协同 Semantic Kernel：优化大模型应用性能新路径

杨亦诚作为主要面向RAG任务方向的框架，SemanticKernel可以简化大模型应用开发过程，而在RAG任务中最常用的深度学习模型就是Embedding和Textcompletion，分别实现文本的语义向量化和文本生成

OpenVINO 中文社区·2025-01-27 04:08

Meta Llama 3 使用 Hugging Face 和 PyTorch 优化 CPU 推理

在本文中，我们将重点讨论如何执行只权重量化（WOQ）来压缩8B参数模型并改

lichunericli·2025-01-27 00:37

Qwen1.5：使用VLLM加速推理模型（包含：OpenAI如何调用）

使用以下命令安装：pipinstallvllm==0.3如果你需要使用GPTQ-int8量化模型，那么应该安装0.4或更高版本：pipinstallvllm>=0.4启动模型服务在安装完毕后，可以通

写bug如流水·2025-01-27 00:06

一种高胜率的交易系统：均值回归交易策略

引言在量化交易领域，‌均值回归交易策略是一种基于价格将回归到平均值这一假设的交易方法‌。

·2025-01-26 21:14

掌控波动：如何通过资金费率套利锁定稳定收益

引言：在加密货币交易市场中，资金费率（FundingRate）是连接现货市场与合约市场的重要机制之一，也是量化交易中常用的套利工具。

·2025-01-26 16:06

pytorch torch.vmap函数介绍

torch.vmap是PyTorch提供的一个高效矢量化映射函数，用于对批量数据上的操作进行自动矢量化。它可以显著提高代码的性能和可读性，避免显式使用循环来操作批量数据。

qq_27390023·2025-01-26 16:05

sklearn模型评估全景：指标详解与应用实例

scikit-learn（简称sklearn）提供了一套全面的模型评估工具，帮助开发者量化模型的准确性、健壮性和其他重要特性。

2402_85758936·2025-01-26 10:23

个人KPI与GTD之间为什么怎么像

KPI的定义KPI是关键绩效指标，通过对组织内部流程的关键参数进行设置、取样、计算、分析，衡量流程绩效的一种目标式量化管理指标。KPI的主要作

小Mie不吃饭·2025-01-26 10:50

一键获取每日股票数据，自动更新，尽在掌握

用Python和Tushare库获取股票日线数据在金融市场分析中，获取股票的历史数据是进行技术分析和量化投资的基础。

舔狼·2025-01-26 05:12

【Matlab高端绘图SCI绘图模板】第05期绘制高阶折线图

y轴用于量化的数据，如果为负值则绘制于y轴下方。连线用于连接两个相邻的数据点。折线图用于分析事物随时间或有序类别而变化的趋势。如果有多组数据，则用于分析多组数据随时间变化或有序类别的相互作用和影响。

小熊科研路（同名GZH）·2025-01-26 04:35

商业航天更青睐哪些芯片

以低成本、批量化、快速部署的低批快三要素构成，更像是作为“日常消费品”概念的具体化，所以风险容忍度相对更高。伴随商业航天的蓬勃发展

forgeda·2025-01-26 02:11

KNOWLEDGE UNLEARNING FOR MITIGATING PRIVACY RISKS IN LANGUAGE MODELS

绒绒毛毛雨·2025-01-26 02:10

分享wind量化交易平台接口编程代码

相信做股票投资的的人对于wind应该很熟悉，它是一个比较高端的金融数据服务商，有很多人做数据分析之前，一定都需要到wind上看看相关资料，但是wind上面的信息非常多，如果可以通过量化交易接口进行筛选，

「已注销」·2025-01-26 00:27

证券量化交易选择合适的编程语言

在证券量化交易中，选择合适的编程语言至关重要，因为它直接影响到开发效率、运行速度和策略的灵活性。常用的编程语言有几个，它们各自有不同的优势和应用场景。

jcsx·2025-01-26 00:24

Python量化金融都需要用到哪些库？最全汇总

今天分享一篇Python量化金融最全汇总，推荐大家收藏～记得划到文末点赞呐～本文汇总了定量金融的大量三方库，按功能进行分类，覆盖数值运算，衍生品定价，回溯检验，风险管理，数据爬取，可视化等多个子领域，供每个

中年猿人·2025-01-25 19:51

如何获取股票行情数据接口？有哪些可靠的途径与方法？