模型运维应用性能

构建企业私有RAG大模型: (可商用)Qwen2.5开源模型vLLM部署及示例

本章将继续探讨开源大模型的部署。在RAG系统的架构中，大模型扮演着至关重要的角色，是整个流程的“最后一环”。知识库的构建、检索，以及知识的排序与整合，都是为了为大模型提供准确、完整的上下文知识。
小敢摘葡萄·2025-01-22 16:17

昇腾910-PyTorch 实现 GoogleNet图像分类

PyTorch实现GoogleNet用于图像分类本实验主要介绍了如何在昇腾上，使用pytorch对经典的GoogleNet模型在公开的CIFAR10数据集进行分类训练的实战讲解。
·2025-01-22 16:34

卓越效能，极简运维，体验云上的Serverless架构，领取转轮日历！

技术解决方案【CloudUp挑战赛】」上线了！业务的持续稳定可服务，决定着企业对客户的服务质量，是企业发展的基础。应用部署的高可用架构和弹性能力对于业务的稳定与发展起着至关重要的作用，但企业同时需要考虑资源维护成本和费用成本。本方案采用云上的Serverless架构，整合了专有网络VPC、应用型负载均衡ALB、Serverless应用引擎以及PolarDBMySQL版Serverless数据库服务
·2025-01-22 16:34

极客说｜Phi-4 模型的 4 位量化与 vLLM 高速推理

Phi-4的模型参数量是14B，这使它在推理的时候比较耗费内存。因此如果我们想要在边缘端运行，需要对它进行量化。量化的手段很多，此前也介绍过，
·2025-01-22 16:00

Cursor 收费太贵？3分钟教你接入超低价 DeepSeek-V3，代码质量逼近 Claude 3.5

DeepSeek-V3实在是太便宜了，就跟不要钱似的：每百万输入tokens0.1元(缓存命中)/1元(缓存未命中)，每百万输出tokens2元跟其他模型相比，DeepSeek-V3的性价比非常高，只能用
·2025-01-22 16:59

内附源码｜头部基模企业信赖之选——DMS+Lindorm智能搜索方案

1、智能搜索成为信息消费的趋势近两年，AI大模型的迅速崛起为搜索产品注
·2025-01-22 16:58

linux运维--常用命令

linux基础命令笔记01解藕whatwherewhenwhichwhy运维开发工程师开发运维工具history!n:查看执行！
神慕蔡蔡·2025-01-22 16:11

美国采取行动扩大人工智能出口限制

大幅拓展限制：美国政府（拜登执政末期提出）出台新规，显著扩大人工智能技术出口限制，构建针对先进芯片与模型获取的国际分级体系。出口限制范围：对多数国家限制出口人工智能芯片与模型，仅少数亲密盟友除外。
数据分析能量站·2025-01-22 16:08

MySQL-事务隔离级别与MVCC

系统研发我希望将自己工作和学习中的经验以最朴实，最严谨的方式分享给大家，共同进步写作不易，期待大家的关注和点赞关注微信公众号【技术探界】前言本篇文章首先会对数据库事务的几个基础概念进行说明，主要是事务ACID模型
·2025-01-22 15:24

Python 调用 Ollama 库：本地大语言模型使用详解

ollama是一个用于调用本地大语言模型（LargeLanguageModels，LLMs）的Python库，旨在提供简单、高效的API接口，以便开发者能够方便地与本地的大语言模型进行交互。
kdayjj966·2025-01-22 15:05

卓越效能，极简运维，体验云上的Serverless架构，领取转轮日历！

技术解决方案【CloudUp挑战赛】」上线了！业务的持续稳定可服务，决定着企业对客户的服务质量，是企业发展的基础。应用部署的高可用架构和弹性能力对于业务的稳定与发展起着至关重要的作用，但企业同时需要考虑资源维护成本和费用成本。本方案采用云上的Serverless架构，整合了专有网络VPC、应用型负载均衡ALB、Serverless应用引擎以及PolarDBMySQL版Serverless数据库服务
·2025-01-22 15:53

Linux日常运维-history

作者介绍：简历上没有一个精通的运维工程师。希望大家多多关注作者，下面的思维导图也是预计更新的内容和当前进度(不定时更新)。
dessler·2025-01-22 15:04

华为E9000刀箱（HWE9000V2）服务器硬件监控指标解读

本文将基于监控易对华为E9000刀箱的监控指标进行解读，帮助运维团队更好地理解和应用这些监控功能。一、监控易简
MXsoft618·2025-01-22 15:32

AI大模型行业发展五大趋势

趋势一：大收敛与大分流，基础大模型向科技巨头收拢，而专业垂类模型“百花齐放”如果说2023年的大模型行业还主要是初创企业的天下，那么2024年最显著的特征之一即是互联网大厂加速入局，行业的水已被搅浑。
大模型.·2025-01-22 15:30

安全运维：入侵检测与防御实战指南

在当今的互联网时代，网络安全已经成为企业和个人都必须重视的关键问题之一。黑客攻击、恶意软件、数据泄露等威胁不断增加，而入侵检测和防御技术是保障信息系统安全的核心手段。本文将围绕如何通过入侵检测（IntrusionDetectionSystem,IDS）和防御技术来保护网络环境展开，结合实际代码示例，详细讲解实现原理与防御方案。1.什么是入侵检测与防御？入侵检测系统（IDS）是监控计算机网络或系统活
Echo_Wish·2025-01-22 14:26

Multi-Head Latent Attention: Boosting Inference Efficiency

ContentsIntroductionMethodLow-RankKey-ValueJointCompressionDecoupledRotaryPositionEmbeddingReferencesIntroduction作者提出Multi-headLatentAttention(MLA)，通过将KV压缩为CompressedLatentKV，在减小KVcache的同时保持模型精度
连理o·2025-01-22 14:56

Runway 推出全新 AI 图像生成器 Frames

Runway全新图像生成器Frames简介著名的文生视频模型平台Runway发布了全新的AI图像生成器——Frames。这一模型于2024-11-27被发布出来，为图像生成领域带来了新的活力与可能。
百态老人·2025-01-22 14:26

Minimax 开源的 4 百万超长上下文模型

MiniMax开源4百万超长上下文模型MiniMax开源模型概述2025年1月15日，MiniMax发布并开源了MiniMax-01全新系列模型，这一举措在人工智能领域引发了广泛关注。
百态老人·2025-01-22 14:26

多头潜在注意力（MLA）是怎么来的，什么原理，能用简单的示例解释么

多头潜在注意力（Multi-HeadLatentAttention，简称MLA）是一种改进的注意力机制，旨在提高自然语言处理（NLP）模型的推理效率和性能。
百态老人·2025-01-22 14:55

DeepSeek-V2

DeepSeek-V2是由幻方量化旗下的AI公司DeepSeek发布的第二代MoE（Mixture-of-Experts）大模型，具有显著的性能和成本优势。
百态老人·2025-01-22 14:55

AI人工智能深度学习算法：高并发场景下深度学习代理的性能调优

特别是在自然语言处理、图像识别、语音识别等领域，深度学习模型的性能已经超越了传统方法。为了更好地将深度学习技术应用于实际场景，深度学习代理应运而生。
AI天才研究院·2025-01-22 14:54

从0到1打造企业AI知识库-课程目录

2.AI在知识库中的作用AI赋能的核心技术：NLP、知识图谱、大模型。AI知识库的未来趋势与行业案例。第二章：搭建企业知识库的整体规划3.从需求分析到方案设计识别业务场
MaxCode-1·2025-01-22 14:53

语义缓存：提升 RAG 性能的关键策略

检索增强生成（Retrieval-AugmentedGeneration，简称RAG）（RAG综述：探索检索增强生成技术的多样性与代码实践）技术已经成为构建高性能AI模型的重要基石。
大模型之路·2025-01-22 13:50

零门槛一键生成PPT，利用人工智能快速提高办公效率（无需第三方插件）

它是基于人工智能技术的语言模型，能够理解和生成自然语言。与传统的PPT制作方式不同，ChatGPT通过与你进行对话，理解你的需求和要点
beautycountry88·2025-01-22 13:49

53.Model理解

在MVVM架构的Model层中，我们主要定义的是数据模型（或称为实体类），这些类通常与应用程序中的实际业务对象相对应。
军训猫猫头·2025-01-22 13:17

汽车和工业用激光雷达行业分析

激光雷达通过脉冲激光照射目标并用传感器测量反射脉冲返回时间来测量目标距离，能够生成高分辨率的地图和三维模型。
LPiling·2025-01-22 13:16

GPUStack使用

gpustackOpen-sourceGPUclustermanagerforrunninglargelanguagemodels(LLMs)https://github.com/gpustack/gpustack，ManageGPUclustersforrunningAImodelsGPUStack是一个用于运行AI模型的开源
James506·2025-01-22 12:15

Python中实现多层感知机（MLP）的深度学习模型

深度学习已经成为机器学习领域的一个热门话题，而多层感知机（MLP）是最基础的深度学习模型之一。在这篇教程中，我将向你展示如何使用Python来实现一个简单的MLP模型。什么是多层感知机（MLP）？
Echo_Wish·2025-01-22 12:43

深度学习-92-大语言模型LLM之基于langchain的模型IO的模型调用

文章目录1Model的输入输出2langchain支持的模型3调用Ollama模型3.1设置环境变量3.2大语言模型LLM(OllamaLLM)3.2.1生成文本补全3.2.2流式生成文本补全3.3聊天模型
皮皮冰燃·2025-01-22 12:10

增强大型语言模型（LLM）可访问性：深入探究在单块AMD GPU上通过QLoRA微调Llama 2的过程

EnhancingLLMAccessibility:ADeepDiveintoQLoRAThroughFine-tuningLlama2onasingleAMDGPU—ROCmBlogs基于之前的博客《使用LoRA微调Llama2》的内容，我们深入研究了一种称为量化低秩调整（QLoRA）的参数高效微调（PEFT）方法。本次重点是利用QLoRA技术在单块AMDGPU上，使用ROCm微调Llama-2
109702008·2025-01-22 11:35

走进DevOps：让开发与运维齐头并进

引言：开发与运维的“世纪和解”还记得那些年，开发人员总是埋头写代码，然后甩手交给运维去部署，仿佛是把热山芋扔给别人。
大梦百万秋·2025-01-22 11:35

AI Agent：深度解析与未来展望

（二）技术突破2017年后，大语言模型（LLM）的出现推动了AIAg
码事漫谈·2025-01-22 11:34

【深度学习基础】线性神经网络 | softmax回归的简洁实现

【作者主页】FrancekChen【专栏介绍】⌈⌈⌈PyTorch深度学习⌋⌋⌋深度学习(DL,DeepLearning)特指基于深层神经网络模型和方法的机器学习。
Francek Chen·2025-01-22 11:34

【人工智能】Python常用库-Keras：高阶深度学习 API

Keras：高阶深度学习APIKeras是一个高效、用户友好的深度学习框架，作为TensorFlow的高级API，支持快速构建和训练深度学习模型。它以模块化、简单和灵活著称，适合研究和生产环境。
IT古董·2025-01-22 11:33

腾讯 Hunyuan3D-2： 高分辨率3D 资产生成

无论是游戏开发、影视制作还是虚拟现实领域，高质量的3D模型和纹理都是创造沉浸式体验的关键。然而，传统的3D资产制作往往需要大量的时间和专业技能。
云樱梦海·2025-01-22 11:33

小土堆学习笔记10（利用GPU训练于模型验证）

训练GPU可优化操作如下操作方法1方法2数据获取判断是否可以使用GPU，如果可以直接model.cuda()先设定device，用的时候直接model.to（“device”）损失函数1.1利用以前实战模型训练
干啥都是小小白·2025-01-22 11:03

【大模型应用开发 动手做AI Agent】AutoGen

【大模型应用开发动手做AIAgent】AutoGen关键词：自动生成(AutoGeneration)AI代理(Agent)大型语言模型AutoGen框架自定义任务生成1.背景介绍1.1问题的由来在当今的
AI大模型应用之禅·2025-01-22 11:02

【Node.js]

一、概述Node.js是一个基于ChromeV8引擎的JavaScript运行环境，使用了一个事件驱动、非阻塞式I/O模型，让JavaScript运行在服务端的开发平台，它让JavaScript成为与PHP
ADFVBM·2025-01-22 11:00

python3.6 split用法_对sklearn的使用之数据集的拆分与训练详解(python3.6)

主要演示大致的过程：导入->拆分->训练->模型报告以及几个重要问题：①标签二值化②网格搜索法调参③k折交叉验证④增加噪声特征(之前涉及)fromsklearnimportdatasets#从cross_validation
weixin_39849054·2025-01-22 10:57

Moretl FileSync增量文件采集工具

,SMB协议存在的安全性,兼容性的问题.同时,我们发现工厂设备日志一般为增量,为方便MES,QMS等后端系统直接使用数据,我们推出了增量采集功能.另外,我们具备从管理界面直接管理所有采集客户端,使整体运维工作更加高效简单
Moretl·2025-01-22 10:55

第十九周：SSD（Single Shot MultiBox Detector）

Abstract1引言2SSD框架2.1设计理念2.2训练2.3预测3创新与不足总结参考摘要本篇博客介绍了SSD（SingleShotMultiBoxDetector），这是一种基于全卷积网络的单阶段目标检测模型
L-含光承影·2025-01-22 10:52

Java中的响应式编程与Reactor框架

在Java领域，Reactor框架作为响应式编程的代表，提供了强大的工具和模型来简化并发编程和异步数据流处理。
微赚淘客机器人开发者联盟@聚娃科技·2025-01-22 10:52

AIGC视频生成模型：Meta的Emu Video模型

本文详细介绍Meta的视频生成模型EmuVideo，作为Meta发布的第二款视频生成模型，在视频生成领域发挥关键作用。
好评笔记·2025-01-22 10:21

swift withCheckedContinuation相关使用

```cssclasstest112:NSObject{enumMErr:Error{caseserverError(String)}/*withCheckedContinuation是Swift并发模型中的一个重要工具
书弋江山·2025-01-22 09:51

字节跳动发布全新 AI 编程工具 Trae，近屿智能培养 AIGC 专业人才

它整合了GPT-4o和Claude-3.5-Sonnet等顶级AI模型，支持多模态输入，能够迅速响应
OJAC近屿智能·2025-01-22 09:20

Swift语言的多线程编程

Swift语言的多线程编程在现代软件开发中，多线程编程是提高应用性能和响应速度的重要手段。尤其是在iOS和macOS开发中，由于用户界面(UI)的交互性和复杂性，合理利用多线程可以极大地提升用户体验。
Code侠客行·2025-01-22 09:49

一文洞悉AI技术架构：大模型、智能体与应用场景

从能与人对话的大语言模型到自动驾驶、精准医疗，AI的背后究竟隐藏着怎样的技术奥秘？本篇文章将为您深度剖析一套先进的AI技术架构，从基础设施到应用层，每一层都充满了惊喜和启发。
大模型玩家·2025-01-22 09:18

Transformer模型全面解析：工作原理、应用与未来展望*

概述：深入探讨Transformer模型的工作原理，分析其在NLP领域的应用场景，并展望其未来发展趋势。本文为您提供关于Transformer模型的全面指南。
泰山AI·2025-01-22 09:46

使用 `trim_messages` 优化聊天消息长度

在使用聊天模型进行对话时，每个模型都有其有限的上下文窗口，限制了能够接收的最大文本长度。因此，在处理长消息或持续累积的聊天记录时，我们需要有效管理消息的长度。
srudfktuffk·2025-01-22 08:15

使用 GPT-crawler 构建 RAG 应用的完整指南

随着生成式AI技术的迅猛发展，如何高效地利用GPT模型进行信息抽取和知识增强（RAG:Retrieval-AugmentedGeneration）成为了开发者关注的焦点。
sagvWSRJHMNEB·2025-01-22 08:14
上一页 5 6 7 8 9 10 11 12 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他