单卡4090跑大模型

缓存：节省使用大模型的成本

大模型显然就是一个低速服务，甚至比普通的服务还要慢。为了改善大模型的使用体验，人们已经做出了一些努力，比如采用流式响应，提升第一个字出现在用户面前的速度。缓存，显然是另外一个可以解决大模
雪碧没气阿·2025-03-17 21:49

【大模型实战篇】使用GPTQ量化QwQ-32B微调后的推理模型

量化能将模型权重从高精度（如FP32）转换为低精度（如INT8/FP16），内存占用可减少50%~75%。低精度运算（如INT8）在GPU等硬件上计算效率更高，推理速度可提升2~4倍。
源泉的小广场·2025-03-17 21:19

从零开始学习鸿蒙系统

就是大哥大。-2G时代：1996年到1997年出现了第二代GSM、CDMA等数字制式手机，增加了接收数据的功能。2G不仅可以通话，还可以数据收发的功能，最开始的速度只有9K/S。
Ning.L·2025-03-17 21:18

pytorch中的DataLoader

在PyTorch中，DataLoader是一个工具类，用于高效地加载数据并准备数据输入到模型中。它支持数据的批量加载、随机打乱、并行加载和迭代操作，是训练深度学习模型的关键组件之一。
朋也透william·2025-03-17 21:48

机器学习中输入输出Tokens的概念详解

随着深度学习技术的快速发展，大语言模型（LargeLanguageModels,LLMs）已经成为自然语言处理（NLP）领域的一个热点研究方向。
爱吃土豆的程序员·2025-03-17 21:17

Linux如何查询文件及文件夹大小

查看当前目录下各文件、文件夹的大小，这个比较实用du-h-max-depth=1*查询当前目录总大小du-sh3.最大文件夹倒叙和正序du-s*|sort-rn从小到大按字节排序du-sh*sort-n
大数据侠客·2025-03-17 21:47

pytorch 天花板级别的知识点 你可以不会用 但是不能不知道

PyTorch的高级知识涵盖了从模型优化到分布式训练的广泛内容，适合已经掌握基础知识的开发者进一步提升技能。
小赖同学啊·2025-03-17 21:17

【GPT入门】第24课 langfuse介绍

GPT入门】第24课langfuse介绍1.langfuse概念与作用2.代码3.页面效果4.设计模式1.装饰器模式2.上下文管理模式1.langfuse概念与作用Langfuse是一款专为大规模语言模型
*星星之火*·2025-03-17 21:16

Pytorch Dataloader入门

utils/data/dataloader.py#L71PytorchDatasettutorial:tutorials/beginner/basics/data_tutorial.html理论：在训练模型时
gy-7·2025-03-17 21:16

【深度学习基础】第二十四课：softmax函数的导数

我们只需关注输出层即可，其余层和之前介绍的二分类模型一样，不再赘述。我们先考虑只有一个样本的情况
x-jeff·2025-03-17 21:15

大模型RAG实战｜混合检索：BM25检索+向量检索的LlamaIndex实现

ThinkRAG大模型RAG实战系列文章，带你深入探索使用LlamaIndex框架，构建本地大模型知识库问答系统。
AIGC大模型 吱屋猪·2025-03-17 21:45

AI如何创作音乐及其案例

AI创作音乐主要有以下几种方式：基于深度学习的生成模型深度神经网络：通过大量的音乐数据训练，让AI学习音乐的结构、旋律、和声、节奏等特征。
alankuo·2025-03-17 21:44

音视频缓存数学模型

2024年8月的笔记音视频缓存数学模型-Wesley’sBlog播放器作为消费者，缓存作为生产者。
锋风Fengfeng·2025-03-17 21:13

LLM-PowerHouse: 一站式大型语言模型定制训练与推理指南

LLM-PowerHouse:解锁大型语言模型的潜力在人工智能和自然语言处理领域,大型语言模型(LargeLanguageModels,LLMs)正在掀起一场革命。
Nifc666·2025-03-17 21:43

深入理解C++编程：从内存管理到多态与算法实现

本文将通过一系列经典问题，深入探讨C++的核心知识点，包括内存管理、多态（结合函数重载与覆盖）、多线程、TCP/IP模型、软链接与硬链接的区别，以及常见算法实现。
嵌入式Jerry·2025-03-17 21:43

外包工作：不只是赚钱，更是人生的加油站

今天，让我们一起来聊聊外包工作带来的三大机遇。
心灵星图·2025-03-17 21:12

输入：0.5元/百万tokens（缓存命中）或2元（未命中） 输出：8元/百万tokens

这句话描述了一种定价模型，通常用于云计算、API服务或数据处理服务中，根据资源使用情况（如缓存命中与否）来收费。
杏花春雨江南·2025-03-17 20:12

【sklearn 01】人工智能概述

这是一个非常大的范围，长远目标是让机器实现人工智能，但目前我们仍处在非常初始的阶段，甚至不能称为智能机器学习是指通过数据训练出能完成一定功能的模型，是实现人工智能的手段之一，也是目前最主流的人工智能实现方法深度学习则是机器学习的分支
@金色海岸·2025-03-17 20:41

【sklearn 05】sklearn功能模块

sklearn功能模块分类：识别某个对象属于那个类别回归：预测与对象相关联的连续值属性聚类：将相似对象自动分组降维：减少要考虑的随机变量的数量模型选择：比较、验证、选择参数和模型预处理：特征提取和归一化
@金色海岸·2025-03-17 20:41

【sklearn 07】sklearn工艺流程

01数据的获取02数据预处理03特征的提取04特征的选择05模型的训练06模型的评估07模型的优化
@金色海岸·2025-03-17 20:41

[小白学大模型]dify-终于用mac intel跑起了大模型

其直观的界面结合了AI工作流、RAG管道、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。
码农丁丁·2025-03-17 20:41

C/C++每日一练：实现冒泡排序

给定一个由n个整数组成的数组，要求通过冒泡排序对数组从小到大进行排序。输入：一个整数数组，长度为n，数组中的元素可能是正数或负数。输出：按照升序排序后的数组。做题思路冒泡排序是一种简单直观的排序算法。
風清掦·2025-03-17 20:10

深入浅出分布式事务原理

一、Seata四大事务模式详解模式实现机制事务一致性业务侵入性适用场景AT数据库本地事务+Undo日志+二阶段提交最终一致性无侵入电商、订单等高性能要求TCCTry-Confirm-Cancel强一致性强业务侵入金融支付
梵高的猪v·2025-03-17 20:40

组织效能突围战：从人效洼地到行业标杆（上）

本文将通过六大模块
·2025-03-17 20:52

第二十五篇 SQL优化杀手锏：用分析函数让你的查询快如闪电

目录一、初识分析函数：外卖骑手的一天1.1真实工作场景二、分析函数三板斧（超直观对比表）三、手把手教学：5大核心函数详解️3.1排名三剑客（班级成绩单案例）3.1.1ROW_NUMBER()：唯一学号式排名
随缘而动，随遇而安·2025-03-17 20:09

第十一篇 SQL高级处理：窗口函数和GROUPING运算符，看这篇就够了

1.2三大排名函数对比（附生活案例）1.3累计统计：你的工资今年涨了多少？
随缘而动，随遇而安·2025-03-17 20:39

第三篇 从入门到专业：SQL标准语法详解与高效编码规范指南

二、SQL三大语句类型（附记忆口诀）2.1DDL（数据定义语言）——"盖房子"2.2DML（数据操作语言）——"搬家具"2.3DCL（数据控制语言）——"配钥匙"三、SQL书写规范（避免被同事吐槽）3.1
随缘而动，随遇而安·2025-03-17 20:08

MultiCodeBench:首个涵盖 12 个特定软件应用领域和 15 种编程语言的代码生成基准测试

一、研究背景：随着大型语言模型（LLMs）在代码生成任务中展现出卓越性能，越来越多的AI编程助手被集成到实际的软件开发环境中，显著提升了开发效率。
·2025-03-17 20:51

差异中寻找共识：浅析中美欧AIGC服务商的标识义务

随着AI大模型生成逼真图像、音频与视频的能力日益增强，人类作品与AIGC之间的界限愈发模糊。如不加以管控，则会产生“真相侵蚀”（TruthDec
·2025-03-17 20:49

21-梯度累积原理与实现

一、基本概念在深度学习训练的时候，数据的batchsize大小受到GPU内存限制，batchsize大小会影响模型最终的准确性和训练过程的性能。
机器人图像处理·2025-03-17 19:34

一篇文章掌握整个JVM，JVM超详细解析！！！（持续更新中）

（持续更新中）JVM内存模型JVM内存模型包括：虚拟机栈、堆、方法区、程序计数器、本地方法栈堆(Heap)是计算机科学中一类特殊的数据结构的统称。堆通常是一个可以被看做一棵完全二叉树的数组对象。
阿杰同学·2025-03-17 19:03

数据结构与算法——二叉搜索树，使用TreeMap将键值对存储在一棵二叉搜索树的节点

左小右大。中序遍历结果是有序的，会从小到大排序。
Book_熬夜！·2025-03-17 19:59

【人工智能基础2】Tramsformer架构、自然语言处理基础、计算机视觉总结

文章目录七、Transformer架构1.替代LSTM的原因2.Transformer架构：编码器-解码器架构3.Transformer架构原理八、自然语言处理基础1.语言模型基本概念2.向量语义3.预训练语言模型的基本原理与方法
roman_日积跬步-终至千里·2025-03-17 19:59

C# WPF面试题：WPF中一些常见的设计模式

它将数据模型（Model）、视图（View）和视图模型（ViewModel）分离，使得各部分可以独立进行开发和测试。视图模型是视图的抽象，它包含了视图的状态和行
令狐掌门·2025-03-17 18:29

基于ViT+milvus的以图搜图服务

以图搜图服务简介服务流程介绍：将图片特征经过vit模型提取特征，保存到milvus库中，并存入对应的唯一id和身份标签，用于相似图片搜索；使用相似图片进行搜索，返回搜索到图片的身份标签和置信度。
国防科技苏东坡·2025-03-17 18:56

怎么做一个AI产品经理？

随着大数据、云计算和大模型技术的不断成熟，产品经理不仅需要具备敏锐的市场洞察，还必须深刻理解AI技术本质，跨界整合技术、数据与业务优势，从而推动产品的持续创新与落地。本文将全面解析AI产品经理的角
AI筑梦师·2025-03-17 18:25

【AI】使用Python实现机器学习小项目教程

通过这个项目，您将掌握机器学习的基本流程，包括数据加载、预处理、模型训练、评估和优化等步骤。论文AIGC检测，降AIGC检测，AI降重，三连私信免费获取：ReduceAIGC9折券！
丶2136·2025-03-17 18:21

学习threejs，dds格式图片文件贴图

要在Three.js中使用DDS格式的图片文件作为贴图，你需要加载和解析该文件，并将其应用于你的模型或材质。
2301_81121233·2025-03-17 17:21

Android APP架构设计——MVP的使用示例

0.前言为了更好地进行移动端架构设计，我们最常用的就是MVC、MVP和MVVM，作为三个最耳熟能详的三大架构，应用可谓非常广泛。
weixin_30633507·2025-03-17 17:19

颠覆智能助手的游戏规则！LangGraph MCP助你构建通用AI助手！

它基于LangGraph和模型上下文协议（MCP），为构建通用AI助手提供了强大的支持。主要功能无缝集成：能够将LLM（大语言模型）应用与各种外部数据源和工具进行无缝连接。
大模型.·2025-03-17 17:49

LORA 微调大模型：从入门到入土

在当今人工智能领域，预训练的大模型已经成为推动技术发展的核心力量。然而，在实际项目中，我们往往会发现这些预训练模型虽然强大，但直接就去应用于一些特定的任务时，往往无法完全满足需求。
大模型.·2025-03-17 17:49

DeepSeek R2 提前：中国 AI 如何颠覆全球 AI 格局？

DeepSeek定档2025年3月17日发布其新一代AI模型——DeepSeekR2。作为中国AI初创公司的代表，DeepSeek凭借其前作R1的惊人表现，已经在全球AI领域掀起了一场风暴。
大模型.·2025-03-17 17:19

3.16-随记：状态一般

一会写完博客可能还会去跑一会步，其实刚发现自己梳理完今天干的事情之后好像也干了不少事，但是不知道为什么现在觉得什么也没干，可能是学的内容都没有进脑子吧，只是停留在表面，找到一片很好的github文章专门
步子迈不开就随便迈·2025-03-17 17:18

系统架构师备考——软件可靠性基础知识篇（上）

软件可靠性定义1.2软件可靠性的定量描述1.3可靠性目标1.4可靠性测试的意义1.5广义的可靠性测试与狭义的可靠性测试二、软件可靠性建模2.1影响软件可靠性的因素2.2软件可靠性的建模方法2.3软件可靠性模型分类三
牛马程序员小邓·2025-03-17 17:47

系统架构师备考——软件可靠性基础知识篇（下）

降低复杂度设计1.4系统配置技术二、软件可靠性测试2.1软件可靠性测试概述2.2定义软件运行剖面2.3可靠性测试用例设计2.4软件可靠性测试的实施三、软件可靠性评价3.1软件可靠性评价概述3.2怎样选择可靠性模型
牛马程序员小邓·2025-03-17 17:47

【003】调用Kimi实现AI对话，流式内容输出_#py

调用Kimi实现AI对话，流式内容输出前言1.实现流式输出的主要代码块2.完整代码前言流式输出（Streaming），一言以蔽之，就是每当Kimi大模型生成了一定数量的Tokens时（通常情况下，这个数量是
木易:_/·2025-03-17 17:47

AI人工智能中的概率论与统计学原理与Python实战：Python实现概率模型

1.背景介绍随着人工智能技术的不断发展，概率论与统计学在人工智能领域的应用越来越广泛。概率论与统计学是人工智能中的基础知识之一，它们在机器学习、深度学习、自然语言处理等领域都有着重要的作用。本文将介绍概率论与统计学的核心概念、算法原理、具体操作步骤以及Python实现方法，并通过具体代码实例进行详细解释。2.核心概念与联系2.1概率论与统计学的区别概率论是一门数学学科，它研究随机事件发生的可能性。
AI天才研究院·2025-03-17 17:46

【源码阅读】olmocr中的prompts

目录一、PDF转换为训练数据二、使用微调模型三、比较差异总结一、PDF转换为训练数据让ChatGPT-4将文档（如PDF文件）转换为结构化的“银级”训练数据（silvertrainingdata）#Thisisthepromptweuseforgettingchatgpt4otoconvertdocumentsintooursilvertrainingdatadefbuild_openai_sil
海绵波波107·2025-03-17 17:46

如何使用 Python 实现生成对抗网络

如何使用Python实现生成对抗网络生成对抗网络（GenerativeAdversarialNetwork，GAN）是一种能够生成高质量、逼真图像的深度学习模型。
NoABug·2025-03-17 17:15

GAN模型的Python应用——生成对抗网络

GAN模型的Python应用——生成对抗网络生成对抗网络（GenerativeAdversarialNetwork，GAN）是深度学习中的一种重要模型，已经被广泛应用于图像、文本生成等领域。
代码编织匠人·2025-03-17 17:15
上一页 25 26 27 28 29 30 31 32 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他