大恒水晶相机

[论文笔记] LLM大模型剪枝篇——2、剪枝总体方案

https://github.com/sramshetty/ShortGPT/tree/mainMy剪枝方案（暂定）：剪枝目标：1.5B—>100～600M剪枝方法：层粒度剪枝1、基于BI分数选择P%的冗余层，P=60~802、对前N%冗余层，直接删除fulllayer。N=20（N：剪枝崩溃临界点，LLaMA2在45%，Mistral-7B在35%，Qwen在20%，Phi-2在25%）对后(P
心心喵·2025-03-01 04:25

GitHub每日最火火火项目（2.28）

olmocr项目介绍：olmocr是由allenai开发的一款用于将PDF文件线性化，以适配大语言模型（LLM）数据集和训练的工具包。在大语言模型的训练过程中，数据的格式和预处理极为关键。
FutureUniant·2025-03-01 03:50

GitHub 星标10W+的大模型书籍：《轻松入门大模型应用开发：GPT-4 和 ChatGPT 实战指南》，25年一书通关LLM大模型

当下大模型这么火，还有人很多人想加入进来，但是不知道怎么去学习，那么今天我就给大家分享一本适合所有人的一本神仙级入门大模型的书籍，小白也能学会。
程序员丸子·2025-03-01 03:19

如何使用Anyscale平台运行、微调和扩展大语言模型(LLMs)

Anyscale是一个功能强大的平台，主要用于运行、微调和扩展大语言模型(LLMs)，并且通过生产就绪的API提供成本效益的调用服务。
eahba·2025-03-01 03:49

数据库事务四大基本要素

数据库事务四大基本要素简介这四大基本要素也可以理解成一个事务的四个特点，分别是原子性、一致性、隔离性和耐久性，各自对应的英文是Atomicity、Consistency、Isolation、Durability
Hyhhuang·2025-03-01 03:18

利用Python生成器和迭代器高效处理大数据文件

传统的数据处理方法可能会一次性将整个文件加载到内存中，这在数据量较小时是可行的，但当数据量变得非常大时，这种方法就不再适用。
清水白石008·2025-03-01 02:16

SOME/IP--协议英文原文讲解7

基本分三大块：1.SOME/IP协议讲解2.SOME/IP-SD协议讲解3.python/C++举例调试讲解4.1.5De-serializationofDataStructuresThede-serializationprocessneedtoinspect
忆源·2025-03-01 02:46

SOME/IP-SD -- 协议英文原文讲解7

基本分三大块：1.SOME/IP协议讲解2.SOME/IP-SD协议讲解3.python/C++举例调试讲解5.1.4ServiceDiscoveryCommunicationBehavior[PRS_SOMEIPSD
忆源·2025-03-01 01:41

大模型研究：DeepSeek三个版本（初级中级高级）资源要求说明

以下是DeepSeek-LLM7BChat、DeepSeek-V3、DeepSeek-LLM6.7B三个版本模型所需硬件资源的介绍：DeepSeek-LLM6.7B最小最基础版本1.内存（RAM）非量化运行时，由于模型参数数量相对较少，大约需要13GB-14GB的系统内存来加载模型和进行基本推理。如果使用8位量化技术（将模型参数从32位浮点数转换为8位整数），内存需求可降低至约7GB；使用4位量化
程序猿学长·2025-03-01 01:08

如果GPT-4还只是阿米巴原虫，未来的霸王龙会是什么样？| 赫拉利《智人之上》

本文分为三大部分，分别为：我们真的了解计算机吗？计算机正在塑造一个全新的信息
·2025-03-01 01:44

手机跑AI大模型？QPython全新黑科技让移动端变身AI实验室

【手机跑AI大模型？QPython全新黑科技让移动端变身AI实验室！】你好，未来创造者！你是否还在为这些场景抓狂？
程之编·2025-03-01 01:37

DeepSeek大模型，电脑性能要求全攻略！

DeepSeek大模型，电脑性能要求全攻略！Hey，小伙伴们！最近，DeepSeek大模型可谓是AI领域的热门话题，无论是学习、工作还是娱乐，它都能给我们带来诸多便利和惊喜。
listen_to_rain·2025-03-01 01:36

人工智能未来设计大赛· 大模型专项竞技赛火热报名中！

技术革新临界点已至，大模型生态迎来爆发期当前，全球人工智能产业正经历从“暴力美学”到“精巧工程”的范式跃迁。
·2025-03-01 01:42

阿里云PAI大模型RAG对话系统最佳实践

去年4月至9月，阿里云人工智能平台PAI团队与大数据基础工程技术团队合作，构建了基于知识库检索增强的大模型答疑对话机器人，并在阿里云官方答疑链路、研发小蜜、钉钉大数据技术服务助手等多个线上场景上线，显著提升答疑效率
阿里云云栖号·2025-03-01 00:04

火山方舟引擎免费注册送3675万DeepSeek R1满血版tokens

前言字节跳动旗下的火山方舟平台注册赠送3675万tokens，提供满血deepseek、豆包等大模型。
无痕melody·2025-03-01 00:01

2.4 自动化评测答疑机器人的表现-大模型ACP模拟题-真题

真题真题1：哪些是生成阶段的评估指标？哪些是召回阶段的评估指标？整体回答质量的评估：AnswerCorrectness，用于评估RAG应用生成答案的准确度。生成环节的评估：AnswerRelevancy，用于评估RAG应用生成的答案是否与问题相关。Faithfulness，用于评估RAG应用生成的答案和检索到的参考资料的事实一致性。召回阶段的评估：ContextPrecision，用于评估cont
admin皮卡·2025-03-01 00:59

Python 爬虫流程及robots协议介绍

Python爬虫流程及robots协议介绍**网络爬虫（Spider）是一种高效的数据挖掘的方式，常见的百度，谷歌，火狐等浏览器，其实就是一个非常大的爬虫项目**爬虫大致分为了四个阶段:确定目标：我们想要爬取的网页数据采集
流沙丶·2025-03-01 00:59

JAVA命名规则，开发命名规范

1、JAVA常用的开发规范应用项目名称：字母全部小写，下划线隔开，例子"my_project_name"变量名：小驼峰规则（小写字母开头），例子"userCount"类命名：大驼峰规则（大写字母开头），
北风toto·2025-02-28 23:57

Milvus高性能向量数据库与大模型结合

Milvus|高性能向量数据库，为规模而构建Milvus是一个为GenAI应用构建的开源向量数据库。使用pip安装，执行高速搜索，并扩展到数十亿个向量。https://milvus.io/zhMilvus是什么？Milvus是一种高性能、高扩展性的向量数据库，可在从笔记本电脑到大规模分布式系统等各种环境中高效运行。它既可以开源软件的形式提供，也可以云服务的形式提供。Milvus是LFAI&Data
山塘小鱼儿·2025-02-28 23:25

用 AI 工具实现被动收入：自动化内容生成与发布

现在，哪怕你是普通人，没有大资金、没有专业技能，只要会用AI工具，就能搭建一个自动化内容生成和发布的系统
SuperMale-zxq·2025-02-28 23:53

PyTorch 常见的损失函数：从基础到大模型的应用

PyTorch常见的损失函数：从基础到大模型的应用在用PyTorch训练神经网络时，损失函数（LossFunction）是不可或缺的“裁判”。
阿正的梦工坊·2025-02-28 22:19

DeepSeek五天开源5大杀器实测：训练成本砍半+推理速度起飞，算法圈已疯（附删库跑路教程）

DeepSeek开源周「王炸」连发！FlashMLA让推理速度飙升40%，DeepEP根治MoE通信癌，FP8核弹库DeepGEMM暴力提效，DualPipe+EPLB把GPU榨到一滴不剩，3FS化身数据闪电侠！算法圈惊呼：训练成本腰斩，AGI进度条拉爆！根本学不完，学不完速删祖传代码，GitHub星链已就位：https://github.com/deepseek-aiDay1：FlashMLA（
AI仙人掌·2025-02-28 22:18

deepseek 的离线部署-AI大模型

官方网址官方地址：OllamaOllama目前支持以下大语言模型：libraryOllama下载地址：https://ollama.com/download/ollama-linux-amd64.tgz
passion_flower_·2025-02-28 22:17

【产业互联网周报】5G-A首个版本标准冻结；Anthropic推出Claude 3.5 Sonnet；华为云发布盘古大模型5.0...

ITValue01国内资讯5G-A首个版本标准冻结，相关商用版图正式展开在上海举行的3GPPRAN（无线接入网络项目）第104次会议上，3GPPRelease18标准正式冻结。R18标准从立项到冻结历时3年多，是5G-Advanced的第一个版本，承载着业界拓展场景、深挖潜能、探索方向的期望。而R18标准的冻结，也意味着5G-A技术的商用版图正式展开。中国通信工业协会副会长韩举科表示：“标准冻结后
ITValue·2025-02-28 22:46

一文看懂 Claude 3.7 Sonnet，为什么是第一个融合推理模式的 AI 模型

传统的大语言模型（LLM）通常有两种工作方式
董董灿是个攻城狮·2025-02-28 22:45

最好最常用的国外邮箱推荐！注册非常简单！

当然现在的通讯比较发达，打电话、短信、QQ或者微信都可以进行交流沟通，也可以发送些简单的文件，但是如果涉及到负责的文件，大附件的话，电子邮件的优势就显现出来了。
bigcarp·2025-02-28 21:15

通过Bedrock Access Gateway解决方案快速访问Amazon Bedrock的多种大语言模型

BedrockAccessGateway（BAG）解决方案提供了开箱即用、兼容OpenAI的代理功能，帮助用户轻松无缝地从OpenAI迁移到AmazonBedrock。1.概述亚马逊云科技的AmazonBedrock服务支持一系列领先的基础模型，为客户提供多种选择，满足不同业务场景的需求。其中，Anthropic公司的Claude3是在AmazonBedrock新上线的大型语言模型（LargeLa
国外VPS测评·2025-02-28 21:14

Bedrock Claude Chat: 基于AWS Bedrock和Claude的智能聊天机器人

项目概述BedrockClaudeChat是一个基于AmazonBedrock平台和Anthropic公司Claude大语言模
2401_87458778·2025-02-28 21:14

量子位招聘 | DeepSeek帮我们改的招聘启事

如果你与我们志同道合，对AI大模型、具身智能、终端硬件、AI新媒体编辑感兴趣，我们正在招聘这些领域的原创作者。以下岗位均为全职，工作地点：北京中关村。
·2025-02-28 21:40

量子位招聘 | DeepSeek帮我们改的招聘启事

如果你与我们志同道合，对AI大模型、具身智能、终端硬件、AI新媒体编辑感兴趣，我们正在招聘这些领域的原创作者。以下岗位均为全职，工作地点：北京中关村。
·2025-02-28 21:39

用DeepSeek-API构建智能工作流的5大范式革新

在AI原生时代，工作流引擎正从「规则执行者」向「智能决策中枢」进化。通过研究DeepSeek-API发现，可以为工作流引擎提供以下前沿实践方案：范式一：动态决策路由系统▍理念革新传统局限：固定审批路径无法应对复杂业务场景，人工判断耗时且标准不统一智能突破：基于DeepSeek-API的自然语言理解能力，实时解析单据内容语义结合流程拓扑算法，动态生成最优审批路径实践场景：金融信贷场景：自动识别高风险
·2025-02-28 21:09

Spring Boot 整合 RabbitMQ 详解

RabbitMQ系列文章传送门RabbitMQ的介绍及核心概念讲解@RabbitListener注解详解SpringBoot集成RabbitMQ可以分为三大步，如下：在proerties或者yml文件中添加
码农爱java·2025-02-28 20:40

linux vim撤回操作,Vim 撤销 回退 操作

恢复是u和U啦，小u执行一次恢复，大U则恢复所以之前的改动，貌似是在一行中的改动。Ctrl+R貌似是撤销，
一呐·2025-02-28 20:40

【工具推荐】这开源工具，让你一键下载全网视频！全网都在偷摸着用！

五大核心功能，下载从未如此简单1️⃣全网主流平台通吃✅国内：B站/抖音/腾讯/优酷/爱奇艺✅海外：YouTube/推特/Instagram/Facebook✅音频：网易云/酷狗音乐2️⃣智能
世味煮成茶.·2025-02-28 20:08

常见后端开发面试问题（持续更新）

因为对于Mysql这种数量级非常大的数据来说可以减少磁盘的I/O次数，同时其在叶子节点添加的有指针，可以更加快速的进行查找。平均查找时间为log(n)为什么B树不可以呢？
零戚·2025-02-28 20:08

Aloudata 正式发布 NoETL 数据工程架构与三款创新产品，率先实现 Data Fabric 在中国的最佳实践

12月15日，国内领先的自动化数据管理软件提供商Aloudata（大应科技）在线举办了「NoETL！
·2025-02-28 20:06

postgresql的表占内存很小但表所在的数据库占内存很大

在项目中需要存储的数据有的很大，所在建表的时候该字段就用大文本记录（text），java中用@Lob注释属性字段。
飘零未归人·2025-02-28 20:07

有好答案、更有好方案，夸克AI搜索上线“深度思考”

深度思考能力融入AI搜索，是此次升级的一大亮点。夸克AI搜索“深度思考”，精准理解用户的真实需求和深层意图。针对用户的个性化和复杂问题，“深度思考”能够高效、极速地提供内容详尽、全面、可信任的
·2025-02-28 20:35

实现录制视频功能鸿蒙示例代码

介绍本示例基于CameraKit（相机服务）实现了使用手机摄像头进行视频的拍摄录制，并在首页进行视频的预览。
·2025-02-28 20:33

基于OpenGL渲染相机流鸿蒙示例代码

介绍本示例基于OpenGL对相机流进行处理操作，然后通过Xcomponen渲染显示相机，实现相机的录制、播放视频功能。
·2025-02-28 20:03

【llm对话系统】大模型源码分析之 LLaMA 模型的 Masked Attention

本文将深入探讨LLaMA模型中MaskedAttention的实现逻辑，并对比其他类型大模型中常用的MaskedAttention方案。1.什么是MaskedAt
kakaZhui·2025-02-28 20:03

Redis进阶使用

尽量避免大key问题，避免用字符串存储过大的数据；避免集合的数据量太大，要定期清除。二、常用的数据结构有哪些？用在什么地方？按照使用的频率排序。
赫萝的红苹果·2025-02-28 19:28

php 读取excel大文件,php 如何读大excel

phper需要处理excel的时候基本上都会考虑PhpSpreadsheet，但是用过这个库的人都知道，这个库所需要的内存很大，关键是随着文件的增大，所需要的内存不断增大。测试过，导入2M的文excel文件，get_memory_usage显示消耗了128M。那么对于较大文件的excel该如何处理呢，本文试着给出一个解决方案(前提：你的业务允许你分行处理文件，如果不允许，可以不用往下看了)。为什么
特大号豆腐·2025-02-28 19:57

第九章 Spring AI API中文版 - Ollama Embeddings API

小距离表明高相关性，大距离表明低相关性。先决条件您首先需要在本地机器上运行Ollama。参考官方Ollama项目链接：README，开始在本地机器上运
明爷们儿·2025-02-28 18:52

（5-3）DeepSeek多模态大模型架构：Janus-Pro模型

5.3Janus-Pro模型Janus-Pro的架构采用了解耦视觉编码的设计理念，将多模态理解与视觉生成任务分离开来，以充分发挥各自优势。Janus-Pro的核心创新在于将视觉编码过程分为两个独立的路径，从而解决传统统一编码中“理解”和“生成”任务之间的冲突。5.3.1解耦视觉编码Janus-Pro模型在架构设计上继承并优化了Janus的核心理念——视觉编码的解耦，这种设计通过分离多模态理解任务和
码农三叔·2025-02-28 18:21

WPS接入DeepSeek模型免费版本

参考原文：WPS接入DeepSeek模型免费版本今年年初，WPS官方正式发布重磅消息：WPS全面接入DeepSeekR1大模型。
辣香牛肉面·2025-02-28 18:18

vue - 详解西瓜视频插件xgplayer自定义播放器界面布局及样式细节，强力覆盖修改西瓜播放器的CSS样式，修改播放/暂停按钮大小或图标、增加扩展按钮、修改快捷键图标、整体颜色主题、视频加载状态等

播放和暂停按钮样式、全屏按钮样式、音量调解、整体色调、进度条样式等，vue西瓜视频插件自定义播放器及功能按钮的布局排版及css详细教程，有些时候是必须要修改的（例如手机移动端H5页面竖屏视频，播放暂停按钮会非常大必须做调整
街尾杂货店&·2025-02-28 17:16

2.8 通过微调提升模型的准确度与效率-大模型ACP模拟题-真题

单选题模型量化技术的主要优势是？A.显著提升模型精度B.减少显存占用和响应时间✅C.完全保留原始模型能力D.支持多模态任务扩展解析：量化通过降低参数精度减少资源消耗，但对精度影响较小（<2%）以下关于LoRA技术的描述错误的是？A.通过低秩矩阵间接影响模型行为B.会直接修改原始模型权重✅C.支持参数回退操作D.训练效率高于全参微调解析：LoRA通过添加额外参数而非修改原权重实现微调当训练过程中出现
admin皮卡·2025-02-28 17:12

2.9 部署模型-大模型ACP模拟题-真题

单选题使用vLLM启动模型服务的正确命令是？A.vllmserve"./model/qwen2_5-1_5b-instruct"--port8000B.vllmserve"./model/qwen2_5-1_5b-instruct"--load-format"safetensors"--port8000✅C.vllmstart"./model"--formatsafetensorsD.vllmde
admin皮卡·2025-02-28 17:12

【AI测试学习】AnythingLLM+Ollama+DeepSeek部署私人知识库

1.搭建DeepSeek大语言模型1.1Ollama大预言模型部署Ollama简化了大型语言模型的运行，让每个人都能在本地轻松体验AI的强大，打开浏览器-下载Ollama-输入命令-搞定，这是本地部署大语言模型的全新方式
艳Yansky·2025-02-28 16:37
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他