RTX

【大模型】DeepSeek-R1-Distill-Qwen部署及API调用

当前模型开源后，我们可以将其部署，使用API方式进行本地调用1.部署环境本文中的部署基础环境如下所示：PyTorch2.5.1Python3.12(ubuntu22.04)Cuda12.4GPURTX3090

油泼辣子多加·2025-03-10 17:29

家庭组装台式电脑配置推荐（2024版）

2、显卡（GPU）：RTX4060Ti是推荐的选择，其性能略高于RTX3070，但功耗更低，适合预算在6000元左右的配置。3、内存（RAM）：16GB内存是推荐的配置，能够提供足够的多任务处理能力。

encoding-console·2025-03-10 07:19

win11编译llama_cpp_python cuda128 RTX30/40/50版本

Geforce50xx系显卡最低支持cuda128，llama_cpp_python官方源只有cpu版本，没有cuda版本，所以自己基于0.3.5版本源码编译一个RTX30xx/40xx/50xx版本。

System_sleep·2025-03-10 01:02

很常见的13种嵌入式实时系统，你知道哪些？

以下介绍15种主流的RTOS，包括μClinux、μC/OS-II、eCos、FreeRTOS、mbedOS、RTX、VxWorks、QNX、AliOSThings、望获实时Linux、HuaweiLiteOS

RTOS研究员·2025-03-08 14:24

PCI-5565反射内存卡的驱动程序--RTX64

在RTX实时系统下设计PCI-5565反射内存卡的驱动程序涉及多个步骤，包括硬件初始化、内存映射、中断处理和数据传输。

机载总线仿真测试·2025-03-07 18:53

Kotlin 实现图片裁剪

/***图片裁剪*@paramoriginalImage原始图像*@paramstartX裁剪区域的起始x坐标*@paramstartY裁剪区域的起始y坐标*@paramendX裁剪区域的结束x坐标*@

zimoyin·2025-03-07 04:17

开源模型应用落地-qwen2-7b-instruct-LoRA微调-LLaMA-Factory-单机多卡-RTX 4090双卡（五）

一、前言本篇文章将使用LLaMA-Factory去高效微调QWen2系列模型，通过阅读本文，您将能够更好地掌握这些关键技术，理解其中的关键技术要点，并应用于自己的项目中。二、术语介绍2.1.LoRA微调LoRA(Low-RankAdaptation)用于微调大型语言模型(LLM)。是一种有效的自适应策略，它不会引入额外的推理延迟，并在保持模型质量的同时显着减少下游任务的可训练参数数量。2.2.参数

开源技术探险家·2025-03-06 23:26

vue vxe-table 实现财务记账凭证

vxetable.cn/新增保存财务主管：小徐记账：张三出纳：李四审核：老六import{ref,reactive,nextTick}from'vue'import{VxeUI}from'vxe-table'importXEUtilsfrom'xe-utils'constgridRef

·2025-03-06 13:20

C++使用Onnxruntime/TensorRT模型推理

pytorch的模型.pth，并基于.pth模型进行推理python下依据模型推理实现从.pth转向.onnxpython下基于.onnx进行推理，与后续两种推理方式种的推理结果进行比较环境windows10+RTX308015GB

奇华智能·2025-03-05 16:30

私有部署 ChatGLM3-6B

1.在AutoDL平台上租赁GPUGPU型号：RTX4090PyTorch版本：2.5.1**（推荐使用2.0及以上的版本，以获得最佳的推理性能）**2.开启学术资源加速source/etc/network_turbo3

张申傲·2025-03-04 03:16

如何本地部署大模型及性能优化指南（附避坑要点）

一、环境准备：硬件与软件的黄金搭档硬件配置显存与内存：7B模型需至少10GB显存（如RTX3060），16B以上推荐专业级显卡（如V100/A100）。若显存不足，可通过CPU

挣扎与觉醒中的技术人·2025-03-03 17:20

本地部署大语言模型-DeepSeek

HosteaseAMD9950X/96G/3.84TNVMe/1G/5IP/RTX4090GPU服务器提供多种计费模式。

NightReader·2025-03-03 15:36

FaceFusion 从0开始本地部署，RTX4060

FaceFusion从0开始本地部署指南一、环境准备1.基础工具安装1.1Git安装使用管理员权限打开PowerShell执行安装命令：wingetinstall-e--idGit.Git验证安装：git--version1.2FFmpeg安装使用管理员权限打开PowerShell执行安装命令：wingetinstall-e--idGyan.FFmpeg添加环境变量：打开"系统属性"->“环境变量

万山y·2025-03-03 11:37

自动化办公|xlwings与pandas交互

2.从Excel读取数据到PandasDataFrame2.1读取整个表格importxlwingsasxwimport

游客520·2025-03-02 18:21

Python完整代码实现跳动的爱心

importtkinterastkimporttkinter.messageboximportrandomfrommathimportsin,cos,pi,logfromtkinter.constantsimport*width=888height=500heartx

wv15889726201·2025-02-28 14:46

tinyxml创建、写入和读取

最近在集成小程序，涉及到使用tinyxml类，在这里记录本次用于输出程序执行状态的代码，包括创建、添加信息、读取信息，exportXmlParam用于创建输出，addXmlevent用于主程序部分实时显示进程信息

@Mr_LiuYang·2025-02-28 13:40

Llama.cpp 服务器安装指南（使用 Docker，GPU 专用）

硬件：NVIDIAGPU（例如RTX4090）。内存：16GB+系统内存，GPU需12GB+显存（RTX4090有24GB）。存储：15GB+可用空间（用于源码、镜像和模型文件）。

田猿笔记·2025-02-28 09:37

python实现从oracle数据库查询数据生成excel透视表发送outlook

pypi.cq.pegatroncorp.com/simple--trusted-hostpypi.cq.pegatroncorp.comimportchardetimportdatetimeimporttimeimportxlwtimportwin32com.clientaswin32fromwin32com.clientimportcons

niceme！·2025-02-28 06:46

DeepSeek本地部署必要性分析及云端替代方案推荐

一、本地部署适用场景分析硬件要求完整版模型需≥32GB显存（推荐NVIDIAA100/A800）基础版也需RTX3090级别显卡（约150W功耗）适用人群建议✔️企业用户：需私有化部署处理敏感数据✔️研究人员

Asher_Yao·2025-02-28 01:08

Python 发送短信

发送短信短信发送平台在发送短信前需要添加两个配置文件，将下面两个文件复制下来即可xmltojson.py```#-*-coding:utf-8-*-#pythonxml.etree.ElementTreeimportxml.etree.ElementTreeasET

黑足-山治·2025-02-27 07:45

python中from import 所有内容都执行_彻底搞懂Python 中的 import 与 from import

什么时候用importxxx？什么时候用fromxxximportyyy？什么时候用fromxxx.yyyimportzzz？什么时候用fromxxximp

沃特JS·2025-02-26 19:38

python 生成excel

usr/bin/envpython#-*-coding:utf-8-*-importMySQLdbfromdatetimeimportdatetimeimportcx_Oracleimportosimportxlwtimportsysreload

scan724·2025-02-26 17:51

python创建Excel文件 xlwt

由此记录一下我的环境为python2.7首先安装xlwtpipinstallxlwt然后直接看代码#-*-coding:utf-8-*-importxlwtfromxlwtimportWorkbookbook

茂叶繁枝·2025-02-26 17:20

python 爬虫智联招聘

代码如下：importrequestsimportreimportxlwtdefparse_one_page(html):'''解析HTML代码，提取有用信息并返回'''#正则表达式进行解析pattern

风华明远·2025-02-26 08:51

vue 3D 翻页效果

初始页exportdefault{data(){return{startX:0,//触摸开始的X坐标moveX:0,//当前移动的X坐标threshold:100,//滑动阈值};},methods:{

qq_31683775·2025-02-26 02:03

Linux 命令大全完整版（09）

语法：ar[-dmpqrtx][cfosSuvV][a][b][i][备存文件][成员文件]补充说明：可让您集合许多文件，成为单一的备存文件。在备存文件中，所有成员文件皆保有原来的属性与权限。

茂茂在长安·2025-02-25 16:26

RTX 3090图形处理巅峰性能解析

内容概要作为NVIDIA面向专业创作者与发烧级玩家的旗舰产品，RTX3090重新定义了图形处理的性能边界。

智能计算研究中心·2025-02-25 03:26

RTX 4090图形架构性能突破实测

内容概要作为NVIDIA新一代旗舰显卡，RTX4090基于AdaLovelace架构实现了硬件设计与软件优化的双重突破。本文将从核心架构革新、多分辨率场景性能表现及能效管理技术三大维度展开分析。

智能计算研究中心·2025-02-25 03:55

英伟达确认RTX 5090和5070 Ti存在制造问题；DeepSeek-R1成Hugging Face最受欢迎大模型|极客头条

「极客头条」——技术人员的新闻圈！CSDN的读者朋友们好，「极客头条」来啦，快来看今天都有哪些值得我们技术人关注的重要新闻吧。整理|苏宓出品|CSDN（ID：CSDNnews）一分钟速览新闻点！雷军：小米15Ultra、SU7Ultra是小米创业十五年来最高端产品华为近300人团队已入驻阿维塔，鸿蒙智行“塔界”或将登场小米超级小爱重新接入DeepSeekR1大模型：已上线DeepSeek-R1成H

极客日报·2025-02-24 12:33

Vue——vue项目中导入excel文件读取成json格式数据

首先、安装组件cnpminstallxlsx--save导入EXCELimportXLSXfrom'xlsx'exportdefault{name:'HelloWorld',props:{type:String

dbt@L·2025-02-24 04:37

uniapp 整合openlayers 编辑图形文件并上传到服务器

importViewfrom'ol/View.js'//OpenLayers的视图类，定义地图的视图属性importTileLayerfrom'ol/layer/Tile.js'//OpenLayers的瓦片图层类importXYZfrom'ol

破z晓·2025-02-22 12:12

openssl操作大纲

实现公钥加密生成【秘钥】：gpg--gen-key查看所有秘钥：gpg--list-key导出【公钥】：gpg-a--export-oxxx.pubkey导入【公钥】：gpg--importxxx.pubkey

我来烤烤你·2025-02-21 13:49

本地部署DeepSeek的硬件配置建议

显卡：GTX1060（6GB显存）或更高，推荐RTX3060（8GB显存）；若需流畅运行7B模型，建议RTX4060显卡。存储：至少20GB剩余空间，推荐NVMe固态硬盘。2

冷冷清清中的风风火火·2025-02-21 12:05

国鑫DeepSeek 671B本地部署方案：以高精度、高性价比重塑AI推理新标杆

国鑫作为深耕AI领域的技术先锋，推出基于4台48GRTX4090或8台24GRTX4090服务器的2套DeepSeek“满血”版本地部署方案，以FP16高精度、高性价比、强扩展性三大优势，为企

Gooxi国鑫·2025-02-20 20:17

本地部署DeepSeek + AnythingLLM 搭建高效安全的个人知识库

OpenWebUI网页界面（可以离线使用）-CSDN博客windows平台本地部署DeepSeek大模型+Chatbox界面（可以离线使用）-CSDN博客根据本人电脑配置：windows11+i9-13900HX+RTX4060

Chhjnavy·2025-02-19 03:24

[C#]C#使用yolov8的目标检测tensorrt模型+bytetrack实现目标追踪

测试通过环境】win10x64vs2019cuda11.7+cudnn8.8.0TensorRT-8.6.1.6opencvsharp==4.9.0.NETFramework4.7.2NVIDIAGeForceRTX2070Super

FL1623863129·2025-02-17 23:55

python小白的word转excel

excel，转为可识别通用的“utf8”，然后创建一个表格来将文档里的内容写入到表里去四、利用for循坏来设置表里多少个为一行五、在最后设置表的保存路径以及提示是否创建成功importdocximportxlwtdocFile

W~J~L·2025-02-17 23:50

Python学习（二）----turtle库的基本功能

turtle.setup(width=0.75,height=0.75,startx=None,starty=None)'''width,height:输入宽和高为整数时,表示像素;为小数时,表示占据

Tiny1420·2025-02-17 20:22

DeepSeek大模型本地化部署与实践指南

星辰@Sea·2025-02-17 11:31

vertx

vert.x是reactive(响应式编程),是一种思想,特点:事件驱动(发挥单台机器的性能):单台机器上,用少量线程处理大量并发异步处理请求(多个服务间通信阻塞较少,响应时间降低):https://vertx.io

三笠爷·2025-02-17 11:58

自动化办公|xlwings快速入门

创建新工作簿importxlwingsasxw#创建一个新的Excel工作簿wb=xw.Book()#获取当前活动的工作表sheet=wb.sheets.activesheet.range("A1").

游客520·2025-02-17 06:47

显卡性能对比：P100、RTX3090、A40、A100、A800、H100

TeslaP100-PCIE-16GBRTX4090RTX3090V100-SXM2-32GBRTX3080RTX2080TiRTXA4000RTXA5000A100-SXM4-80GBA100-PCIE

u013250861·2025-02-17 03:27

【vLLM 学习】安装

依赖环境操作系统：LinuxPython：3.8-3.12GPU：计算能力7.0或更高（例如V100、T4、RTX20xx、A100、L

·2025-02-16 23:25

python规定顶层模块不能作为package，因此import只能导入当前文件所在的目录以及子路下的package，无法导入上层目录的pakcage，例如import..xxx是不行的，只能是importx

我家大宝最可爱·2025-02-16 10:48

【YOLO】常用脚本

目录VOC转YOLO划分训练集、测试集与验证集VOC转YOLOimportosimportxml.etree.ElementTreeasETdefconvert(size,box):dw=1.

我才是真正的17号·2025-02-15 14:47

面向生成式语言模型场景到底是选择4卡5080还是选择两卡5090D

四卡RTX5080VS两卡RTX5090D：AI大模型性能比拼实践与思考本文主要从算力、显存、多卡扩展效率以及性价比等多个角度，分析在部署和训练大规模AI模型时，采用四卡RTX5080方案与两卡RTX5090D

weixin_40941102·2025-02-14 01:47

自学人工智能大模型，满足7B模型的训练和微调以及推理，预算3万，如何选购电脑

岁月的眸·2025-02-13 23:03

联想拯救者Y9000k 双系统 ubuntu安装显卡驱动后开机黑屏 “__“ ubuntu22.04 RTX3080

1.在安装双系统时，BIOS报错解决方法：在BIOS或者window的联想管家中将独显模式切换成混合模式2.ubuntu系统安装完成后，图形界面正常3.在ubuntu系统安装显卡驱动后，重启界面卡在_上，黑屏无法进入解决方法：重新在BIOS中将混合模式切换成独显模式，重启正常

TrampC·2025-02-13 10:33

联想y7000p安装ubuntu 22.04双系统无法正常关机

双系统无法正常关机联想y7000p安装ubuntu22.04双系统无法正常关机关机时一直停留在ubuntu的logo界面，下面是解决办法：本机配置：win11+ubuntu22.04双系统nvidiaRTX3050

KouweiLee·2025-02-13 10:02

联想Y7000 2024版本笔记本 RTX4060安装ubuntu22.04双系统及深度学习环境配置

目录1..制作启动盘2.Windows磁盘分区，删除原来ubuntu的启动项3.四个设置4.安装ubuntu5.ubuntu系统配置1..制作启动盘先下载镜像文件，注意版本对应。Rufus-轻松创建USB启动盘用rufus制作时，需要注意选择正确的分区类型和系统类型。不然安装的系统会有问题！2.Windows磁盘分区，删除原来ubuntu的启动项手把手教你调整电脑磁盘的分区大小_调整分区大小-CS

七七@你一起学习·2025-02-13 10:27

推荐频道

RTX