tensorrt高性能部署

Flink-DataStream快速上手

文章目录1.安装部署安装2.执行任务Standalone模式启动/停止执行任务Yarn模式Session-cluster模式启动yarn-session执行任务Per-Job-Cluster模式3.执行环境
code@fzk·2025-02-12 22:56

算力单位的解释

100P相当于5万台高性能电脑算力。100P相当于每秒10亿亿次计算速度。1P相当于每秒1000万亿次计算速度。
modi000·2025-02-12 21:55

使用 Llama.cpp 和 llama-cpp-python 快速部署本地 LLM 模型

在这篇技术文章中，我们将探讨如何使用llama-cpp-python（llama.cpp的Python绑定）在本地运行大语言模型（LLMs）。你将学到如何安装依赖、加载模型、调整参数以获得最佳性能，以及如何结合LangChain处理推理任务。一、技术背景介绍llama-cpp-python是llama.cpp的Python绑定，旨在简化本地运行大语言模型的过程。它支持多种LLM模型，包括可以从Hu
hgSdaegva·2025-02-12 20:16

一文详细介绍GitLab CI/CD

GitLabCI/CD是GitLab内置的一套自动化工具，它帮助开发团队实现持续集成（ContinuousIntegration，简称CI）和持续交付/持续部署（ContinuousDelivery/Deployment
思考的下一页·2025-02-12 20:14

Java也能玩转机器学习？从零搭建你的第一个模型

1.1.1无缝集成1.1.2JVM的跨平台优势1.1.3高性能计算能力1.1.4多线程与分布式计算1.2主流Java机器学习库全景1.2.1基础数值计算库1.2.2传统机器学习框架1.2.3深度学习生态
prince_zxill·2025-02-12 20:12

【Pycharm+Git+Gitlab】安装部署（粗糙版）

1、安装Git2、安装Pycharm（这里选择的是社区版）3、桌面右键打开GitBash1）设置全局用户名（准备连接的Gitlab仓库的访问用户名）gitconfig---globaluser.name"username"2）设置全局邮箱（准备连接的Gitlab仓库的访问邮箱）gitconfig--globaluser.email"email"3）生成Keyssh-keygen-trsa-b409
test202425·2025-02-12 20:41

DeepSeek-Ollama实现本地化无烦恼

DeepSeek很火爆，网页总会出现“系统繁忙”，除了去不同的平台入口寻求额外帮助，还可以本地化部署，独享性能。我们需要用到：Ollama:启动并运行大型语言模型。
c_zyer·2025-02-12 20:11

如何在VSCode中免费使用DeepSeek R1：本地大模型编程助手全攻略

1.1开源的推理王者1.2性能实测对比二、三步搭建本地AI编程环境2.1硬件准备指南2.2三大部署方案详解方案一：LMStudio（新手友好）方案二：Ollama（Docker玩家首选）方案三：Jan（
tamak·2025-02-12 19:38

CentOS安装Docker，及Docker部署常见容器

CentOS安装Docker，及Docker部署常见容器服务器版本为CentOS7.9，使用lsb_release-a命令查看版本lsb_release-aLSBVersion::core-4.1-amd64
给我一杯彬阔洛·2025-02-12 19:37

如何评估云原生GenAI应用开发中的安全风险（上）

在亚马逊云科技，我们推出了多个生成式AI服务，例如AmazonBedrock和AmazonCodeWhisperer，并通过AmazonSageMakerJumpStart提供了一系列高性能的生成式模型
佛州小李哥·2025-02-12 18:26

上海站 | 2025 Seeed x LeRobot 具身智能黑客松报名开启！

SeeedxLeRobot具身智能黑客松现邀请所有对在机器人领域训练模仿学习策略，并实时进行推理部署感兴趣的人，共同创造具有影响力的创新解决方案。
·2025-02-12 18:01

零信任网络安全

若要实现这些原则，组织需要为用户部署具有自适应身份验证和严格信任策略的多重身份验证（MFA）解决方案。ADSelfServicePlus是一个全面的标识安全解决方案，可帮助组织通过MFA、条件访
网络安全Jack·2025-02-12 18:24

这3款私有化部署工具亲测有效！》

DeepSeek爆火背后，私有化部署为何成了企业刚需？这3款工具让数据安全与效率兼得！最近，AI赛道又杀出一匹黑马——DeepSeek。
·2025-02-12 18:25

云原生周刊：DeepSeek 颠覆人工智能

开源项目推荐OllamaOllama是一个开源的AI工具，旨在为用户提供简单而强大的本地部署语言模型解决方案。
KubeSphere 云原生·2025-02-12 18:54

生物制药企业选择谷歌云的理由有哪些？

作为谷歌云菁英合作伙伴，CloudAce云一梳理了以下几个要点：强大的计算能力和数据分析功能:谷歌云提供强大的高性能计算(HPC)和人工智能(AI)功能，可帮助生物制药公司处理和分析大量数据。这对
·2025-02-12 18:53

普惠AI 如何在 Anolis OS 8 上部署生产可用的 DeepSeek 推理服务

背景介绍DeepSeek-R1DeepSeek-R1在后训练阶段大规模使用了强化学习技术，在仅有极少标注数据的情况下，极大提升了模型推理能力。在数学、代码、自然语言推理等任务上，性能比肩OpenAIo1正式版。DeepSeek-R1-Distill-Qwen则是通过DeepSeek-R1的输出，基于Qwen大语言模型，经过模型蒸馏的小模型，其中32B和70B模型在多项能力上实现了对标OpenAIo
·2025-02-12 17:52

《私有化部署的策略思考：企业管理软件的转型策略》

当企业决定引入管理软件时，一个关键的抉择摆在面前：是选择常见的SaaS（软件即服务）模式，还是采用私有化部署？这
·2025-02-12 17:22

做站群选择服务器应该考虑哪些因素？

选择高性能硬件配置的服务器，要考虑是否有着强大的处理器、足够大的内存和高速的硬盘驱动器等设备，要确保所选择的服务器支持扩展，当网站流量持续增长时可以根据其进行升级。
wanhengidc·2025-02-12 17:52

云原生周刊：K8s 严重漏洞

严重漏洞开源项目推荐KitOpsKitOps是一款开源的DevOps工具，专为AI/ML项目的全生命周期管理而设计，通过将模型、数据集、代码和配置打包并版本化为符合OCI（开放容器标准）的工件，简化了AI/ML工作流的部署与管理
KubeSphere 云原生·2025-02-12 17:49

使用AWS CloudFormation部署ECS微服务参考架构

使用AWSCloudFormation部署ECS微服务参考架构ecs-refarch-cloudformationaws-samples/ecs-refarch-cloudformation:是一个用于在
宁烈廷·2025-02-12 16:13

手动部署 OceanBase 三副本集群

手动部署OceanBase三副本集群前言1、创建容器2、创建用户与设置变量3、安装客户端4、创建目录5、设置链接6、配置启动ob7、初始化集群8、配置obproxy9、创建资源单元、资源池、租户10、登陆租户
fengyuhao16·2025-02-12 16:13

ECS 参考架构与 CloudFormation 项目推荐

ECS参考架构与CloudFormation项目推荐ecs-refarch-cloudformationaws-samples/ecs-refarch-cloudformation:是一个用于在AWS上部署和扩展容器化应用程序的参考架构
成婕秀Timothy·2025-02-12 16:39

几种 pyinstall的打包模式

这样做的好处是便于分发和部署，用户只需拿到这一个文件就能运行程序，无需额外处理依赖问题。不过，打包过程可能
weixin_40941102·2025-02-12 15:38

探索 Dify：开源 LLM 应用开发平台

凭借其直观的界面、全面的功能和强大的后端支持，Dify将彻底改变开发人员创建和部署AI应用程序的方式。Dify的核心功能1.工作流Dify提供了一个强大的可视化画布，用于构建和测试
weixin_40941102·2025-02-12 15:38

深度学习语义分割实战：ResNet 与 ViT 结合的模型解析

本项目结合了ResNet（ResidualNetwork）和ViT（VisionTransformer），构建了高性能的语义分割模型。本文将详细解析该模型的架构、训练流程及其应用。
高山仰星·2025-02-12 15:06

Unity Lua方向的面试真题详解

如果热更代码是单独部署的，我们就可以基
Unity_RAIN·2025-02-12 15:34

MongoDB的优势是什么？思维导图 代码示例（java 架构)

高性能内存映射文
用心去追梦·2025-02-12 14:32

【Linux编程】TcpServer 类的设计与实现：构建高性能的 TCP 服务器（二）

TcpServer类的设计与实现：构建高性能的TCP服务器在现代网络编程中，构建一个高效、稳定的TCP服务器是许多网络应用的基础。
自由柿·2025-02-12 14:01

在飞桨AIStudio星河社区使用Ollama运行DeepSeek-r1大模型

前段时间对DeepSeek感兴趣，发现使用Ollama部署非常简单方便。
skywalk8163·2025-02-12 14:29

在自己电脑上部署deepseek r1模型

文章目录在mac电脑上部署在windows电脑上部署一：先下载ollama二：下载部署Deepseek模型三：可视化图文交互界面Chatbox在mac电脑上部署总结：1、目标：类似的GUI界面使用；2、
step by step.·2025-02-12 14:28

k8s第一章：kubeadm集群搭建

开源容器应用自动化部署技术KubernetesKubernetes这个单词来自于希腊语，含义是舵手或领航员；生产环境级别的容器编排编排是什么意思:1.按照一定的目的依次排列；2.调配、安排；Kubernetes
琴剑诗酒·2025-02-12 13:27

Docker 的起源与基本概念

它以其独特的魅力，彻底革新了应用程序的开发、部署和运维模式，已然成为现代软件开发和运维领域中不可或缺的关键技术。
计算机毕设定制辅导-无忧学长·2025-02-12 12:51

Docker 的安装与环境配置

一、引言在当今的软件开发与部署领域，容器化技术无疑占据着举足轻重的地位，而Docker作为容器化技术的佼佼者，更是备受开发者的青睐。
计算机毕设定制辅导-无忧学长·2025-02-12 12:51

DeepSeek：API调用+联网搜索，分钟打造企业级 AI 应用

来一探究竟：免部署，分钟级搭建AI应用在腾讯云大模型知识引擎中，将DeepSeek大模型无缝整合到自己的应用场景中——平台提供多轮对话、文档解析、文本拆分、embedding计算等功能，开发者可以根据需求自由组合
奔向理想的星辰大海·2025-02-12 11:15

Deep Seek大模型部署到本地 详细教程

以下是将DeepSeek大模型部署到本地开发环境的详细教程，分为多个步骤，包含技术细节和注意事项：步骤1：环境准备硬件要求GPU：推荐NVIDIAGPU（至少16GB显存，如RTX3090/4090或A100
Katie。·2025-02-12 11:40

pytorch深度学习模型推理和部署、pytorch&ONNX&tensorRT模型转换以及python和C++版本部署

目录1.采用pytorch进行推理2.采用onnx进行推理2.1pytorch转换为onnx2.2onnx推理3.采用tensorrt进行推理（python环境）3.1onnx转engine文件3.2tensorrt
机械心·2025-02-12 10:40

Kubernetes (K8S) 集群架构与搭建方式详情

简介Kubernetes（K8S）是一个开源的容器编排平台，用于自动化应用程序的部署、扩展和管理。
I~Lucky·2025-02-12 10:07

昇腾，Ascend，NPU，mindie，镜像，部署vllm：第4篇，尝试多模态大模型部署（Qwen2-vl）

文章目录前言下载模型前言一直想部署一个多模态大模型，今天就以Qwen2-vl为例尝试一番吧。
几道之旅·2025-02-12 10:36

Dify设置访问ollama报错；An error occurred during credentials validation；解决方案。

文章目录前言第一坑第二坑原因最终效果：前言Dify的部署，是十分方便的。ollama的部署，也是十分方便的。但想要把二者结合起来，却有一些小小的坑。第一坑文字开头的图，有可能是你遇到的第一个报错。
几道之旅·2025-02-12 10:06

华为NPU服务器昇腾Ascend 910B2部署通义千问Qwen2.5——基于mindie镜像一路试错版（一）

文章目录`重要提醒：MINDIE镜像已更新版本，官网相关文档直接被删除了，建议直接移步新版`[昇腾，mindie，镜像，部署vllm：第1篇，安装新的docker镜像](https://blog.csdn.net
几道之旅·2025-02-12 10:06

华为NPU服务器昇腾Ascend 910B2部署通义千问Qwen2.5——基于mindie镜像一路试错版（三）

文章目录`重要提醒：MINDIE镜像已更新版本，官网相关文档直接被删除了，建议直接移步新版`[昇腾，mindie，镜像，部署vllm：第1篇，安装新的docker镜像](https://blog.csdn.net
几道之旅·2025-02-12 10:06

最全 禅道 项目管理软件各版本安装部署全攻略

一、禅道简介1.禅道是什么？功能强大的项目管理软件。禅道是一款专业的国产开源研发项目管理软件，集产品管理、项目管理、质量管理、文档管理、组织管理和事务管理于一体，完整覆盖了研发项目管理的核心流程。管理思想基于国际流行的敏捷项目管理方法——Scrum，在遵循其价值观的基础上，结合国内项目研发现状，整合了任务管理、需求管理、Bug管理、用例管理等多种功能，覆盖软件从计划到发布的整个生命周期。禅道分为多
猴哥聊项目管理·2025-02-12 09:31

部署Spring AOP报错：org.springframework.beans.factory.BeanCreationException解决方法

在部署SpringAOP时出现如下错误:org.springframework.beans.factory.BeanCreationException:Errorcreatingbeanwithname'adminbean'definedinclasspathresource
蔡小波·2025-02-12 09:31

MongoDB 5.0版本副本集集群

一、MongoDB5.0版本副本集集群部署什么是MongoDB的副本集MongoDB的副本集（ReplicaSet）是一种用于提高数据库系统可用性、可靠性和数据冗余性的机制。
颗粒CloudCoder·2025-02-12 09:00

K8S认证工程师(CKA)考试（最新版，实测可靠）

（求个关注吧）1、权限控制RBAC设置配置环境：[candidate@node-1]$kubectlconfiguse-contextk8sContext为部署流水线创建一个新的ClusterRole并将其绑定到范围为特定的
颗粒CloudCoder·2025-02-12 09:00

开发和部署 Tezos 智能合约

虽然以太坊是开发人员开发和部署智能合约的热门选择，但由于费用高且交易缓慢，其应用程序的可扩展性并不高。相比之下，Tezos应用程序的设置非常高效且成本低廉。
pxr007·2025-02-12 08:24

flask数据库mysql增删查改_Flask_SQLAlchemy ORM-CRUD (增删改查)

SQLAlchemy“采用简单的Python语言，为高效和高性能的数据库访问设计，实现了完整的企业级持久模型”。
兔丁麻麻·2025-02-12 08:51

宝塔一键部署Wordpress无法打开，显示响应时间太长

DeepSeek最后终于部署好了，但是突然发现建设其他站点时，都是无法访问，这是啥原因了？
黎想·2025-02-12 07:11

讲解一下SpringBoot的RPC连接

1.使用Dubbo实现RPCDubbo是阿里巴巴开源的一个高性能RPC框架，广泛应用于分布式系统中。Sp
陈老师还在写代码·2025-02-12 06:09

云原生应用架构-微服务开发最佳实践

这些服务围绕业务功能构建，可以通过完全自动化的部署机制独立部署。服务可以使用不同的编程语言，并使用不同的数据存储，我们可以以一个非常轻量级的中心化管理方式来协调服务。
港南四大炮亡·2025-02-12 06:06
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他