LLM微调第17页

NNI --模型剪枝

预训练模型->修剪模型->微调修剪后的模型在训练期间修剪模型（即修剪感知训练）->微调修剪后的模型修剪模型->从头开始训练修剪后的模型模型剪枝

Good@dz·2024-01-26 01:33

LLM之调用智谱API实现问答

大语言模型（LLM）自从chatGPT发布以来，很多机构都发布了自己的大语言模型调用API，目前国内有百度的文心一言，阿里的通义千问，智谱，科大讯飞的讯飞星火等等。

IRevers·2024-01-26 00:17

60分钟速通LoRA模型训练！

Lora原理分析与其他两种微调模式的区别TexualInversional只微调了文本编辑器Dreambooth等手段微调文本编译器和噪声预测器两部分（噪声预测器微调难度更大，db的高配置要求就是为了同时微调其中的所有参数

不安全的安保·2024-01-26 00:44

js - - - - - 如何给自己的网站添加中英文切换（多语言也可）

如何给自己的网站添加中英文切换1.需求描述2.解决方案3.方案实施3.1简单实现（第一版）3.2样式微调（第二版）3.3重载页面（第三版）3.4自动翻译（第四版）3.5限定适用范围（第五版）1.需求描述因公司外籍人员的比例达到了一定的数量

Dark_programmer·2024-01-25 22:19

书生·浦语大模型--第四节课作业

书生·浦语大模型--第四节课作业基础部分进阶部分基础部分基础作业：构建数据集，使用XTuner微调InternLM-Chat-7B模型,让模型学习到它是你的智能小助手，效果如下图所示，本作业训练出来的模型的输出需要将不要葱姜蒜大佬替换成自己名字或昵称

李日音·2024-01-25 21:02

书生·浦语大模型--第四节课笔记--XTuner大模型单卡低成本微调

文章目录Finetune简介指令跟随微调增量预训练微调LoRAQLoRAXTuner介绍快速上手8GB显卡玩转LLM动手实战环节Finetune简介增量预训练和指令跟随通过指令微调获得instructedLLM

李日音·2024-01-25 21:02

创业路上，找对产品很重要

这一点，我应该是吃了不少亏，去年清远金宝贝早教的同学，就和我说了这一点，说成熟的大公司，别人已经摸了十几二十年，走了很多弯路，其品牌影响力、运营、市场、技术都有很多可以直接参考的，COPY过来照做，微调

Joyceli9588·2024-01-25 20:06

Retrieval-augmented Multi-modal Chain-of-Thoughts Reasoning for Large Language Models

本文是LLM系列文章，针对《Retrieval-augmentedMulti-modalChain-of-ThoughtsReasoningforLargeLanguageModels》的翻译。

UnknownBody·2024-01-25 17:53

Jellyfish: A Large Language Model for Data Preprocessing

本文是LLM系列文章，针对《Jellyfish:ALargeLanguageModelforDataPreprocessing》的翻译。

UnknownBody·2024-01-25 17:23

Large Language Models Empowered Agent-based Modeling and Simulation: A Survey and Perspectives

本文是LLM系列文章，针对《LargeLanguageModelsEmpoweredAgent-basedModelingandSimulation:ASurveyandPerspectives》的翻译

UnknownBody·2024-01-25 17:23

PromptBench: A Unified Library for Evaluation of Large Language Models

本文是LLM系列文章，针对《PromptBench:AUnifiedLibraryforEvaluationofLargeLanguageModels》的翻译。

UnknownBody·2024-01-25 17:22

21天目标反思

经过一周的实践对21天的微目标进行微调。

并咬了你一下小辉·2024-01-25 14:19

ntp的step和slew同步模式

slew：平滑，缓慢，微调，令客户端时间平滑地趋近服务端时间；step：分步，分阶段，相当于电视换频道一样，一个一个的跳跃。为什么要讨论ntp的同步模式？

itachi-uchiha·2024-01-25 14:15

Nginx的UDP健康检查

先决条件被动UDP健康检查主动UDP运行状况检查微调UDP运行状况检查“匹配”配置块NTP测试示例DNS测试示例先决条件您已配置上下文中的上游服务器组来处理UDP网络流量（DNS，RADIUS，系统日志

星河_赵梓宇·2024-01-25 14:25

大语言模型推理提速：TensorRT-LLM 高性能推理实践

作者：顾静TensorRT-LLM如何提升LLM模型推理效率大型语言模型（Largelanguagemodels,LLM）是基于大量数据进行预训练的超大型深度学习模型。

阿里云云原生·2024-01-25 13:00

[晓理紫]每日论文分享(有中文摘要，源码或项目地址)--机器人、强化学习、开放词汇

分类:大语言模型LLM视觉模型VLM扩散模型视觉导航具身智能，机器人强化学习开放词汇，检测分割==roboticagent==标题:TheConversationistheCommand:InteractingwithReal-WorldAuto

晓理紫·2024-01-25 13:01

[晓理紫]每日论文分享(有中文摘要，源码或项目地址)--大模型、扩散模型、视觉导航

分类:大语言模型LLM视觉模型VLM扩散模型视觉导航具身智能，机器人强化学习开放词汇，检测分割==chatgpt@largelanguagemodel@LLM==标题:HAZARDChallenge:EmbodiedDecisionMakingi

晓理紫·2024-01-25 13:01

[晓理紫]每日论文分享(有中文摘要，源码或项目地址)-大模型、扩散模型、视觉导航

分类:大语言模型LLM视觉模型VLM扩散模型视觉导航具身智能，机器人强化学习开放词汇，检测分割==LLM==标题:MindYourFormat:TowardsConsistentEvaluationofIn-ContextLearningImpr

晓理紫·2024-01-25 12:31

[晓理紫]每日论文分享(有中文摘要，源码或项目地址)--机器人、强化学习

分类:大语言模型LLM视觉模型VLM扩散模型视觉导航具身智能，机器人强化学习开放词汇，检测分割==roboticagent==标题:WorkspaceOptimizationTechniquestoImprovePredictionofHuman

晓理紫·2024-01-25 12:26

Dify学习笔记-工具（七）

1、工具工具定义工具可以扩展LLM的能力，比如联网搜索、科学计算或绘制图片，赋予并增强了LLM连接外部世界的能力。Dify提供了两种工具类型：第一方工具和自定义工具。

有语忆语·2024-01-25 12:21

Dify.AI：简单易用的 LLMOps 平台，可视化创造和运营你的 AI 原生应用

随着大型语言模型（LLM）不断涌现的各种能力，AI应用的场景变得更加广阔。然而，对于大多数开发者而言，基于GPT等大型语言模型、Langchain等技术框架开发AI应用仍然是一项门槛极高的任务。

Dify.AI·2024-01-25 12:48

LLM推理的吞吐、时延及成本空间

选择正确的LLM推理栈意味着选择适合你的任务的正确模型，并配以适当的推理代码在适当的硬件上运行。

AI知识图谱大本营·2024-01-25 12:42

大模型可视化

在线网址：https://bbycroft.net/llm如果在线玩感觉不过瘾，可以部署到本地，下面是源码，内附部署教程。

AI知识图谱大本营·2024-01-25 12:12

瓦片地图编辑器推进日志#004图片贴入

微调代码，实现图片笔刷暂存。

a1309602336·2024-01-25 08:49

XTuner大模型单卡低成本微调实战

XTuner大模型单卡低成本微调实战最开始还是越学越迷糊的状态当训练260步左右的时候loss已经比较小了（0.0460），已经可以生成对应的内容了

__y__·2024-01-25 08:49

大模型面试题总结

文章目录一、大模型（LLMs）基础面二、大模型（LLMs）进阶面三、大模型（LLMs）微调面四、大模型（LLMs）langchain面1.基于LLM+向量库的文档对话基础面2.基于LLM+向量库的文档对话优化面

谢白羽·2024-01-25 08:32

书生·浦语大模型实战营第四次课堂笔记

但是还是看看视频吧微调是在海量的文本内容的基础上以无监督或半监督的方式进行训练的qlora是对lora的一种改进~感觉就是更高级点的工具对话模版~XTuner介

Unicornlyy·2024-01-25 07:59

大语言模型系列-BERT

MaskedLanguageModelNextSentencePredictionloss二、BERT创新点总结前言前文提到的GPT-1开创性的将TransformerDecoder架构引入NLP任务，并明确了预训练（学习text表征）+微调这种半监督训练方法

学海一叶·2024-01-25 07:58

大语言模型系列-T5

文章目录前言一、T5的网络结构和流程二、T5的预训练过程三、其他训练结论总结前言目前已经讲解了目前LLM的三大流派的两个起始模型：GPT-1（Decoderonly）、BERT（Encoderonly）

学海一叶·2024-01-25 07:27

使用Transformers微调基于BERT模型做中文命名实体识别任务

注意版本！！python==3.8.6torch==1.10.0transformers==4.36.2datasets==2.15.0importjson#数据集下载地址：https://www.cluebenchmarks.com/introduce.html#细粒度命名实体识别->下载#将数据转为BIO标注形式defdimension_label(path,save_path,labels_

Shy960418·2024-01-25 07:56

认识与探索大模型时代的RPA应用及进化（上）

而同时另外一种在最近几年广受欢迎的自动化解决方案-RPA（机器人流程自动化）也在LLM时代不断升级进化。本文将尝试结合理论与实例来梳理与探讨RPA在LLM影响下的应用与发展。

RPA中国·2024-01-25 06:34

【大模型实践】ChatGLM3-6B 微调实践，更新模型知识

如果你是NLP领域初学者，欢迎关注我的博客，我不仅会分享理论知识，更会通过实例和实用技巧帮助你迅速入门。我的目标是让每个初学者都能轻松理解复杂的NLP概念，并在实践中掌握这一领域的核心技能。通过我的博客，你将了解到：•NLP的基础概念，为你打下坚实的学科基础。•实际项目中的应用案例，让你更好地理解NLP技术在现实生活中的应用。•学习和成长的资源，助你在NLP领域迅速提升自己。不论你是刚刚踏入NLP

NLP前沿探寻·2024-01-25 05:04

LLM、GPT和人工智能之间的关系和区别，你知道多少？

LLM（LargeLanguageModel）、GPT（GenerativePre-trainedTransformer）和人工智能之间的关系如下：定义人工智能首先，人工智能（ArtificialIntelligence

shengjk1·2024-01-25 04:00

大语言模型(LLM)有哪些？

GPT系列模型通过预训练和微调的方式，可以生成高质量的文本。BERTBER

图灵追慕者·2024-01-25 03:13

解锁 AI 潜力 | 使用 GreptimeAI 深入观测 OpenAI 行为和用量

GreptimeAIGreptimeAI提供了专为监测和管理大型语言模型（LLM

Greptime·2024-01-25 03:42

GreptimeAI + Xinference 联合方案：高效部署并监控你的 LLM 应用

随着OpenAI的兴起，同时涌现的还有许多其他优质的开源大语言模型，比如Llama，ChatGLM，Qwen等等，这些优秀的开源模型也可以帮助团队快速地搭建出一个出色的LLM应用。

Greptime·2024-01-25 03:10

我只是提前了半小时起床而已

从上周开始，我将自己的作息时间表稍微调整了一下，把原来7:00起床提前了半小时。图片发自App自从做了调整之后，我突然发现自己每天的时间变得充足多了。

爱玩毛线的喵·2024-01-25 00:07

antdv中table组件滚动条样式修改

取决于是垂直滚动条还是水平滚动条）::-webkit-scrollbar-track滚动条的轨道（里面装有thumb）::-webkit-scrollbar-button滚动条轨道两端的按钮，允许通过点击微调小方块的位置

qq_40055200·2024-01-25 00:25

【AI大模型】WikiChat超越GPT-4：在模拟对话中事实准确率提升55%终极秘密

Wikichat论文中写道：WikiChat,这是第一个基于少量提示的LLM聊天机器人，它在模拟对话中的事实准确率几乎可以达到

德天老师·2024-01-25 00:45

【文献阅读】Harnessing Explanations LLM-to-LM Interprete for Enhanced TAG Graph Reresentation Learning

问题：最近LLM大火，GPT和Lama2表现出推理和利用常识的能力。进一步，如何将这种文本建模能力与GNN的结构学习能力相结合成为突出性问题。贡

SuperCooper·2024-01-24 22:04

【文献阅读】ERNIE Enhanced Language Representation with Informative Entities

论文链接摘要背景：在大规模语料库上预训练的BERT等LR模型可以很好地从纯文本中捕获丰富地语义模式，并进行微调以持续提高各种NLP任务的性能。

SuperCooper·2024-01-24 22:04

ECCV2022 Oral | MaskCLIP

为此，作者通过最少的修改展示了MaskCLIP在没有注释和微调的情况下，在跨各种数据集的开放概念上产生了令人信服的分割结果。通过

FightingCV·2024-01-24 19:40

控制LLM大模型输出JSON的方法

随着大型语言模型（LLM）的不断发展，它们在各种应用中发挥着越来越重要的作用。然而，LLM的输出通常是以自然语言形式呈现的，这使得将其转换为结构化格式（如JSON）变得困难。

百度_开发者中心·2024-01-24 16:44

基于大模型(LLM)的数据仓库

本文将介绍如何利用大型语言模型（LLM）技术，实现数据仓库的智能化运维。一、数据仓库概述数据仓库是一个大型、集中式的存储系统，用于存储和管理企业的结构化数据。

百度_开发者中心·2024-01-24 16:14

LoRA微调语言大模型的实用技巧

然而，要使这些通用模型在特定任务上发挥出色，还需要借助微调技术。其中，LoRA微调是一种高效的方法，能够显著提高大型语言模型的性能。

百度_开发者中心·2024-01-24 16:43

LLM大模型引领信息检索新时代

一、LLM大模型在信息检索领域的应用LLM大模型，即大规模语言模型，是人工智能领域的一项重要技术。

百度_开发者中心·2024-01-24 15:42

利用LLM大模型实现智能报表生成

随着自然语言处理技术的不断发展，利用LLM（LargeLanguageModel）大模型实现智能报表生成已成为一种新兴趋势。