- chatGLM-6B部署报错quantization_kernels_parallel.so‘ (or one of its dependencies). Try using the full pat
FL1623863129
环境配置深度学习
用python部署chatglm2时候报错:FileNotFoundError:Couldnotfindmodule'C:\Users\Administrator\.cache\huggingface\modules\transformers_modules\chatglm2-6b-int4\quantization_kernels_parallel.so'(oroneofitsdependenc
- #LLM入门|Prompt#3.1 第三部分 使用 LangChain 开发应用程序_简介
向日葵花籽儿
LLM入门教程笔记AIGCpromptpythonLLMlangchain人工智能chatgpt
概述如何能够基于ChatGPT搭建一个完整、全面的问答系统,要搭建基于ChatGPT的完整问答系统,除去上一部分所讲述的如何构建PromptEngineering外,还需要完成多个额外的步骤。例如,处理用户输入提升系统处理能力,使用思维链、提示链来提升问答效果,检查输入保证系统反馈稳定,对系统效果进行评估以实现进一步优化等。当ChatGPTAPI提供了足够的智能性,系统的重要性就更充分地展现在保证
- 【AI】如何创建自己的自定义ChatGPT
小涵
AIChatGPTaichatgptopenaillamalangchainpython语言模型
如何创建自己的自定义ChatGPT目录如何创建自己的自定义ChatGPT大型语言模型(LLM)GPT模型ChatGPTOpenAIAPILlamaIndexLangChain参考推荐超级课程:Docker快速入门到精通Kubernetes入门到大师通关课本文将记录如何使用OpenAIGPT-3.5模型、LlamaIndex和LangChain创建自己的自定义ChatGPT.大型语言模型(LLM)大
- beam search原理与常见实现,与直接sample的区别
samoyan
LLM面试transformer面试
目录BeamSearch原理1.基本概念2.工作流程3.特点BeamSearch与直接Sample的区别1.确定性与随机性2.结果多样性3.性能与效率4.应用场景常见的BeamSearch实现1.TensorFlow库2.PyTorch库3.HuggingFace的Transformers库算法库和工具BeamSearch原理1.基本概念BeamSearch是一种启发式图搜索算法,常用于自然语言处
- 安装langchain环境报错:ModuleNotFoundError: No module named ‘fastchat‘,解决方案
苏鱼鱼的小鱼儿
pythonlangchain
这个报错需要下载fschat包,没有fastchat包pipinstallfschat即可可以从阿里源下载pipinstallfschat-ihttps://mirrors.aliyun.com/pypi/simple
- Made In Heaven,LLM要加速了
DisonTangor
人工智能transformer
借鉴了荒木老师笔下的普奇神父的台词玩LLM的多数用的是Huggingface框架,而它本身提供的是accelerate库来提升模型的训练推理速度。这些都离不开Nvidia的Cuda计算,而目前适配这一驱动的只有Windows和Linux。于是我就尝试在这两个系统上进行加速实验,尝试HuggingfaceDoc中推荐的FlashAttention2以及vLLM的PageAttention。原理参考L
- 大模型训练——PEFT与LORA介绍
MarkHD
人工智能深度学习机器学习
大模型训练中的PEFT(Parameter-EfficientFine-Tuning)与LoRA(Low-RankAdaptation)是两种重要的技术,它们在大型预训练模型的应用中发挥着重要作用。首先,让我们来了解一下PEFT。PEFT是一种参数高效的微调技术,由Huggingface发布。这种方法的核心思想是仅微调少量(额外)模型参数,同时冻结预训练LLM的大部分参数。这样做的好处是大大降低了
- Python连接huggingface的API接口
young
服务器运维
之前不明白这个过程,现在记录一下。我的原本目的:在本地写Python代码,然后调用huggingface中某个项目中模型的接口,从而完成模型的调用。以期达到我在本地键入输入,得到模型的输出,从而测试模型效果。之前的代码以及出现的问题:之前的代码:importrequestsAPI_URL="https://api-inference.huggingface.co/models/flax-sente
- Langchain 加载网络信息实现RAG以及UnstructuredURLLoader的使用
hehui0921
LangChainlangchain
以下实现了从wikipedia加载Android的网页然后保存在本地的向量数据库,然后通过上下文发给大模型,让他来总结什么是android。fromlangchain_community.vectorstoresimportChromafromlangchain_core.promptsimportChatPromptTemplatefromlangchain_core.output_parser
- Huggingface镜像网站下载语言模型方法
幽影相随
语言模型人工智能
通常通过镜像网站下载https://hf-mirror.com/。在链接页面有介绍方法,对于不大的模型可以直接下载。这里介绍比较常用且方便的下载方法。使用huggingface官方提供的huggingface-cli命令行工具安装(huggingface_hub、hf_transfer安装可以使用-i命令从镜像网站下载)pipinstall-Uhuggingface_hubhf_transfer基
- 【Langchain Agent研究】SalesGPT项目介绍(五)
AI小万老师
salesGPT研究拆解langchain人工智能promptSalesGPTAgentLLM
【LangchainAgent研究】SalesGPT项目介绍(四)-CSDN博客上节课,我们分析了一下salesGPT项目里源代码的一些问题,重新写了一个运行方法,换了一个模型并修改了一些源代码开始把项目跑起来了,我们已经可以通过console和模型进行对话了。我们之前选的模式是不使用工具的模式,所以我们启用的是sales_conversation_utterance_chain,这节课我们尝试使
- 【Langchain Agent研究】SalesGPT项目介绍(四)
AI小万老师
salesGPT研究拆解langchainsalesGPTopenaiAgentprompt
【LangchainAgent研究】SalesGPT项目介绍(三)-CSDN博客github地址:GitHub-jerry1900/SalesGPT:Context-awareAISalesAgenttoautomatesalesoutreach.上节课,我们主要介绍了SalesGPT的类属性和它最重要的类方法from_llm()。因为SalesGPT没有构造器方法,所以类方法from_llm()
- 如何通过AI作画?
刀锋0001
AI作画
网址:https://huggingface.co/spaces/prodia/fast-stable-diffusion模板网址:https://prompthero.com/prompt/96ee86ae9e2打开模板网址,选择StableDiffusion选择图片,复制prompt和Negativeprompt打开https://huggingface.co/spaces/prodia/fa
- stable diffusion官方版本复现
Zhuanshan_
stablediffusion
踩了一些坑,来记录下环境CentOSLinuxrelease7.5.1804(Core)服务器RTX3090复现流程按照StableDiffusion的readme下载模型权重、我下载的是stable-diffusion-v1-4版本的1因为服务器没法上huggingface,所以得把权重下载到本地,但是运行链接ln-smodels/ldm/stable-diffusion-v1/model.ck
- Hugging Face PEFT文档指南 - 第一章:开始使用
Tim_Van
NLP大语言模型自然语言处理python
原文:PEFT文档指南-第一章:开始使用https://huggingface.co/docs/peft/indexPEFTPEFT(参数高效微调)是一个库,用于有效地将预训练的语言模型(PLMs)适应各种下游应用,而无需微调所有模型的参数。PEFT方法仅微调少量(额外)模型参数,显著降低了计算和存储成本,因为微调大型PLMs的成本过高。最近的最先进的PEFT技术达到了与完全微调相当的性能。PEF
- stable-cascade 文生图模型diffusers使用案例
loong_XL
多模态深度学习AIGCVLM
参考:https://huggingface.co/stabilityai/stable-cascade下载:需要分别下载两个模型stabilityai/stable-cascade-prior与stabilityai/stable-cascadediffusers版本也要指定安装:pipinstallgit+https://github.com/kashif/diffusers.git@wuer
- 使用 RAG 创建 LLM 应用程序
ericliu2017
人工智能chatgptRAGLLM
如果您考虑为您的文件或网站制作一个能够回应您的个性化机器人,那么您来对地方了。我可以帮助您使用Langchain和RAG策略来创建这样一个机器人。了解ChatGPT的局限性和LLMsChatGPT和其他大型语言模型(LLMs)经过广泛训练,以理解语言的语义和连贯性。尽管它们具有令人印象深刻的能力,但这些模型也存在一些限制,需要在特定用例中进行仔细考虑。一个重要的挑战是可能出现幻觉,模型可能会生成不
- 听说有 Hugging Face 陪伴的春节,是这样的…
人工智能
辞旧迎新春节到,家家户户好热闹。HuggingFace中国团队成员祝各位社区成员们新春快乐,万事如意!过去的一年我们持续看到AI技术的腾飞和发展,以及诸多机构为开源AI作出巨大的贡献。非常感谢将模型、数据集和应用Demo发布在HuggingFace上的团队,新的一年,我们也会持续发掘和介绍更多国内开发者/研究机构发布在HuggingFace上的作品。也欢迎大家主动联系我们(ง•̀_•́)ง新年到,
- LLaMA 2 - 你所需要的一切资源
llama人工智能
摘录关于LLaMA2的全部资源,如何去测试、训练并部署它。LLaMA2是一个由Meta开发的大型语言模型,是LLaMA1的继任者。LLaMA2可通过AWS、HuggingFace等提供商获取,并免费用于研究和商业用途。LLaMA2预训练模型在2万亿个标记上进行训练,相比LLaMA1的上下文长度增加了一倍。它的微调模型则在超过100万个人工标注数据下完成。这篇博客包含了所有的相关资源,以帮助您快速入
- 斯坦福大学分析3.2万篇大模型HuggingFace文档后指出:现状堪忧!
夕小瑶
人工智能机器学习深度学习
随着人工智能(AI)模型在各个领域的广泛应用,模型文档化的重要性日益凸显。文档化不仅帮助用户理解、信任并有效地使用这些模型,还揭示了模型潜在的偏见、错误和局限性,这对于那些模型输出具有深远影响的领域尤为关键,如医疗保健、金融和执法等。然而,尽管模型卡片已成为记录AI模型的标准方法,但目前对于模型卡片的质量和信息量尚未进行系统分析。这一空白可能导致文档化实践的不足,从而妨碍了确保AI技术的公平性、问
- sdxl-turbo、playground文生图模型使用案例
loong_XL
深度学习多模态pytorch深度学习人工智能
1、sdxl-turboSDXL-Turbo是一种快速生成的文本到图像模型,可以在单个网络评估中从文本提示合成逼真的图像。参考:https://huggingface.co/stabilityai/sdxl-turbo对比效果相比PixArt模型差很多,参考https://blog.csdn.net/weixin_42357472/article/details/1355201421)文生图gpu
- 基于langgraph的开发入门(初稿)
瓶子好亮
langchainpytorch人工智能
前言:由于langgraph是较新的multi-agent框架,资料较少,官方文档又晦涩难懂,且自己只有一点点langchain的经验,所以准备精读langgraph的框架,特此记录,以供查阅Chapter1:初识langgraph作用:1.一个能够实现多个action的库,用循环的方式能够协调多个langchain。能够循环调用大模型的能力,而不是一个DAG框架(类似于metagpt那种),这能
- 真、开源LLM-OLMo
choose_c
大模型LLM
论文:https://arxiv.org/pdf/2402.00838.pdfWeightshttps://huggingface.co/allenai/OLMo-7BCodehttps://github.com/allenai/OLMoDatahttps://huggingface.co/datasets/allenai/dolmaEvaluationhttps://github.com/all
- 基于 InternLM 和 LangChain 搭建你的知识库(三)
骆驼穿针眼
langchain
基于InternLM和LangChain搭建你的知识库大模型开发范式Finetune在大型语言模型中,Finetune(微调)是一种技术,用于调整预训练的模型以提高其在特定任务或数据集上的表现。这种方法通常涉及以下步骤:预训练模型:首先,需要一个预训练的大型语言模型,如GPT、BERT或其他变体。这些模型通常在大型文本语料库上训练,以学习语言的广泛特征和结构。特定任务的数据:接着,收集和准备针对特
- 如何使用Hugging Face:对Transformer和pipelines的介绍
第欧根尼的酒桶
transformer深度学习人工智能
一、transformer介绍众所周知,transformer模型(如GPT-3、LLaMa和ChatGPT)已经彻底改变了人工智能领域。它们不仅被用于自然语言处理,还被应用于计算机视觉、语音处理和其他任务中。HuggingFace是一个以变换器为核心的Python深度学习库。因此,在我们深入了解其工作原理之前,我们将探讨什么是transformer,以及为什么它们能够支持如此强大的模型。1.递归
- 使用GPT3.5,LangChain,FAISS和python构建一个本地知识库
juhanishen
GPTgpt-3langchainfaisschatbot
本篇文章获得同事刘工的授权刊登。原文发表于2023年6月28日。引言介绍本地知识库的概念和用途在现代信息时代,我们面临着海量的数据和信息,如何有效地管理和利用这些信息成为一项重要的任务。本地知识库是一种基于本地存储的知识管理系统,旨在帮助用户收集、组织和检索大量的知识和信息。它允许用户在本地环境中构建和管理自己的知识资源,以便更高效地进行信息处理和决策。本地知识库通常采用数据库、索引和搜索技术,以
- 使用GPT3.5,LangChain,Milvus和python构建一个本地知识库
juhanishen
gpt-3langchainmilvus
本篇文章获得同事刘工的授权刊登。原文发表于2023年7月13日。引言介绍本地知识库的概念和用途在现代信息时代,我们面临着海量的数据和信息,如何有效地管理和利用这些信息成为一项重要的任务。本地知识库是一种基于本地存储的知识管理系统,旨在帮助用户收集、组织和检索大量的知识和信息。它允许用户在本地环境中构建和管理自己的知识资源,以便更高效地进行信息处理和决策。本地知识库通常采用数据库、索引和搜索技术,以
- 生成图片的大模型
hehui0921
huggingface机器翻译
https://huggingface.co/spaces/briaai/BRIA-2.2-FAST
- 一些好的huggingface space
hehui0921
huggingface深度学习
https://huggingface.co/spaces/ehristoforu/mixtral-46.7b-chattexttoimage:https://huggingface.co/spaces/latent-consistency/lcm-lora-for-sdxlhttps://huggingface.co/spaces/briaai/BRIA-2.2-FAST
- huggingface pipeline零训练样本分类Zero-Shot Classification的实现
hehui0921
huggingface分类python数据挖掘
1:默认的model。fromhuggingface_hub.hf_apiimportHfFolderHfFolder.save_token('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')fromtransformersimportMBartForConditionalGeneration,MBart50TokenizerFastfromtransformersi
- 基本数据类型和引用类型的初始值
3213213333332132
java基础
package com.array;
/**
* @Description 测试初始值
* @author FuJianyong
* 2015-1-22上午10:31:53
*/
public class ArrayTest {
ArrayTest at;
String str;
byte bt;
short s;
int i;
long
- 摘抄笔记--《编写高质量代码:改善Java程序的151个建议》
白糖_
高质量代码
记得3年前刚到公司,同桌同事见我无事可做就借我看《编写高质量代码:改善Java程序的151个建议》这本书,当时看了几页没上心就没研究了。到上个月在公司偶然看到,于是乎又找来看看,我的天,真是非常多的干货,对于我这种静不下心的人真是帮助莫大呀。
看完整本书,也记了不少笔记
- 【备忘】Django 常用命令及最佳实践
dongwei_6688
django
注意:本文基于 Django 1.8.2 版本
生成数据库迁移脚本(python 脚本)
python manage.py makemigrations polls
说明:polls 是你的应用名字,运行该命令时需要根据你的应用名字进行调整
查看该次迁移需要执行的 SQL 语句(只查看语句,并不应用到数据库上):
python manage.p
- 阶乘算法之一N! 末尾有多少个零
周凡杨
java算法阶乘面试效率
&n
- spring注入servlet
g21121
Spring注入
传统的配置方法是无法将bean或属性直接注入到servlet中的,配置代理servlet亦比较麻烦,这里其实有比较简单的方法,其实就是在servlet的init()方法中加入要注入的内容:
ServletContext application = getServletContext();
WebApplicationContext wac = WebApplicationContextUtil
- Jenkins 命令行操作说明文档
510888780
centos
假设Jenkins的URL为http://22.11.140.38:9080/jenkins/
基本的格式为
java
基本的格式为
java -jar jenkins-cli.jar [-s JENKINS_URL] command [options][args]
下面具体介绍各个命令的作用及基本使用方法
1. &nb
- UnicodeBlock检测中文用法
布衣凌宇
UnicodeBlock
/** * 判断输入的是汉字 */ public static boolean isChinese(char c) { Character.UnicodeBlock ub = Character.UnicodeBlock.of(c);
- java下实现调用oracle的存储过程和函数
aijuans
javaorale
1.创建表:STOCK_PRICES
2.插入测试数据:
3.建立一个返回游标:
PKG_PUB_UTILS
4.创建和存储过程:P_GET_PRICE
5.创建函数:
6.JAVA调用存储过程返回结果集
JDBCoracle10G_INVO
- Velocity Toolbox
antlove
模板toolboxvelocity
velocity.VelocityUtil
package velocity;
import org.apache.velocity.Template;
import org.apache.velocity.app.Velocity;
import org.apache.velocity.app.VelocityEngine;
import org.apache.velocity.c
- JAVA正则表达式匹配基础
百合不是茶
java正则表达式的匹配
正则表达式;提高程序的性能,简化代码,提高代码的可读性,简化对字符串的操作
正则表达式的用途;
字符串的匹配
字符串的分割
字符串的查找
字符串的替换
正则表达式的验证语法
[a] //[]表示这个字符只出现一次 ,[a] 表示a只出现一
- 是否使用EL表达式的配置
bijian1013
jspweb.xmlELEasyTemplate
今天在开发过程中发现一个细节问题,由于前端采用EasyTemplate模板方法实现数据展示,但老是不能正常显示出来。后来发现竟是EL将我的EasyTemplate的${...}解释执行了,导致我的模板不能正常展示后台数据。
网
- 精通Oracle10编程SQL(1-3)PLSQL基础
bijian1013
oracle数据库plsql
--只包含执行部分的PL/SQL块
--set serveroutput off
begin
dbms_output.put_line('Hello,everyone!');
end;
select * from emp;
--包含定义部分和执行部分的PL/SQL块
declare
v_ename varchar2(5);
begin
select
- 【Nginx三】Nginx作为反向代理服务器
bit1129
nginx
Nginx一个常用的功能是作为代理服务器。代理服务器通常完成如下的功能:
接受客户端请求
将请求转发给被代理的服务器
从被代理的服务器获得响应结果
把响应结果返回给客户端
实例
本文把Nginx配置成一个简单的代理服务器
对于静态的html和图片,直接从Nginx获取
对于动态的页面,例如JSP或者Servlet,Nginx则将请求转发给Res
- Plugin execution not covered by lifecycle configuration: org.apache.maven.plugin
blackproof
maven报错
转:http://stackoverflow.com/questions/6352208/how-to-solve-plugin-execution-not-covered-by-lifecycle-configuration-for-sprin
maven报错:
Plugin execution not covered by lifecycle configuration:
- 发布docker程序到marathon
ronin47
docker 发布应用
1 发布docker程序到marathon 1.1 搭建私有docker registry 1.1.1 安装docker regisry
docker pull docker-registry
docker run -t -p 5000:5000 docker-registry
下载docker镜像并发布到私有registry
docker pull consol/tomcat-8.0
- java-57-用两个栈实现队列&&用两个队列实现一个栈
bylijinnan
java
import java.util.ArrayList;
import java.util.List;
import java.util.Stack;
/*
* Q 57 用两个栈实现队列
*/
public class QueueImplementByTwoStacks {
private Stack<Integer> stack1;
pr
- Nginx配置性能优化
cfyme
nginx
转载地址:http://blog.csdn.net/xifeijian/article/details/20956605
大多数的Nginx安装指南告诉你如下基础知识——通过apt-get安装,修改这里或那里的几行配置,好了,你已经有了一个Web服务器了。而且,在大多数情况下,一个常规安装的nginx对你的网站来说已经能很好地工作了。然而,如果你真的想挤压出Nginx的性能,你必
- [JAVA图形图像]JAVA体系需要稳扎稳打,逐步推进图像图形处理技术
comsci
java
对图形图像进行精确处理,需要大量的数学工具,即使是从底层硬件模拟层开始设计,也离不开大量的数学工具包,因为我认为,JAVA语言体系在图形图像处理模块上面的研发工作,需要从开发一些基础的,类似实时数学函数构造器和解析器的软件包入手,而不是急于利用第三方代码工具来实现一个不严格的图形图像处理软件......
&nb
- MonkeyRunner的使用
dai_lm
androidMonkeyRunner
要使用MonkeyRunner,就要学习使用Python,哎
先抄一段官方doc里的代码
作用是启动一个程序(应该是启动程序默认的Activity),然后按MENU键,并截屏
# Imports the monkeyrunner modules used by this program
from com.android.monkeyrunner import MonkeyRun
- Hadoop-- 海量文件的分布式计算处理方案
datamachine
mapreducehadoop分布式计算
csdn的一个关于hadoop的分布式处理方案,存档。
原帖:http://blog.csdn.net/calvinxiu/article/details/1506112。
Hadoop 是Google MapReduce的一个Java实现。MapReduce是一种简化的分布式编程模式,让程序自动分布到一个由普通机器组成的超大集群上并发执行。就如同ja
- 以資料庫驗證登入
dcj3sjt126com
yii
以資料庫驗證登入
由於 Yii 內定的原始框架程式, 採用綁定在UserIdentity.php 的 demo 與 admin 帳號密碼: public function authenticate() { $users=array( &nbs
- github做webhooks:[2]php版本自动触发更新
dcj3sjt126com
githubgitwebhooks
上次已经说过了如何在github控制面板做查看url的返回信息了。这次就到了直接贴钩子代码的时候了。
工具/原料
git
github
方法/步骤
在github的setting里面的webhooks里把我们的url地址填进去。
钩子更新的代码如下: error_reportin
- Eos开发常用表达式
蕃薯耀
Eos开发Eos入门Eos开发常用表达式
Eos开发常用表达式
>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>
蕃薯耀 2014年8月18日 15:03:35 星期一
&
- SpringSecurity3.X--SpEL 表达式
hanqunfeng
SpringSecurity
使用 Spring 表达式语言配置访问控制,要实现这一功能的直接方式是在<http>配置元素上添加 use-expressions 属性:
<http auto-config="true" use-expressions="true">
这样就会在投票器中自动增加一个投票器:org.springframework
- Redis vs Memcache
IXHONG
redis
1. Redis中,并不是所有的数据都一直存储在内存中的,这是和Memcached相比一个最大的区别。
2. Redis不仅仅支持简单的k/v类型的数据,同时还提供list,set,hash等数据结构的存储。
3. Redis支持数据的备份,即master-slave模式的数据备份。
4. Redis支持数据的持久化,可以将内存中的数据保持在磁盘中,重启的时候可以再次加载进行使用。
Red
- Python - 装饰器使用过程中的误区解读
kvhur
JavaScriptjqueryhtml5css
大家都知道装饰器是一个很著名的设计模式,经常被用于AOP(面向切面编程)的场景,较为经典的有插入日志,性能测试,事务处理,Web权限校验, Cache等。
原文链接:http://www.gbtags.com/gb/share/5563.htm
Python语言本身提供了装饰器语法(@),典型的装饰器实现如下:
@function_wrapper
de
- 架构师之mybatis-----update 带case when 针对多种情况更新
nannan408
case when
1.前言.
如题.
2. 代码.
<update id="batchUpdate" parameterType="java.util.List">
<foreach collection="list" item="list" index=&
- Algorithm算法视频教程
栏目记者
Algorithm算法
课程:Algorithm算法视频教程
百度网盘下载地址: http://pan.baidu.com/s/1qWFjjQW 密码: 2mji
程序写的好不好,还得看算法屌不屌!Algorithm算法博大精深。
一、课程内容:
课时1、算法的基本概念 + Sequential search
课时2、Binary search
课时3、Hash table
课时4、Algor
- C语言算法之冒泡排序
qiufeihu
c算法
任意输入10个数字由小到大进行排序。
代码:
#include <stdio.h>
int main()
{
int i,j,t,a[11]; /*定义变量及数组为基本类型*/
for(i = 1;i < 11;i++){
scanf("%d",&a[i]); /*从键盘中输入10个数*/
}
for
- JSP异常处理
wyzuomumu
Webjsp
1.在可能发生异常的网页中通过指令将HTTP请求转发给另一个专门处理异常的网页中:
<%@ page errorPage="errors.jsp"%>
2.在处理异常的网页中做如下声明:
errors.jsp:
<%@ page isErrorPage="true"%>,这样设置完后就可以在网页中直接访问exc