- chatGLM-6B部署报错quantization_kernels_parallel.so‘ (or one of its dependencies). Try using the full pat
FL1623863129
环境配置深度学习
用python部署chatglm2时候报错:FileNotFoundError:Couldnotfindmodule'C:\Users\Administrator\.cache\huggingface\modules\transformers_modules\chatglm2-6b-int4\quantization_kernels_parallel.so'(oroneofitsdependenc
- beam search原理与常见实现,与直接sample的区别
samoyan
LLM面试transformer面试
目录BeamSearch原理1.基本概念2.工作流程3.特点BeamSearch与直接Sample的区别1.确定性与随机性2.结果多样性3.性能与效率4.应用场景常见的BeamSearch实现1.TensorFlow库2.PyTorch库3.HuggingFace的Transformers库算法库和工具BeamSearch原理1.基本概念BeamSearch是一种启发式图搜索算法,常用于自然语言处
- Made In Heaven,LLM要加速了
DisonTangor
人工智能transformer
借鉴了荒木老师笔下的普奇神父的台词玩LLM的多数用的是Huggingface框架,而它本身提供的是accelerate库来提升模型的训练推理速度。这些都离不开Nvidia的Cuda计算,而目前适配这一驱动的只有Windows和Linux。于是我就尝试在这两个系统上进行加速实验,尝试HuggingfaceDoc中推荐的FlashAttention2以及vLLM的PageAttention。原理参考L
- 大模型训练——PEFT与LORA介绍
MarkHD
人工智能深度学习机器学习
大模型训练中的PEFT(Parameter-EfficientFine-Tuning)与LoRA(Low-RankAdaptation)是两种重要的技术,它们在大型预训练模型的应用中发挥着重要作用。首先,让我们来了解一下PEFT。PEFT是一种参数高效的微调技术,由Huggingface发布。这种方法的核心思想是仅微调少量(额外)模型参数,同时冻结预训练LLM的大部分参数。这样做的好处是大大降低了
- Python连接huggingface的API接口
young
服务器运维
之前不明白这个过程,现在记录一下。我的原本目的:在本地写Python代码,然后调用huggingface中某个项目中模型的接口,从而完成模型的调用。以期达到我在本地键入输入,得到模型的输出,从而测试模型效果。之前的代码以及出现的问题:之前的代码:importrequestsAPI_URL="https://api-inference.huggingface.co/models/flax-sente
- Huggingface镜像网站下载语言模型方法
幽影相随
语言模型人工智能
通常通过镜像网站下载https://hf-mirror.com/。在链接页面有介绍方法,对于不大的模型可以直接下载。这里介绍比较常用且方便的下载方法。使用huggingface官方提供的huggingface-cli命令行工具安装(huggingface_hub、hf_transfer安装可以使用-i命令从镜像网站下载)pipinstall-Uhuggingface_hubhf_transfer基
- 如何通过AI作画?
刀锋0001
AI作画
网址:https://huggingface.co/spaces/prodia/fast-stable-diffusion模板网址:https://prompthero.com/prompt/96ee86ae9e2打开模板网址,选择StableDiffusion选择图片,复制prompt和Negativeprompt打开https://huggingface.co/spaces/prodia/fa
- stable diffusion官方版本复现
Zhuanshan_
stablediffusion
踩了一些坑,来记录下环境CentOSLinuxrelease7.5.1804(Core)服务器RTX3090复现流程按照StableDiffusion的readme下载模型权重、我下载的是stable-diffusion-v1-4版本的1因为服务器没法上huggingface,所以得把权重下载到本地,但是运行链接ln-smodels/ldm/stable-diffusion-v1/model.ck
- Hugging Face PEFT文档指南 - 第一章:开始使用
Tim_Van
NLP大语言模型自然语言处理python
原文:PEFT文档指南-第一章:开始使用https://huggingface.co/docs/peft/indexPEFTPEFT(参数高效微调)是一个库,用于有效地将预训练的语言模型(PLMs)适应各种下游应用,而无需微调所有模型的参数。PEFT方法仅微调少量(额外)模型参数,显著降低了计算和存储成本,因为微调大型PLMs的成本过高。最近的最先进的PEFT技术达到了与完全微调相当的性能。PEF
- stable-cascade 文生图模型diffusers使用案例
loong_XL
多模态深度学习AIGCVLM
参考:https://huggingface.co/stabilityai/stable-cascade下载:需要分别下载两个模型stabilityai/stable-cascade-prior与stabilityai/stable-cascadediffusers版本也要指定安装:pipinstallgit+https://github.com/kashif/diffusers.git@wuer
- 听说有 Hugging Face 陪伴的春节,是这样的…
人工智能
辞旧迎新春节到,家家户户好热闹。HuggingFace中国团队成员祝各位社区成员们新春快乐,万事如意!过去的一年我们持续看到AI技术的腾飞和发展,以及诸多机构为开源AI作出巨大的贡献。非常感谢将模型、数据集和应用Demo发布在HuggingFace上的团队,新的一年,我们也会持续发掘和介绍更多国内开发者/研究机构发布在HuggingFace上的作品。也欢迎大家主动联系我们(ง•̀_•́)ง新年到,
- LLaMA 2 - 你所需要的一切资源
llama人工智能
摘录关于LLaMA2的全部资源,如何去测试、训练并部署它。LLaMA2是一个由Meta开发的大型语言模型,是LLaMA1的继任者。LLaMA2可通过AWS、HuggingFace等提供商获取,并免费用于研究和商业用途。LLaMA2预训练模型在2万亿个标记上进行训练,相比LLaMA1的上下文长度增加了一倍。它的微调模型则在超过100万个人工标注数据下完成。这篇博客包含了所有的相关资源,以帮助您快速入
- 斯坦福大学分析3.2万篇大模型HuggingFace文档后指出:现状堪忧!
夕小瑶
人工智能机器学习深度学习
随着人工智能(AI)模型在各个领域的广泛应用,模型文档化的重要性日益凸显。文档化不仅帮助用户理解、信任并有效地使用这些模型,还揭示了模型潜在的偏见、错误和局限性,这对于那些模型输出具有深远影响的领域尤为关键,如医疗保健、金融和执法等。然而,尽管模型卡片已成为记录AI模型的标准方法,但目前对于模型卡片的质量和信息量尚未进行系统分析。这一空白可能导致文档化实践的不足,从而妨碍了确保AI技术的公平性、问
- sdxl-turbo、playground文生图模型使用案例
loong_XL
深度学习多模态pytorch深度学习人工智能
1、sdxl-turboSDXL-Turbo是一种快速生成的文本到图像模型,可以在单个网络评估中从文本提示合成逼真的图像。参考:https://huggingface.co/stabilityai/sdxl-turbo对比效果相比PixArt模型差很多,参考https://blog.csdn.net/weixin_42357472/article/details/1355201421)文生图gpu
- 真、开源LLM-OLMo
choose_c
大模型LLM
论文:https://arxiv.org/pdf/2402.00838.pdfWeightshttps://huggingface.co/allenai/OLMo-7BCodehttps://github.com/allenai/OLMoDatahttps://huggingface.co/datasets/allenai/dolmaEvaluationhttps://github.com/all
- 如何使用Hugging Face:对Transformer和pipelines的介绍
第欧根尼的酒桶
transformer深度学习人工智能
一、transformer介绍众所周知,transformer模型(如GPT-3、LLaMa和ChatGPT)已经彻底改变了人工智能领域。它们不仅被用于自然语言处理,还被应用于计算机视觉、语音处理和其他任务中。HuggingFace是一个以变换器为核心的Python深度学习库。因此,在我们深入了解其工作原理之前,我们将探讨什么是transformer,以及为什么它们能够支持如此强大的模型。1.递归
- 生成图片的大模型
hehui0921
huggingface机器翻译
https://huggingface.co/spaces/briaai/BRIA-2.2-FAST
- 一些好的huggingface space
hehui0921
huggingface深度学习
https://huggingface.co/spaces/ehristoforu/mixtral-46.7b-chattexttoimage:https://huggingface.co/spaces/latent-consistency/lcm-lora-for-sdxlhttps://huggingface.co/spaces/briaai/BRIA-2.2-FAST
- huggingface pipeline零训练样本分类Zero-Shot Classification的实现
hehui0921
huggingface分类python数据挖掘
1:默认的model。fromhuggingface_hub.hf_apiimportHfFolderHfFolder.save_token('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')fromtransformersimportMBartForConditionalGeneration,MBart50TokenizerFastfromtransformersi
- Stable Diffusion WebUI linux部署问题
SuperB666
stablediffusionpytorchweb
当我部署好环境后,准备大张旗鼓开搞时,进入项目地址运行pythonlaunch.py后发现下面连接着的报错是OSError:Can'tloadtokenizerfor'openai/clip-vit-large-patch14'.Ifyouweretryingtoloaditfrom'https://huggingface.co/models',makesureyoudon'thavealocal
- 使用huggingface pipeline实现抽取式问答question-answering
hehui0921
huggingfacejava服务器前端
1:fromhuggingface_hub.hf_apiimportHfFolderHfFolder.save_token('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')fromtransformersimportpipelineqa_model=pipeline("question-answering","timpal0l/mdeberta-v3-base-sq
- huggingface pipeline使用模型THUDM/chatglm3-6b
hehui0921
huggingfacejavapython前端
以下代码成功运在CPU机器上:第一次运行会自动下载模型文件,需要比较长的时间。fromtransformersimportAutoTokenizer,AutoModelfromtransformersimportAutoModelForSeq2SeqLMfromhuggingface_hub.hf_apiimportHfFolderHfFolder.save_token('hf_ZYmPKiltO
- flan_t5的使用
hehui0921
huggingfacelangchain
https://huggingface.co/docs/transformers/model_doc/flan-t5
- 使用huggingface pipeline实现文本翻译
hehui0921
huggingfacelangchain
1:以下翻译英文到中文,可以CPU运行。fromhuggingface_hub.hf_apiimportHfFolderHfFolder.save_token('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')fromtransformersimportMBartForConditionalGeneration,MBart50TokenizerFastarticle_
- 【HuggingFace】Transformers-BertAttention逐行代码解析
Taylor不想被展开
PythonTransformer深度学习自然语言处理transformer计算机视觉
本文基于HuggingFace的2.6.0版本的Transformers包进行解析,不同版本间略有差异,但无伤大雅。I.Self-attention的HuggingFace实现(I).多头自注意力的实现原理关于Transformer的讲解不胜其数,这里就不多写了。本文主要写一下多头自注意力机制的操作。我们知道,多头自注意力是要分多个head分别进行自注意力操作,然后将每个head的计算结果conc
- 记录在Mac上安装safetensors时遇到的问题
m0_50277087
pythonmacos
因为要安装huggingface上的Diffusers,所以安装了一系列的东西,前面的Xcode,git安装的都比较顺利,到安装safetensors时出现了问题…问题1:没有安装Rustcompiler解决方法:在终端输入:curl--proto'=https'--tlsv1.2-sSfhttps://sh.rustup.rs|sh出现一大堆码,最后是:Currentinstallationop
- Linux 环境下本地测试stable diffusion v2.1出错
Branton_Zhenyuan
Debuglinuxpython运维
从huggingface上,把stabeldiffusion装到本地linux上面时,遇到三个错误:一、ErrorcaughtWas:Nomodulenamed"triton"直接安装也出错Errorcaughtwas:module'triton.language'hasnoattribute'constexpr'卸载后更新pip再安装也不行解决方法是:pipinstalltriton==2.0.
- huggingface学习|用dreambooth和lora对stable diffusion模型进行微调
丁希希哇
AIGC实践stablediffusion算法人工智能AIGC
目录用dreambooth对stable-diffusion-v1-5模型进行微调(一)模型下载和环境配置(二)数据集准备(三)模型微调(四)运行微调后的模型用lora对stable-diffusion-v1-5模型进行微调(一)模型下载和环境配置(二)数据集准备(三)模型微调(四)运行微调后的模型用dreambooth对stable-diffusion-v1-5模型进行微调(一)模型下载和环境配
- 关于GpuMall平台提供的学术加速服务说明
服务目的:本网络加速服务旨在为学术研究者提供一个更快捷的访问途径,专门针对 GitHub 和 HuggingFace 以及边缘站点的相关学术资源网站,此服务旨在解决用户在访问这些学术资源时可能遇到的网络速度缓慢问题。服务范围:加速服务仅限于上述学术资源网站,不包括其他非学术用途的网站。服务性质:本服务为非商业性质的学术支持工具,不设服务水平协议(SLA),因此我们不承诺服务的稳定性和可靠性。服务终
- Stable Diffusion WebUI 绘画【官方教程】
GpuMall智算云#huggingface大模型配置环境介绍目前平台集成了StableDiffusionWebUI的官方镜像,该镜像中整合如下资源:StableDiffusionWebUI版本:v1.7.0Python版本:3.10.6Pytorch版本:2.0.1CUDA版本:11.8Xformers版本:0.0.20Gradio版本:3.41.2部署目录:/root/stable-diffu
- Algorithm
香水浓
javaAlgorithm
冒泡排序
public static void sort(Integer[] param) {
for (int i = param.length - 1; i > 0; i--) {
for (int j = 0; j < i; j++) {
int current = param[j];
int next = param[j + 1];
- mongoDB 复杂查询表达式
开窍的石头
mongodb
1:count
Pg: db.user.find().count();
统计多少条数据
2:不等于$ne
Pg: db.user.find({_id:{$ne:3}},{name:1,sex:1,_id:0});
查询id不等于3的数据。
3:大于$gt $gte(大于等于)
&n
- Jboss Java heap space异常解决方法, jboss OutOfMemoryError : PermGen space
0624chenhong
jvmjboss
转自
http://blog.csdn.net/zou274/article/details/5552630
解决办法:
window->preferences->java->installed jres->edit jre
把default vm arguments 的参数设为-Xms64m -Xmx512m
----------------
- 文件上传 下载 解析 相对路径
不懂事的小屁孩
文件上传
有点坑吧,弄这么一个简单的东西弄了一天多,身边还有大神指导着,网上各种百度着。
下面总结一下遇到的问题:
文件上传,在页面上传的时候,不要想着去操作绝对路径,浏览器会对客户端的信息进行保护,避免用户信息收到攻击。
在上传图片,或者文件时,使用form表单来操作。
前台通过form表单传输一个流到后台,而不是ajax传递参数到后台,代码如下:
<form action=&
- 怎么实现qq空间批量点赞
换个号韩国红果果
qq
纯粹为了好玩!!
逻辑很简单
1 打开浏览器console;输入以下代码。
先上添加赞的代码
var tools={};
//添加所有赞
function init(){
document.body.scrollTop=10000;
setTimeout(function(){document.body.scrollTop=0;},2000);//加
- 判断是否为中文
灵静志远
中文
方法一:
public class Zhidao {
public static void main(String args[]) {
String s = "sdf灭礌 kjl d{';\fdsjlk是";
int n=0;
for(int i=0; i<s.length(); i++) {
n = (int)s.charAt(i);
if((
- 一个电话面试后总结
a-john
面试
今天,接了一个电话面试,对于还是初学者的我来说,紧张了半天。
面试的问题分了层次,对于一类问题,由简到难。自己觉得回答不好的地方作了一下总结:
在谈到集合类的时候,举几个常用的集合类,想都没想,直接说了list,map。
然后对list和map分别举几个类型:
list方面:ArrayList,LinkedList。在谈到他们的区别时,愣住了
- MSSQL中Escape转义的使用
aijuans
MSSQL
IF OBJECT_ID('tempdb..#ABC') is not null
drop table tempdb..#ABC
create table #ABC
(
PATHNAME NVARCHAR(50)
)
insert into #ABC
SELECT N'/ABCDEFGHI'
UNION ALL SELECT N'/ABCDGAFGASASSDFA'
UNION ALL
- 一个简单的存储过程
asialee
mysql存储过程构造数据批量插入
今天要批量的生成一批测试数据,其中中间有部分数据是变化的,本来想写个程序来生成的,后来想到存储过程就可以搞定,所以随手写了一个,记录在此:
DELIMITER $$
DROP PROCEDURE IF EXISTS inse
- annot convert from HomeFragment_1 to Fragment
百合不是茶
android导包错误
创建了几个类继承Fragment, 需要将创建的类存储在ArrayList<Fragment>中; 出现不能将new 出来的对象放到队列中,原因很简单;
创建类时引入包是:import android.app.Fragment;
创建队列和对象时使用的包是:import android.support.v4.ap
- Weblogic10两种修改端口的方法
bijian1013
weblogic端口号配置管理config.xml
一.进入控制台进行修改 1.进入控制台: http://127.0.0.1:7001/console 2.展开左边树菜单 域结构->环境->服务器-->点击AdminServer(管理) &
- mysql 操作指令
征客丶
mysql
一、连接mysql
进入 mysql 的安装目录;
$ bin/mysql -p [host IP 如果是登录本地的mysql 可以不写 -p 直接 -u] -u [userName] -p
输入密码,回车,接连;
二、权限操作[如果你很了解mysql数据库后,你可以直接去修改系统表,然后用 mysql> flush privileges; 指令让权限生效]
1、赋权
mys
- 【Hive一】Hive入门
bit1129
hive
Hive安装与配置
Hive的运行需要依赖于Hadoop,因此需要首先安装Hadoop2.5.2,并且Hive的启动前需要首先启动Hadoop。
Hive安装和配置的步骤
1. 从如下地址下载Hive0.14.0
http://mirror.bit.edu.cn/apache/hive/
2.解压hive,在系统变
- ajax 三种提交请求的方法
BlueSkator
Ajaxjqery
1、ajax 提交请求
$.ajax({
type:"post",
url : "${ctx}/front/Hotel/getAllHotelByAjax.do",
dataType : "json",
success : function(result) {
try {
for(v
- mongodb开发环境下的搭建入门
braveCS
运维
linux下安装mongodb
1)官网下载mongodb-linux-x86_64-rhel62-3.0.4.gz
2)linux 解压
gzip -d mongodb-linux-x86_64-rhel62-3.0.4.gz;
mv mongodb-linux-x86_64-rhel62-3.0.4 mongodb-linux-x86_64-rhel62-
- 编程之美-最短摘要的生成
bylijinnan
java数据结构算法编程之美
import java.util.HashMap;
import java.util.Map;
import java.util.Map.Entry;
public class ShortestAbstract {
/**
* 编程之美 最短摘要的生成
* 扫描过程始终保持一个[pBegin,pEnd]的range,初始化确保[pBegin,pEnd]的ran
- json数据解析及typeof
chengxuyuancsdn
jstypeofjson解析
// json格式
var people='{"authors": [{"firstName": "AAA","lastName": "BBB"},'
+' {"firstName": "CCC&
- 流程系统设计的层次和目标
comsci
设计模式数据结构sql框架脚本
流程系统设计的层次和目标
 
- RMAN List和report 命令
daizj
oraclelistreportrman
LIST 命令
使用RMAN LIST 命令显示有关资料档案库中记录的备份集、代理副本和映像副本的
信息。使用此命令可列出:
• RMAN 资料档案库中状态不是AVAILABLE 的备份和副本
• 可用的且可以用于还原操作的数据文件备份和副本
• 备份集和副本,其中包含指定数据文件列表或指定表空间的备份
• 包含指定名称或范围的所有归档日志备份的备份集和副本
• 由标记、完成时间、可
- 二叉树:红黑树
dieslrae
二叉树
红黑树是一种自平衡的二叉树,它的查找,插入,删除操作时间复杂度皆为O(logN),不会出现普通二叉搜索树在最差情况时时间复杂度会变为O(N)的问题.
红黑树必须遵循红黑规则,规则如下
1、每个节点不是红就是黑。 2、根总是黑的 &
- C语言homework3,7个小题目的代码
dcj3sjt126com
c
1、打印100以内的所有奇数。
# include <stdio.h>
int main(void)
{
int i;
for (i=1; i<=100; i++)
{
if (i%2 != 0)
printf("%d ", i);
}
return 0;
}
2、从键盘上输入10个整数,
- 自定义按钮, 图片在上, 文字在下, 居中显示
dcj3sjt126com
自定义
#import <UIKit/UIKit.h>
@interface MyButton : UIButton
-(void)setFrame:(CGRect)frame ImageName:(NSString*)imageName Target:(id)target Action:(SEL)action Title:(NSString*)title Font:(CGFloa
- MySQL查询语句练习题,测试足够用了
flyvszhb
sqlmysql
http://blog.sina.com.cn/s/blog_767d65530101861c.html
1.创建student和score表
CREATE TABLE student (
id INT(10) NOT NULL UNIQUE PRIMARY KEY ,
name VARCHAR
- 转:MyBatis Generator 详解
happyqing
mybatis
MyBatis Generator 详解
http://blog.csdn.net/isea533/article/details/42102297
MyBatis Generator详解
http://git.oschina.net/free/Mybatis_Utils/blob/master/MybatisGeneator/MybatisGeneator.
- 让程序员少走弯路的14个忠告
jingjing0907
工作计划学习
无论是谁,在刚进入某个领域之时,有再大的雄心壮志也敌不过眼前的迷茫:不知道应该怎么做,不知道应该做什么。下面是一名软件开发人员所学到的经验,希望能对大家有所帮助
1.不要害怕在工作中学习。
只要有电脑,就可以通过电子阅读器阅读报纸和大多数书籍。如果你只是做好自己的本职工作以及分配的任务,那是学不到很多东西的。如果你盲目地要求更多的工作,也是不可能提升自己的。放
- nginx和NetScaler区别
流浪鱼
nginx
NetScaler是一个完整的包含操作系统和应用交付功能的产品,Nginx并不包含操作系统,在处理连接方面,需要依赖于操作系统,所以在并发连接数方面和防DoS攻击方面,Nginx不具备优势。
2.易用性方面差别也比较大。Nginx对管理员的水平要求比较高,参数比较多,不确定性给运营带来隐患。在NetScaler常见的配置如健康检查,HA等,在Nginx上的配置的实现相对复杂。
3.策略灵活度方
- 第11章 动画效果(下)
onestopweb
动画
index.html
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/
- FAQ - SAP BW BO roadmap
blueoxygen
BOBW
http://www.sdn.sap.com/irj/boc/business-objects-for-sap-faq
Besides, I care that how to integrate tightly.
By the way, for BW consultants, please just focus on Query Designer which i
- 关于java堆内存溢出的几种情况
tomcat_oracle
javajvmjdkthread
【情况一】:
java.lang.OutOfMemoryError: Java heap space:这种是java堆内存不够,一个原因是真不够,另一个原因是程序中有死循环; 如果是java堆内存不够的话,可以通过调整JVM下面的配置来解决: <jvm-arg>-Xms3062m</jvm-arg> <jvm-arg>-Xmx
- Manifest.permission_group权限组
阿尔萨斯
Permission
结构
继承关系
public static final class Manifest.permission_group extends Object
java.lang.Object
android. Manifest.permission_group 常量
ACCOUNTS 直接通过统计管理器访问管理的统计
COST_MONEY可以用来让用户花钱但不需要通过与他们直接牵涉的权限
D