作者,蓝雄威,叩丁狼教育高级讲师。转载请联系作者。
一、背景
随着时间和业务的发展,数据库中的数据量增长是不可控的,库和表中的数据会越来越大,随之带来的是更高的磁盘、IO、系统开销,甚至性能上的瓶颈,而一台服务的资源终究是有限的,因此需要对数据库和表进行拆分,从而更好的提供数据服务。
当用户表达到千万级别,在做很多操作的时候都会很吃力,所以当数据增长到1000万以上就需要分库分表来缓解单库(表)的压力。
二、什么是分库分表[1]
简单来说,就是指通过某种特定的条件,将我们存放在同一个数据库中的数据分散存放到多个数据库(主机)上面,以达到分散单台设备负载的效果。
数据的切分(Sharding)根据其切分规则的类型,可以分为两种切分模式。一种是按照不同的表(或者Schema)来切分到不同的数据库(主机)之上,这种切可以称之为数据的垂直(纵向)切分;另外一种则是根据表中的数据的逻辑关系,将同一个表中的数据按照某种条件拆分到多台数据库(主机)上面,这种切分称之为数 据的水平(横向)切分。
垂直切分的最大特点就是规则简单,实施也更为方便,尤其适合各业务之间的耦合度非常低,相互影响很小,业务逻辑非常清晰的系统。在这种系统中,可以很容易做到将不同业务模块所使用的表分拆到不同的数据库中。根据不同的表来进行拆分,对应用程序的影响也更小,拆分规则也会比较简单清晰。
水平切分于垂直切分相比,相对来说稍微复杂一些。因为要将同一个表中的不同数据拆分到不同的数据库中,对于应用程序来说,拆分规则本身就较根据表名来拆分更为复杂,后期的数据维护也会更为复杂一些。
三、垂直切分 [1]
个数据库由很多表的构成,每个表对应着不同的业务,垂直切分是指按照业务将表进行分类,分布到不同 的数据库上面,这样也就将数据或者说压力分担到不同的库上面,如下图:
系统被切分成了,用户,订单交易,支付几个模块。 一个架构设计较好的应用系统,其总体功能肯定是由很多个功能模块所组成的,而每一个功能模块所需要的数据对应到数据库中就是一个或者多个表。而在架构设计中,各个功能模块相互之间的交互点越统一越少,系统的耦合度就越低,系统各个模块的维护性以及扩展性也就越好。这样的系统,实现数据的垂直切分也就越容易。
但是往往系统之有些表难以做到完全的独立,存在这扩库 join 的情况,对于这类的表,就需要去做平衡,是数据库让步业务,共用一个数据源,还是分成多个库,业务之间通过接口来做调用。在系统初期,数据量比较少,或者资源有限的情况下,会选择共用数据源,但是当数据发展到了一定的规模,负载很大的情况,就需 要必须去做分割。
一般来讲业务存在着复杂 join 的场景是难以切分的,往往业务独立的易于切分。如何切分,切分到何种 程度是考验技术架构的一个难题。 下面来分析下垂直切分的优缺点:
优点 :
拆分后业务清晰,拆分规则明确;
系统之间整合或扩展容易;
数据维护简单。
缺点 :
部分业务表无法 join,只能通过接口方式解决,提高了系统复杂度;
受每种业务不同的限制存在单库性能瓶颈,不易数据扩展跟性能提高;
事务处理复杂。
由于垂直切分是按照业务的分类将表分散到不同的库,所以有些业务表会过于庞大,存在单库读写与存储瓶颈,所以就需要水平拆分来做解决。
四、水平切分 [1]
相对于垂直拆分,水平拆分不是将表做分类,而是按照某个字段的某种规则来分散到多个库之中,每个表中包含一部分数据。简单来说,我们可以将数据的水平切分理解为是按照数据行的切分,就是将表中的某些行切分到一个数据库,而另外的某些行又切分到其他的数据库中,如图
拆分数据就需要定义分片规则。关系型数据库是行列的二维模型,拆分的第一原则是找到拆分维度。比如: 从会员的角度来分析,商户订单交易类系统中查询会员某天某月某个订单,那么就需要按照会员结合日期来拆分,不同的数据按照会员 ID 做分组,这样所有的数据查询 join 都会在单库内解决;如果从商户的角度来讲,要查询某个商家某天所有的订单数,就需要按照商户 ID 做拆分;但是如果系统既想按会员拆分,又想按商家数据,则会有一定的困难。如何找到合适的分片规则需要综合考虑衡。 几种典型的分片规则包括:
按照用户 ID 求模,将数据分散到不同的数据库,具有相同数据用户的数据都被分散到一个库中;
按照日期,将不同月甚至日的数据分散到不同的库中;
按照某个特定的字段求摸,或者根据特定范围段分散到不同的库中。
如图,切分原则都是根据业务找到适合的切分规则分散到不同的库,下面用用户 ID 求模举
既然数据做了拆分有优点也就优缺点。
优点 :
拆分规则抽象好,join 操作基本可以数据库做;
不存在单库大数据,高并发的性能瓶颈;
应用端改造较少;
提高了系统的稳定性跟负载能力。
缺点 :
拆分规则难以抽象;
分片事务一致性难以解决;
数据多次扩展难度跟维护量极大;
跨库 join 性能较差
五、什么是Mycat
它是一个开源的分布式数据库系统,是一个实现了 MySQL 协议的的 Server,前端用户可以把它看作是一个数据库代理,用 MySQL 客户端工具和命令行访问,而其后端可以用MySQL 原生(Native)协议与多个 MySQL 服务器通信,也可以用 JDBC 协议与大多数主流数据库服务器通信,其核心功能是分表分库,即将一个大表水平分割为 N 个小表,存储在后端 MySQL 服务器里或者其他数据库里。
常见应用场景:
单纯的读写分离,此时配置最为简单,支持读写分离,主从切换;
分表分库,对于超过 1000 万的表进行分片,最大支持 1000 亿的单表分片;
多租户应用,每个应用一个库,但应用程序只连接 Mycat,从而不改造程序本身,实现多租户化;
报表系统,借助于 Mycat 的分表能力,处理大规模报表的统计; 替代 Hbase,分析大数据;
作为海量数据实时查询的一种简单有效方案,比如 100 亿条频繁查询的记录需要在 3 秒内查询出来结果,除了基于主键的查询,还可能存在范围查询或其他属性查询,此时 Mycat 可能是最简单有效的选
六、SpringBoot+Mycat+MySQL实现分表分库案例
关于分库分表,Mycat已经帮我们在内部实现了路由的功能,我们只需要在Mycat中配置以下切分规则即可,对于开发者来说,我们就可以把Mycat看做是一个数据库,接下来我们开始搭建环境:
步骤一:
Mycat是使用java写的数据库中间件,所以要运行Mycat前要准备要jdk的环境,要求是jdk1.7以上的环境。所以需要在系统中配置JAVA_HOME的环境变量.
步骤二:
从官网下载Mycat,http://dl.mycat.io/1.6-RELEASE/ 我们是基于CentOS7来搭建Mycat环境的,所以下载版本: Mycat-server-1.6-RELEASE-20161028204710-linux.tar.gz
步骤三:
将下载好的安装包上传到服务器上并解压.解压之后目录结构如下:
步骤四:
配置切分规则: 将如下配置复制粘贴覆盖mycat/conf/schema.xml
的内容。
select user()
:表示的是在mycat中的逻辑库配置,逻辑库名称为:TESTDB
:表示在mycat中的逻辑表配置,逻辑表名称为:user
,映射到两个数据库节点dataNode
中,切分规则为:rule1
(在rule.xml配置)
:表示数据库节点,这个节点不一定是单节点,可以配置成读写分离.
:真实的数据库的地址配置
:用户心跳检测
:写库的配置
将如下配置复制粘贴覆盖mycat/conf/rule.xml
的内容。
id
mod-long
2
这里定义的是切分规则,是按照id
列进行切分,切分规则是采取取模的方式, 2
:这里配置了我们有拆分了多个库(表),需要和前面配置
中的dataNode个数一致,否则会出错.
步骤五:
在数据库中创建两个数据库db01,db02. 每个库中执行如下建表语句:
CREATE TABLE `user` (
`id` bigint(20) NOT NULL,
`name` varchar(255) DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
步骤六:
启动mycat,执行mycat/bin/startup_nowrap.sh
步骤七:
项目已经上传到github https://github.com/javalanxiongwei/springboot-mycat 搭建SpringBoot环境,执行插入语句. application.properties
配置如下:
#配置数据源
spring.datasource.druid.driver-class-name=com.mysql.jdbc.Driver
#这里配置的是Mycat中server.xml中配置账号密码,不是数据库的密码。
spring.datasource.druid.username=root
spring.datasource.druid.password=123456
#mycat的逻辑库 端口也是mycat的
spring.datasource.druid.url=jdbc:mysql://192.168.142.129:8066/TESTDB
UserMapper.java
代码如下:
@Mapper
public interface UserMapper {
@Insert("insert into user(id,name) value (#{id},#{name})")
int insert(User user);
@Select("select * from user")
List selectAll();
}
UserController.java
代码如下:
@RestController
@RequestMapping("/user")
public class UserController {
@Autowired
private UserMapper userMapper;
@RequestMapping("/save")
public String save(User user){
userMapper.insert(user);
return "保存成功";
}
@RequestMapping("/list")
public List list(){
return userMapper.selectAll();
}
}
步骤八:
测试: 在地址栏输入: http://localhost:8080/user/save?id=1&name=tom
http://localhost:8080/user/save?id=2&name=jack
查看数据库发现: id为1的数据插入到数据库db02中的user表。 id为2的数据插入到数据库db01中的user表。 在地址栏输入: http://localhost:8080/user/list
是可以看到刚刚插入的两条记录.
好到这一步我们就已经完成了分表分库了.
你可能感兴趣的:(数据库中间件Mycat+SpringBoot完成分库分表)
动态链接库:技术赋能,打通“最后一公里”的商业模式
超级晒盐人
经验分享 学习方法 人工智能 教育电商 程序员创富
序言-飞跃大山的故事阿登是一位热爱骑行的冒险者,他计划骑行穿越一片壮丽的山脉,去探索那片未知的风景。然而,当他查看路线图时,他发现其中有一座几乎不可能翻越的高峰。这座山峰不仅陡峭无比,还充满了危险的地形,即使是经验最丰富的骑行者也望而却步。阿登知道,仅凭自己的力量,很难完成这次骑行计划。于是,他开始寻找解决方案。在一次偶然的机会中,他听说了一位名叫阿飞的飞行员,他提供一种独特的服务——用直升机帮助
在Windows上构建本地服务器实现Augment团队邀请额度自动化增长的技术探索
yangshuo1281
windows 服务器 自动化
自动化:摘要:随着AI编码助手在开发领域日益普及,如何最大化利用这些工具的免费额度成为了许多开发者关心的话题。本文将以Augment为例,深入探讨一个技术爱好者的“极限挑战”:在Windows操作系统上,从零开始搭建一个本地全栈Web应用,以自动化方式完成团队邀请流程,从而实现免费使用额度的增长。本文不仅是一份操作指南,更是一次关于API交互、Web自动化、前后端开发的深度技术实践。在文章的最后,
这是gpt o1给出的物联网工程专业的大学规划,有人看看这个合理吗?
王倚山
gpt 物联网 学习 开发语言
下面是一份更为详细、覆盖全年(包括寒暑假)的四阶段学习规划,旨在帮助你在大学剩余时间里持续学习、循序渐进地掌握物联网(IoT)核心技能,打造深厚的技术壁垒。每个阶段都有明确的学习目标与自学内容细节,并在寒暑假安排了“强化期”任务,让你全年不停歇,不断提升。总体思路稳扎稳打:从嵌入式基础到RTOS、传感器驱动、通信协议,再到边缘计算、云平台、工业协议、安全攻防,层层深入。项目驱动:每个阶段至少完成1
数据结构之栈实验
lannnn_
学习记录 数据结构 c语言 栈
栈实验实验目的实验环境实验要求实验内容源代码运行结果实验目的掌握栈这种数据结构特性及其主要存储结构,并能在现实生活中灵活运用。实验环境CodeBlocks实验要求1.熟悉c语言的语法知识;2.掌握栈的顺序存储结构—顺序栈的定义、构造、获得栈顶元素、入栈、出栈等基本操作;实验内容完成栈的定义、构造、获得栈顶元素、进栈、出栈等函数的编写。要求在主函数中实现对以上操作的调用,编写一个算法判断给定的字符向
Linux 工作环境配置
终端shell如果是pc就安装iterm2,如果是远程服务器就跳过该步骤调整字体,主题;熟悉呼出和tab切换快捷键安装完成后,在/bin目录下会多出一个zsh的文件。修改默认终端,执行:【chsh-s/bin/zsh】chsh需要su权限,没有的话可以在bashrc中加入【exec/bin/zsh】此时可以安装autojump了,https://blog.csdn.net/liujan511536
【Pytorch】8.torch.nn.conv2d
Elephant_King
Pytorch pytorch 人工智能 python
这个函数和我们之前提到的【Pytorch】6.torch.nn.functional.conv2d的使用的作用相似,都是完成CV领域的卷积操作,这里就不在过多赘述torch.nn.conv2d的使用打开pytorch的官方文档,我们可以看到torch.nn.conv2d包含了若干参数in_channels:代表输入的通道数out_channels:代表输出的通道数kernel_size:代表卷积核
顶点着色器:3D世界的魔法化妆师
你一身傲骨怎能输
计算机图形学 着色器
摘要顶点着色器是3D图形渲染中的关键组件,负责将3D模型中的顶点数据转换为2D屏幕坐标,并传递颜色、法线、纹理等属性。它通过坐标变换、属性传递和动画变形等功能,使角色和场景动态化,如角色骨骼动画、水面波动和旗帜飘动等。顶点着色器在渲染管线中处于第一站,与其他着色器(如几何着色器和片元着色器)协作,共同完成复杂的图形渲染任务。通过优化计算和合理分配顶点数量,顶点着色器能够高效处理大量数据,广泛应用于
游戏引擎中顶点着色&像素着色
霸王奉先
游戏开发基础理论 游戏引擎 顶点着色器 像素着色器 顶点颜色 顶点UV 顶点法向
一.GPU渲染管线GPU在接收到游戏端提交的Mesh,Shader数据后,渲染管线开始工作,将数据进行处理投射为2D屏幕中光栅图像.GPU硬件中着色单元有两类,分别为顶点着色器和像素着色器.二.顶点着色器完成Mesh网格中顶点(3D)到屏幕(2D)计算vertex_fvf(灵活顶点格式)=3D坐标+法向+UV+颜色(布料,摇曳等特殊效果)+自定义structVetex_Fvf{floatx,y,z
ModusToolbox 实战入门 - PSOC C3 Smart IO 与 GPIO 应用篇
WPG大大通
Infineon产线 大大通 软件 GPIO CPU 开发工具
摘要本文将带您了解PSOC™ControlC3MCU的架构与开发工具,并示范如何使用EclipseIDEforModusToolbox™创建项目。通过本次使用smartI/O外设的实作示例,您将学习如何将按钮输入引脚通过smartI/O连接至输出引脚,以驱动外部LED,在无需CPU参与的情况下完成初始化后自动运行,进一步体验PSOC™ControlC3的低功耗与高集成特性。软件下载与安装软件版本M
【unitrix】 4.19 类型级二进制数减法实现解析(sub.rs)
liuyuan77
我的unitrix库 rust
一、源码这段代码实现了一个类型级别的数值系统,支持多种数字类型(整数、定点数、变量)之间的减法运算。它使用了Rust的类型系统特性(traits和关联类型)在编译期完成数值计算。//小数、浮点数与Var的混合计算未实现usecore::ops::{Neg,Not,Add,Sub};usecrate::number::{Z0,P1,N1,B0,B1,FixedPoint,Var,NonZero,Pr
python系列之:使用md5和sha256完成签名认证,调用接口
快乐骑行^_^
前端和后端开发 python系列 使用md5和sha256 完成签名认证 调用接口
python系列之:使用md5和sha256完成签名认证,调用接口MD5签名和sha256签名认证md5认证代码sha256认证代码拼接签名生成签名拼接url调用接口MD5签名和sha256签名认证MD5签名认证算法特性:生成128位(16字节)的哈希值计算速度快已被证明存在碰撞漏洞(不同输入可能产生相同输出)签名认证流程:发送方对原始数据计算MD5哈希值将哈希值附加到数据中发送接收方重新计算接收
垂起固定翼无人机应用及技术分析
云卓SKYDROID
无人机 云卓科技 科技 科普 高科技
一、主要应用行业1.能源基础设施巡检电力巡检:适用于超高压输电线路通道的快速巡查,实时回传数据提升智能运检效率。油田管道监测:利用长航时特性(1.5-2小时)对大范围管道进行隐患排查,减少人力巡查成本。2.测绘与地理信息在山区、丘陵等复杂地形实现高精度航测,克服传统固定翼需跑道的限制。单架次可完成200平方公里区域的测绘任务,效率较旋翼机提升3倍以上。3.森林与生态监管通过热红外载荷监测林火隐患,
详细总结在电脑上安装 Ubuntu 22.04 双系统(Windows + Ubuntu)全过程
番知了
电脑 ubuntu windows
目录一、准备阶段1.1重要数据备份1.2下载Ubuntu22.04镜像1.3制作Ubuntu启动U盘二、Windows分区调整(为Ubuntu腾出空间)2.1打开磁盘管理2.2压缩完成后三、BIOS/UEFI设置(强烈建议提前完成)3.1重启电脑→进入BIOS/UEFI3.2保存设置,插入U盘,重启四、启动并安装Ubuntu4.1选择U盘启动4.2进入Ubuntu安装界面4.3安装语言、布局、网络
详细总结实际物理机上安装 Ubuntu 22.04 双系统(Windows + Ubuntu)全过程
番知了
ubuntu windows linux
目录一、准备阶段1.1重要数据备份1.2下载Ubuntu22.04镜像1.3制作Ubuntu启动U盘二、Windows分区调整(为Ubuntu腾出空间)2.1打开磁盘管理2.2压缩完成后三、BIOS/UEFI设置(强烈建议提前完成)3.1重启电脑→进入BIOS/UEFI3.2保存设置,插入U盘,重启四、启动并安装Ubuntu4.1选择U盘启动4.2进入Ubuntu安装界面4.3安装语言、布局、网络
面向对象与面向过程编程:核心区别解析
三笠o.0
Python python 开发语言
1.面向过程和面向对象面向对象编程(OOP)与结构化编程是两种不同的编程范式,它们解决问题的思路有着本质区别:结构化编程(面向过程)的特点:分析阶段:通过自顶向下的方式将问题分解为若干步骤实现阶段:将每个步骤转化为独立的方法/函数执行方式:程序通过依次调用这些方法来完成功能示例:银行转账程序可能包含:validateInput()验证输入checkBalance()检查余额updateAccoun
Spring Boot 应用开发入门指南
20230310121
spring boot 后端
引言在现代软件开发中,SpringBoot以其简化配置和快速开发的特性,成为构建Java应用的热门选择。本文将通过多个主题为大家详细介绍如何搭建和开发SpringBoot应用,涵盖开发环境配置、项目搭建、持久层整合等内容。1.配置开发环境1.1JDK安装首先,确保安装了JDK(JavaDevelopmentKit)。推荐使用JDK11或更高版本。下载地址:OracleJDK安装完成后,配置环境变量
c++协程(Coroutines)-无限的整数序列
1.概要2.内容协程(Coroutines)是C++20引入的一种特性,它使得编写异步代码变得更加简单和直观。协程允许函数在执行过程中暂停并在稍后恢复,从而实现非阻塞的异步操作。以下是对C++协程的详细介绍:一、协程的基本概念协程是一种计算机程序组件,用于协同完成任务的子例程。它被视为轻量级线程,拥有自己的暂停点状态。协程可以在执行过程中暂停,将当前状态保存起来,并在稍后恢复执行时恢复之前保存的状
芯片设计的原型(Prototyping)流程,引脚分配(Pin Assignment)
weixin_45371279
innovus
在芯片设计的原型(Prototyping)流程中,引脚分配(PinAssignment)是指在完成早期全局路由(earlyGlobalRoute)后,对跨分区(Partition)信号的引脚进行精确定位、检查和调整的过程,目的是确保分区边界处的信号连接物理可行,避免后续布线冲突。以下是基于文档内容的详细解释:一、引脚分配的核心目的在分层设计中,芯片被划分为多个分区独立设计,而跨分区的信号需要通过边
基于 Rust 的前端工具基本实现
aiguangyuan
Rust 前端开发 系统架构 Rust
1.Rust环境安装1.1.安装RustRust提供了一个非常方便的安装工具rustup,可以通过以下命令安装Rust:curl--proto'=https'--tlsv1.2-sSfhttps://sh.rustup.rs|sh这个命令会安装Rust编译器rustc、包管理工具cargo以及其他相关工具。1.2.配置环境变量安装完成后,确保将Rust的路径添加到系统的PATH环境变量中。一般情况
Chat Model API
虾条_花吹雪
Spring AI java
聊天模型API为开发人员提供了将人工智能聊天完成功能集成到应用程序中的能力。它利用预训练的语言模型,如GPT(生成预训练转换器),以自然语言对用户输入生成类似人类的响应。API通常通过向人工智能模型发送提示或部分对话来工作,然后人工智能模型根据其训练数据和对自然语言模式的理解生成对话的完成或继续。然后将完成的响应返回给应用程序,应用程序可以将其呈现给用户或用于进一步处理。Spring人工智能聊天模
Neo4j Windows 3.5 详细安装教程
赵允静Joy
Neo4jWindows3.5详细安装教程neo4jwindows3.5详细安装教程附百度云链接项目地址:https://gitcode.com/Resource-Bundle-Collection/1af38本资源文件提供了Neo4jWindows3.5版本的详细安装教程,帮助用户快速完成Neo4j的安装和配置。教程内容包括从下载、解压、配置环境变量到启动Neo4j服务的全过程。安装步骤访问官网
mediapipe流水线分析 三
江太翁
Android NDK 人工智能 mediapipe android
目标检测Graph一流水线上游输入处理1TfLiteConverterCalculator将输入的数据转换成tensorflowapi支持的TensorTfLiteTensor并初始化相关输入输出节点,该类的业务主要通过interpreterstd::unique_ptrtflite::Interpreterinterpreter_=nullptr;实现类完成数据在cpu/gpu上的推理1.1Tf
7月6日星期日今日早报简报微语报早读
微语早读
生活
7月6日星期日,农历六月十二,早报#微语早读。1、江苏:县级以下禁止开发政务服务APP,年底前全面完成整合归并;2、台风“丹娜丝”或于7日夜间至8日上午在闽浙沿海登陆;3、中国足协:超2.5万人注册球员自荐系统,303人进入备选库;4、商务部:只要欧盟企业满足承诺条件,就不会被征收白兰地反倾销税;5、中国人民抗日战争纪念馆7月8日起恢复开放;6、WTT美国大满贯单打签表公布,孙颖莎王楚钦等将出战;
【推荐算法课程二】推荐算法介绍-深度学习算法
盒子6910
运维视角下的广告业务 算法 推荐算法 深度学习 运维开发 运维 人工智能
三、深度学习在推荐系统中的应用3.1深度学习推荐模型的演化关系图3.2AutoRec——单隐层神经网络推荐模型3.2.1AutoRec模型的基本原理AutoRec模型是一个标准的自编码器,它的基本原理是利用协同过滤中的共现矩阵,完成物品向量或者用户向量的自编码。再利用自编码的结果得到用户对物品的预估评分,进而进行推荐排序。什么是自编码器?自编码器是指能够完成数据“自编码”的模型。无论是图像、音频,
Assistant API 流式传输中的事件流原理细节
上有晨光
大模型Agent开发 人工智能 算法 大模型 OpenAI Agent
一、AssistantAPI流式传输事件流基础OpenAIAssistantAPI的流式输出在特定操作时会生成新事件,每个事件由event和data构成。data存放如大模型回复等关键数据,event则表明大模型的处理阶段,像运行、排队、完成等状态信息。二、事件流核心流程整体流程:从创建assistant对象、thread对象并追加message开启run状态(即start模式)起,到获取模型回复
通俗易懂,一看就懂的React与Vue的区别
More more
react.js vue.js
React和Vue是当前最主流的前端框架,对开发者而言,日常开发中它们的区别可以总结为以下几点(用实际场景举例说明):一、写模板的方式不同React:用JSX(JavaScript+HTML混合写法),所有UI逻辑都在JavaScript中完成。Vue:用类似HTML的模板语法,逻辑和模板分离,但也可以通过JSX扩展。//React组件(JSX)functionButton(){const[cou
Java+Python智能化云盘【Day3】
关沐吖
Java+Python Ai智能云盘项目开发专栏 java python 开发语言
提示词工程Prompt简介:大模型必备Prompt提示词工程讲解什么是PromptEngineering提示词工程通过特定格式的文本输入引导AI模型生成期望输出的技术,明确地告诉模型你想要解决的问题或完成的任务也是大语言模型理解用户需求并生成相关、准确回答或内容的基础类比:给Java程序员的任务需求文档(越清晰明确,结果越符合预期)为什么需要学习?大模型就是你的员工,你可以有多个助手,OpenAI
Java+Python智能化Ai云盘[Day2]
OK啊,为了完成学校老师布置的UML作业主播也是开始拿自己的项目开始当成期末大作业来交了。顺道的我也把自己的项目整个的梳理了一通,如果大家最近有UML的大作业要交也可以自取,到时候我把文章word版本直接发到百度网盘上去。里面我只有类图、用例图、活动图、顺序图、状态图。这次也算是一个提前复习了一下项目了把,整个的文档文字都是拿ai去写的,图的话也是我先看了一遍代码,然后给ai说了一遍也算是自己理通
前端常见面试题
黄马小配件
前端 css html
sass语言的特点?1.可以减少重复代码:Sass可以通过使用变量、混合、继承等方式来减少代码的重复性,提高代码的可维护性。2.支持嵌套:Sass支持CSS样式的嵌套,可以更方便地控制样式的层级关系。3.支持模块化:Sass支持模块化开发,可以将样式分成多个模块进行开发,提高代码的可读性和可维护性。4.支持函数和运算符:Sass支持函数和运算符,可以完成更复杂的样式计算。5.支持导入其他文件:Sa
SSL 终结(SSL Termination)深度解析:从原理到实践的全维度指南
(:满天星:)
ssl 网络协议 网络 linux 运维 服务器 centos
SSL终结(SSLTermination)深度解析:从原理到实践的全维度指南一、SSL终结的本质与技术背景1.定义与核心价值SSL终结是指在网络通信链路上,由前端设备(如负载均衡器、反向代理)作为加密流量的“终点”,负责完成SSL/TLS协议的解密过程,并将明文数据转发给后端服务器。其技术本质是通过计算资源的集中化管理,解决HTTPS服务中加密计算与性能扩展的矛盾。2.技术演进背景HTTPS普及的
分享100个最新免费的高匿HTTP代理IP
mcj8089
代理IP 代理服务器 匿名代理 免费代理IP 最新代理IP
推荐两个代理IP网站:
1. 全网代理IP:http://proxy.goubanjia.com/
2. 敲代码免费IP:http://ip.qiaodm.com/
120.198.243.130:80,中国/广东省
58.251.78.71:8088,中国/广东省
183.207.228.22:83,中国/
mysql高级特性之数据分区
annan211
java 数据结构 mongodb 分区 mysql
mysql高级特性
1 以存储引擎的角度分析,分区表和物理表没有区别。是按照一定的规则将数据分别存储的逻辑设计。器底层是由多个物理字表组成。
2 分区的原理
分区表由多个相关的底层表实现,这些底层表也是由句柄对象表示,所以我们可以直接访问各个分区。存储引擎管理分区的各个底层
表和管理普通表一样(所有底层表都必须使用相同的存储引擎),分区表的索引只是
JS采用正则表达式简单获取URL地址栏参数
chiangfai
js 地址栏参数获取
GetUrlParam:function GetUrlParam(param){
var reg = new RegExp("(^|&)"+ param +"=([^&]*)(&|$)");
var r = window.location.search.substr(1).match(reg);
if(r!=null
怎样将数据表拷贝到powerdesigner (本地数据库表)
Array_06
powerDesigner
==================================================
1、打开PowerDesigner12,在菜单中按照如下方式进行操作
file->Reverse Engineer->DataBase
点击后,弹出 New Physical Data Model 的对话框
2、在General选项卡中
Model name:模板名字,自
logbackのhelloworld
飞翔的马甲
日志 logback
一、概述
1.日志是啥?
当我是个逗比的时候我是这么理解的:log.debug()代替了system.out.print();
当我项目工作时,以为是一堆得.log文件。
这两天项目发布新版本,比较轻松,决定好好地研究下日志以及logback。
传送门1:日志的作用与方法:
http://www.infoq.com/cn/articles/why-and-how-log
上面的作
新浪微博爬虫模拟登陆
随意而生
新浪微博
转载自:http://hi.baidu.com/erliang20088/item/251db4b040b8ce58ba0e1235
近来由于毕设需要,重新修改了新浪微博爬虫废了不少劲,希望下边的总结能够帮助后来的同学们。
现行版的模拟登陆与以前相比,最大的改动在于cookie获取时候的模拟url的请求
synchronized
香水浓
java thread
Java语言的关键字,可用来给对象和方法或者代码块加锁,当它锁定一个方法或者一个代码块的时候,同一时刻最多只有一个线程执行这段代码。当两个并发线程访问同一个对象object中的这个加锁同步代码块时,一个时间内只能有一个线程得到执行。另一个线程必须等待当前线程执行完这个代码块以后才能执行该代码块。然而,当一个线程访问object的一个加锁代码块时,另一个线程仍然
maven 简单实用教程
AdyZhang
maven
1. Maven介绍 1.1. 简介 java编写的用于构建系统的自动化工具。目前版本是2.0.9,注意maven2和maven1有很大区别,阅读第三方文档时需要区分版本。 1.2. Maven资源 见官方网站;The 5 minute test,官方简易入门文档;Getting Started Tutorial,官方入门文档;Build Coo
Android 通过 intent传值获得null
aijuans
android
我在通过intent 获得传递兑现过的时候报错,空指针,我是getMap方法进行传值,代码如下 1 2 3 4 5 6 7 8 9
public
void
getMap(View view){
Intent i =
apache 做代理 报如下错误:The proxy server received an invalid response from an upstream
baalwolf
response
网站配置是apache+tomcat,tomcat没有报错,apache报错是:
The proxy server received an invalid response from an upstream server. The proxy server could not handle the request GET /. Reason: Error reading fr
Tomcat6 内存和线程配置
BigBird2012
tomcat6
1、修改启动时内存参数、并指定JVM时区 (在windows server 2008 下时间少了8个小时)
在Tomcat上运行j2ee项目代码时,经常会出现内存溢出的情况,解决办法是在系统参数中增加系统参数:
window下, 在catalina.bat最前面
set JAVA_OPTS=-XX:PermSize=64M -XX:MaxPermSize=128m -Xms5
Karam与TDD
bijian1013
Karam TDD
一.TDD
测试驱动开发(Test-Driven Development,TDD)是一种敏捷(AGILE)开发方法论,它把开发流程倒转了过来,在进行代码实现之前,首先保证编写测试用例,从而用测试来驱动开发(而不是把测试作为一项验证工具来使用)。
TDD的原则很简单:
a.只有当某个
[Zookeeper学习笔记之七]Zookeeper源代码分析之Zookeeper.States
bit1129
zookeeper
public enum States {
CONNECTING, //Zookeeper服务器不可用,客户端处于尝试链接状态
ASSOCIATING, //???
CONNECTED, //链接建立,可以与Zookeeper服务器正常通信
CONNECTEDREADONLY, //处于只读状态的链接状态,只读模式可以在
【Scala十四】Scala核心八:闭包
bit1129
scala
Free variable A free variable of an expression is a variable that’s used inside the expression but not defined inside the expression. For instance, in the function literal expression (x: Int) => (x
android发送json并解析返回json
ronin47
android
package com.http.test;
import org.apache.http.HttpResponse;
import org.apache.http.HttpStatus;
import org.apache.http.client.HttpClient;
import org.apache.http.client.methods.HttpGet;
import
一份IT实习生的总结
brotherlamp
PHP php资料 php教程 php培训 php视频
今天突然发现在不知不觉中自己已经实习了 3 个月了,现在可能不算是真正意义上的实习吧,因为现在自己才大三,在这边撸代码的同时还要考虑到学校的功课跟期末考试。让我震惊的是,我完全想不到在这 3 个月里我到底学到了什么,这是一件多么悲催的事情啊。同时我对我应该 get 到什么新技能也很迷茫。所以今晚还是总结下把,让自己在接下来的实习生活有更加明确的方向。最后感谢工作室给我们几个人这个机会让我们提前出来
据说是2012年10月人人网校招的一道笔试题-给出一个重物重量为X,另外提供的小砝码重量分别为1,3,9。。。3^N。 将重物放到天平左侧,问在两边如何添加砝码
bylijinnan
java
public class ScalesBalance {
/**
* 题目:
* 给出一个重物重量为X,另外提供的小砝码重量分别为1,3,9。。。3^N。 (假设N无限大,但一种重量的砝码只有一个)
* 将重物放到天平左侧,问在两边如何添加砝码使两边平衡
*
* 分析:
* 三进制
* 我们约定括号表示里面的数是三进制,例如 47=(1202
dom4j最常用最简单的方法
chiangfai
dom4j
要使用dom4j读写XML文档,需要先下载dom4j包,dom4j官方网站在 http://www.dom4j.org/目前最新dom4j包下载地址:http://nchc.dl.sourceforge.net/sourceforge/dom4j/dom4j-1.6.1.zip
解开后有两个包,仅操作XML文档的话把dom4j-1.6.1.jar加入工程就可以了,如果需要使用XPath的话还需要
简单HBase笔记
chenchao051
hbase
一、Client-side write buffer 客户端缓存请求 描述:可以缓存客户端的请求,以此来减少RPC的次数,但是缓存只是被存在一个ArrayList中,所以多线程访问时不安全的。 可以使用getWriteBuffer()方法来取得客户端缓存中的数据。 默认关闭。 二、Scan的Caching 描述: next( )方法请求一行就要使用一次RPC,即使
mysqldump导出时出现when doing LOCK TABLES
daizj
mysql mysqdump 导数据
执行 mysqldump -uxxx -pxxx -hxxx -Pxxxx database tablename > tablename.sql
导出表时,会报
mysqldump: Got error: 1044: Access denied for user 'xxx'@'xxx' to database 'xxx' when doing LOCK TABLES
解决
CSS渲染原理
dcj3sjt126com
Web
从事Web前端开发的人都与CSS打交道很多,有的人也许不知道css是怎么去工作的,写出来的css浏览器是怎么样去解析的呢?当这个成为我们提高css水平的一个瓶颈时,是否应该多了解一下呢?
一、浏览器的发展与CSS
《阿甘正传》台词
dcj3sjt126com
Part Ⅰ:
《阿甘正传》Forrest Gump经典中英文对白
Forrest: Hello! My names Forrest. Forrest Gump. You wanna Chocolate? I could eat about a million and a half othese. My momma always said life was like a box ochocol
Java处理JSON
dyy_gusi
json
Json在数据传输中很好用,原因是JSON 比 XML 更小、更快,更易解析。
在Java程序中,如何使用处理JSON,现在有很多工具可以处理,比较流行常用的是google的gson和alibaba的fastjson,具体使用如下:
1、读取json然后处理
class ReadJSON
{
public static void main(String[] args)
win7下nginx和php的配置
geeksun
nginx
1. 安装包准备
nginx : 从nginx.org下载nginx-1.8.0.zip
php: 从php.net下载php-5.6.10-Win32-VC11-x64.zip, php是免安装文件。
RunHiddenConsole: 用于隐藏命令行窗口
2. 配置
# java用8080端口做应用服务器,nginx反向代理到这个端口即可
p
基于2.8版本redis配置文件中文解释
hongtoushizi
redis
转载自: http://wangwei007.blog.51cto.com/68019/1548167
在Redis中直接启动redis-server服务时, 采用的是默认的配置文件。采用redis-server xxx.conf 这样的方式可以按照指定的配置文件来运行Redis服务。下面是Redis2.8.9的配置文
第五章 常用Lua开发库3-模板渲染
jinnianshilongnian
nginx lua
动态web网页开发是Web开发中一个常见的场景,比如像京东商品详情页,其页面逻辑是非常复杂的,需要使用模板技术来实现。而Lua中也有许多模板引擎,如目前我在使用的lua-resty-template,可以渲染很复杂的页面,借助LuaJIT其性能也是可以接受的。
如果学习过JavaEE中的servlet和JSP的话,应该知道JSP模板最终会被翻译成Servlet来执行;而lua-r
JZSearch大数据搜索引擎
颠覆者
JavaScript
系统简介:
大数据的特点有四个层面:第一,数据体量巨大。从TB级别,跃升到PB级别;第二,数据类型繁多。网络日志、视频、图片、地理位置信息等等。第三,价值密度低。以视频为例,连续不间断监控过程中,可能有用的数据仅仅有一两秒。第四,处理速度快。最后这一点也是和传统的数据挖掘技术有着本质的不同。业界将其归纳为4个“V”——Volume,Variety,Value,Velocity。大数据搜索引
10招让你成为杰出的Java程序员
pda158
java 编程 框架
如果你是一个热衷于技术的
Java 程序员, 那么下面的 10 个要点可以让你在众多 Java 开发人员中脱颖而出。
1. 拥有扎实的基础和深刻理解 OO 原则 对于 Java 程序员,深刻理解 Object Oriented Programming(面向对象编程)这一概念是必须的。没有 OOPS 的坚实基础,就领会不了像 Java 这些面向对象编程语言
tomcat之oracle连接池配置
小网客
oracle
tomcat版本7.0
配置oracle连接池方式:
修改tomcat的server.xml配置文件:
<GlobalNamingResources>
<Resource name="utermdatasource" auth="Container"
type="javax.sql.DataSou
Oracle 分页算法汇总
vipbooks
oracle sql 算法 .net
这是我找到的一些关于Oracle分页的算法,大家那里还有没有其他好的算法没?我们大家一起分享一下!
-- Oracle 分页算法一
select * from (
select page.*,rownum rn from (select * from help) page
-- 20 = (currentPag