去年底写的mysql分库分表中间件heisenberg

阅读更多

       好久没有写博了，去年年底的时候写了一个分库分表中间件服务器，当时正在看绝命毒师，觉得heisenberg这个名字很叼，然后就以这个命名了，炼毒也要精益求精啊。。。

 

      公司在java分布式这块的基础设施很差，然后之前也看过一些老东家的tddl，cobar之类的东东；但是灵活性和语言通用性方面不是太好，所以当时就想做一款比较通用性，并且低侵入性的分库分表中间件，于是想法诞生了。

 

代码地址：

https://github.com/brucexx/heisenberg

其优点： 分库分表与应用脱离，分库表如同使用单库表一样
减少db 连接数压力 
热重启配置
可水平扩容
遵守Mysql原生协议
无语言限制，mysqlclient,c,java等都可以使用
Heisenberg服务器通过管理命令可以查看，如连接数，线程池，结点等，并可以调整
采用velocity的分库分表脚本进行自定义分库表，相当的灵活

 

之前在组里有做过简单的分享，这段时间稍微轻松了点，先分享出来，看有没有更好的idea在这块有所提升

 

 下面开始介绍heisenberg

 

1.heisenberg总体架构

      首先这块架构：

      

      

 

应用对于heisenberg集群来说就是mysql客户端，

而heisenberg也是集成了mysql的原生协议，所以对于应用来说，就相当于单库单表的数据源

无论是mysql客户端，c,jdbc驱动等都可以访问heisenberg服务器，由服务器把分库分表的工作给做掉了

 

访问heisenberg集群可以通过像lvs,F5等负载软件/设备解决，

其实一台heisenberg的性能是相当的赞了，我压力到2320TPS load 都还只有0.1-0.3左右（CPU 8core,16G），由于找不到mysql物理机器了，只得做罢

 

服务端内部结构：

 

其中FrontConnectionFactory为面向应用的连接管理，ManagerConnectionFactory为面向heisenberg服务器内部管理的一些连接管理，比如更改配置后热重启，关闭 某个连接等功能

mysql协议贯穿于应用程序与mysql服务器，最终解析为相关的mysql数据包, 授权包，注册包等

 

当heisenberg服务器接收到SQL语句后，通过AST语法解析 解析成 DML,DCL,DDL类型以及相关列名的值等等，然后通过ServerRouter这一层，经过分库分表的切分，最终将切分好的语句放入对应数据结点进行执行

 

分库分表的切分，为了满足各种通用性灵活性，使用了velocity和groovy 2种语法来支持，其中groovy是初始化表和库和映射关系的，只在加载时初始化一次；而velocity是用来渲染对应的分库和分表规则的。

 

OK，知道了原理，那么开始说明如何使用分库分表吧

 

2.heisenberg开发

Maven +JDK 部署好

 https://github.com/brucexx/heisenberg 

下载到本地后，

Mvn package 之

 

在本地target里会生成一个heisenberg-server-1.0.0.zip 文件

 

解压之 unzip  heisenberg-server-1.0.0.zip  

进入conf目录

有下面几个目录 

     conf

      ---log4j.xml

      ---rule.xml

      ---schema.xml

      ---server.xml

log4j.xml就不介绍了

  sql_route.log就是分库表切分的时间

  sql_execute.log 为sql总执行时间

 

server.xml 

"serverPort">8166     "managerPort">8266     "initExecutor">16     "timerExecutor">4     "managerExecutor">4     "processors">4     "processorHandler">8     "processorExecutor">8     "clusterHeartbeatUser">_HEARTBEAT_USER_     "clusterHeartbeatPass">_HEARTBEAT_PASS_

 

serverPort为服务端口，即对上层应用的端口

managerPort为管理端口，即管理的监听端口，用于操作服务器一些配置等

initExecutor 为初始化的线程个数

timerExecutor 心跳执行线程个数

managerExecutor管理执行线程个数

processors应用接收处理器核数

processorHandler 应用接收处理类个数

processorExecutor 应用接收处理线程个数

 

clusterHeartbeatUser和clusterHeartbeatPass 不必改，用于集群的认证方式使用

 

"brucexx">     "password">st0078     "schemas">trans_shard

Brucexx为自定义应用用户名，st0078为自定义应用密码

Schemas为自定义schema,具体见schema.xml中，

 

这里的schemas可为多个，以逗号分隔

 

白名单限制：

 

test

 

                

schema.xml配置

mysql数据源

 

"transDS" type="mysql">         "location">             10.58.49.14:8701/db$0-9             "user">root         "password">st0078         "sqlMode">STRICT_TRANS_TABLES

 

这里指定的mysql的数据源，后面$0-9是一种自定义的缩略写法

也可以在property里面定义多个location，比如：

"location">             10.58.49.14:8701/db0 10.58.49.14:8701/db1 10.58.49.14:8701/db2

 

 

效果是一样的

 

Shard结点配置

Shard结点相当于一个逻辑结点，提供给外部相关的schema，对应于数据源有

主/备/灾，

"transDN">         "dataSource">                         transDS$0-9                         transSlaveDS$0-9                         transSlaveDS$0-9                                         "rwRule">         "poolSize">256         "heartbeatSQL">select user()

 

属性dataSource 第一个是主库，第二个备库，第三个灾库，需要多少配置多少个

 

读写分离规则rwRule，m和s代表读取的比例，表示主库读取为0,从库读取1，这样直接读写分离，如果是1:1的话相当读取各1：1的比例

 

池大小poolSize为到mysqlDB的连接数和心跳sql heartbeatSQL，无特殊需求保持不变

 

Schema配置

"trans_shard">           "trans_online, trans_content, trans_tb " dataNode="transDN$0-9" rule="rule1" />      trans_shard 提供的schema,对应于server.xml中的名字 下面会有多个需要分库的表， "trans_online" dataNode="transDN$0-9" rule="rule1" /> 这里必须要把需要分库分表的内容写出来，当然，如果不分库表也是可以的   ”tbxxx" dataNode="transDN0" ruleRequired=”false”/   rule.xml  分库分表规则配置，其中columns,dbRuleList,tbRuleList里面的列名要保持大写   首先先上一个整体配置     "rule1">         TRANS_ID                             #set($end=$TRANS_ID.length() - 1)##             $stringUtil.substring($TRANS_ID,$start,$end)]]>                                                      $stringUtil.substring($TRANS_ID,$start)]]>                                                                 def map = [:];                         for (int i=0; i<10; i++) {                            def list = [];                             for (int j=0; j<10; j++) {                                 list.add(i+""+j);                             }                              map.put(i,list);                         };                         return map;                 ]]>               其中dbRuleList 为分库规则                           #set($end=$TRANS_ID.length() - 1)##             $stringUtil.substring($TRANS_ID,$start,$end)]]>                      分库规则dbRuleList可以有多个dbRule，当第一个不满足时，可以用第二个，当然这个效率不好，如果有规则区分，尽量再写一个rule， dbRule 最后的结果是表的前缀 比如分库分表 库名为db0-db9,那么这个dbRule渲染时   取到TRANS_ID 这个为后，在脚本里计算出取倒数第2位为库后缀 比如上图的分库为   分表规则配置                          $stringUtil.substring($TRANS_ID,$start)]]>         这个和上面分库一样了，以倒数1，2位为库的后缀 如下图：      有个潜规则就是 需要保证全局的表名不能重复 比如db0有个trans_tb00,db1就不能有叫trans_tb00的表   表初始化                                                         def map = [:];                         for (int i=0; i<10; i++) {                            def list = [];                             for (int j=0; j<10; j++) {                                 list.add(i+""+j);                             }                              map.put(i,list);                         };                         return map;                 ]]>           需要初始化个表，其中key为db的下标索引，比如db0 的下标为0, list为每个库里的表后缀名     目录是为了初始化定义这些库表   如何使用呢？ 通过命令行   这里就不用讲了，wms_shard就是在server.xml里面配置的逻辑分库分表的数据源schema,应用只要访问这个就好了   show tables;也可以看到自己的一些表信息   ok.   mysql> select * from t_user_id_map; +-----------+---------------------------+-----------+------------+---------------------+---------------------+ | F_uid     | F_uname                   | F_enabled | F_user_id  | F_create_time       | F_modify_time       | +-----------+---------------------------+-----------+------------+---------------------+---------------------+ | 105001050 | @8230762802717b6a723fe9cd |         1 | 1287824017 | 2014-03-10 15:38:44 | 2014-03-10 15:38:44 | |     62000 |                           |         1 |  533885000 | 2014-03-26 23:02:31 | 2014-03-26 23:02:31 | |     86000 |                           |         1 |  237406000 | 2014-03-27 01:04:23 | 2014-03-27 01:04:23 | |     96000 |                           |         1 |  767684000 | 2014-03-27 00:30:32 | 2014-03-27 00:30:32 | |    130000 |                           |         1 |  506552000 | 2014-03-27 15:57:31 | 2014-03-27 15:57:31 | |    149000 |                           |         1 |  868483000 | 2014-03-27 15:50:09 | 2014-03-27 15:50:09 | |    179000 |                           |         1 |  245626000 | 2014-03-26 21:33:46 | 2014-03-26 21:33:46 | 当没有指定分库分表规则时，是进行的全表扫描，当然我们可以通过学习 mysql> explain select * from t_user_id_map; +-----------+----------------------------------- | DATA_NODE | SQL +-----------+----------------------------------- | wmsDN[0]  |  select * from t_user_id_map_00_0 | wmsDN[0]  |  select * from t_user_id_map_00_1 | wmsDN[0]  |  select * from t_user_id_map_00_2 | wmsDN[0]  |  select * from t_user_id_map_00_3 | wmsDN[0]  |  select * from t_user_id_map_00_4 | wmsDN[0]  |  select * from t_user_id_map_00_5 | wmsDN[0]  |  select * from t_user_id_map_00_6 | wmsDN[0]  |  select * from t_user_id_map_00_7 | wmsDN[0]  |  select * from t_user_id_map_00_8 | wmsDN[0]  |  select * from t_user_id_map_00_9 | wmsDN[1]  |  select * from t_user_id_map_01_0 | wmsDN[1]  |  select * from t_user_id_map_01_1 | wmsDN[1]  |  select * from t_user_id_map_01_2 | wmsDN[1]  |  select * from t_user_id_map_01_3 | wmsDN[1]  |  select * from t_user_id_map_01_4 | wmsDN[1]  |  select * from t_user_id_map_01_5 | wmsDN[1]  |  select * from t_user_id_map_01_6 | wmsDN[1]  |  select * from t_user_id_map_01_7 | wmsDN[1]  |  select * from t_user_id_map_01_8 | wmsDN[1]  |  select * from t_user_id_map_01_9 | wmsDN[2]  |  select * from t_user_id_map_02_0 .... 这边表很多，其中dataNode是我们里面对应的结点   mysql> select * from t_user_id_map where f_uid=196606999; +-----------+---------+-----------+-----------+---------------------+---------------------+ | F_uid     | F_uname | F_enabled | F_user_id | F_create_time       | F_modify_time       | +-----------+---------+-----------+-----------+---------------------+---------------------+ | 196606999 |         |         1 | 749331999 | 2014-04-04 14:46:58 | 2014-04-04 14:46:58 | +-----------+---------+-----------+-----------+---------------------+---------------------+ 1 row in set (0.04 sec) 这边配置的是按F_uid最后三位分库分表的，dbRuleList配置的是倒数2，3位， tbRuleList配置的是最后1位   我们看下是怎么路由的   mysql> explain select * from t_user_id_map where f_uid=196606999; +-----------+---------------------------------------------------------+ | DATA_NODE | SQL                                                     | +-----------+---------------------------------------------------------+ | wmsDN[99] |  select * from t_user_id_map_99_9 where f_uid=196606999 | +-----------+---------------------------------------------------------+ 1 row in set (0.03 sec)   可以看到data_node --> wmsDN[99] ,分库位 t_user_id_map_99_9 对应的表     OK，先写到这里面，有什么问题随时欢迎交流！         分库分表中间件heisenberg架构.zip (80.2 KB) 下载次数: 424 heisenberg开发手册.zip (63.8 KB) 下载次数: 451 大小: 37.8 KB 大小: 44.5 KB 大小: 3.2 KB 大小: 4 KB 大小: 7.1 KB 大小: 9.9 KB 大小: 20.2 KB 查看图片附件 你可能感兴趣的:(去年底写的mysql分库分表中间件heisenberg) LeetCode——1864. 构成交替字符串需要的最小交换次数(Minimum Number of Swaps to Make the Binary...)[中等]——分析及代码（Java） 江南土豆 数据结构与算法LeetCodeJava题解 LeetCode——1864.构成交替字符串需要的最小交换次数[MinimumNumberofSwapstoMaketheBinaryStringAlternating][中等]——分析及代码[Java]一、题目二、分析及代码1.模拟（1）思路（2）代码（3）结果三、其他一、题目给你一个二进制字符串s，现需要将其转化为一个交替字符串。请你计算并返回转化所需的最小字符交换次数，如果无法完成转化，返回 让人感到疑惑的const 浪裡遊 javascript开发语言ecmascript前端 const关键字在不同的编程语言中有着不同的含义和限制，但通常它被用来声明一个常量或只读变量。然而，在JavaScript中，const的行为有时可能会让人感到困惑，因为它并不总是意味着“不可变”（immutable）。让我们详细探讨一下这个问题。JavaScript中的const在JavaScript中，当你使用const声明一个变量时，你实际上是创建了一个不能重新赋值的绑定。这意味着一旦给这个 利用deepseek AI制作视频的小白教程 银行金融科技 银行信息系统架构详解机器学习人工智能deepseek 以下是基于DeepSeekAI的完整视频制作教程，涵盖从剧本到成片的全流程操作（附关键技巧）：一、前期准备（1天）1.分镜优化根据之前的分镜脚本，用Notion或Excel整理出AI友好型分镜表（示例）：画面描述关键词时长动态水墨展开成卷轴水墨山水、花瓣特效、东晋风格15秒Q版人物在曲水流觞放纸船全息投影、透明茶具、童声配音45秒2.素材预生成文本转图像：bash#用DeepSeekCoder生成 在windows 11 中将运行文件（这里以nginx为例） 设为开机启动 慧香一格 系统运维管理windowsexe加入到开机启动任务中 要在Windows11中将Nginx设置为开机启动，您可以选择使用Windows服务的方式或者任务计划程序来实现。以下是两种方法的详细步骤：方法一：通过Windows服务实现开机自启下载并配置WinSW：首先，您需要下载一个名为WinSW的小工具，它可以帮助您将任何应用程序作为Windows服务运行。访问WinSWhttps://github.com/winsw/winsw/releases?sp 一份Python面试宝典 小夕Coding Python大学作业汇总python面试开发语言 Python面试宝典文章目录Python面试宝典题目001:在Python中如何实现单例模式。题目002：不使用中间变量，交换两个变量`a`和`b`的值。题目003：写一个删除列表中重复元素的函数，要求去重后元素相对位置保持不变。题目004：假设你使用的是官方的CPython，说出下面代码的运行结果。题目005：Lambda函数是什么，举例说明的它的应用场景。题目006：说说Python中的浅拷贝 使用axios实现实时获取文件上传/下载进度。实现文件上传，下载进度条显示 三年模拟五年烧烤 javascriptjavascript前端 下载文件实现进度条显示利用axios封装的原生onDownloadProgress属性，该属性为一个回调方法，当axios请求将文件从服务器下载时会进行回调。接收一个回调参数，该回调参数中包含总下载进度，当前下载进度。不多比比直接上代码下载下载进度:{{downLoadProgress}}import{ref}from'@vue/reactivity';importaxiosfrom'axios' python中的下划线用法总结 白色机械键盘 python实践python开发语言 在Python中，下划线（underscore）有多种用法。它在不同的上下文中可以扮演不同的角色，下面是其常见用法的总结：1.单下划线"_"1.1作为临时变量或无用变量在循环或解包操作中，表示一个临时的或不关心的变量。for_inrange(5):print("Hello,World!")a,_,b=(1,2,3)print(a,b)#输出:131.2在交互式解释器中在交互式解释器中，"_"用于保 (LeetCode每日一题) 1963. 使字符串平衡的最小交换次数(贪心、双指针) 岁忧 java版刷题LeetCodeleetcode算法职场和发展javac++ 题目：1963.使字符串平衡的最小交换次数方法一：对于符合要求的字符串，需要任何[0,i]部分，“[”都不比“]”少。[视为+1，]视为-1，那么任何前缀和sum都不能出现sum0){sum--;}else{while(s[j]!='['){j--;}s[j]=']';sum++;ans++;}}}returnans;}};JAVA版本：classSolution{publicintminSwap 2db多少功率_db与w换算(1db等于多少功率) 不吃酸菜的小贱人 2db多少功率 dBm是功率的单位，1dbm等于1毫瓦，也就是千分之一瓦。1、dBm这是我们接触到.那么10W呢，就是40dBm，也就是说功率下降一半，dBm值下降3dB。功率单位与P(瓦特)换算公式：dBm=30+10lgP(P：瓦)首先，DB是一个纯计数单位：dB=10logX。dB的意义其实再简单不过了，就是把一个很大(后面跟一长串0的.DB是一个比值，是一个数值，是一个纯计数方法，没有任何单位标注。和瓦( 【day14】画流程图 鹿鸣悠悠 文旅行业知识学习流程图 绘制业务流程图是梳理和优化企业流程的重要工具，以下是零基础也能快速上手的指南，涵盖必备知识、绘制步骤和常见误区：一、画流程图前必须了解的3个核心概念流程图的本质不是“画图”，而是将复杂业务逻辑可视化的工具，核心在于逻辑清晰、角色明确。目标：让内外部人员快速理解流程中的关键环节、决策点、责任方。常见流程图类型类型适用场景示例工具符号基本流程图简单线性流程（如审批流程）矩形（步骤）、菱形（判断）跨职能 工作流 weixin_34345753 数据库java人工智能 工作流谨以此文向从事工作流研究的前辈们致敬目录1工作流介绍12工作流类型12.1按工作流的性质分12.2按照重复性分12.3按照结构化程度分12.4按流程与数据表单的关系分12.5按应用类型分12.6按工作流模式分23工作流的应用场景23.1业务流程辅助办公软件23.2软件内部工作的顺控制23.3自动筛选查询类系统23.4自动化控制中24工作流平台介绍24.1BigbrossBossa34.2Br 2023华东师范大学计算机复试上机真题 猿六凯 华为od算法 2023华东师范大学计算机复试上机真题2022华东师范大学计算机复试上机真题2021华东师范大学计算机复试上机真题2023华东师范大学计算机复试机试真题2022华东师范大学计算机复试机试真题2021华东师范大学计算机复试机试真题在线评测：传送门：pgcode.cn骑车路线题目描述Tomislav最近发现自己的身材完全走样了，她走楼梯都变得很累。一天早上她起来以后，她决定恢复姣好的身材。她最喜欢的运 DeepSeek可以画图嘛？DeepSeek怎么画流程图，分享2025年最新版教程 wd209988 流程图pptpowerpoint信息可视化人工智能 ‍‌‌‌‌‍‌‌‌‍‌‌‌‍‌‌‌‍‌‌‌‌‌‍‌‌‌你是否遇到过需要快速绘制专业流程图却无从下手的窘境？传统的流程图绘制方法不仅耗时耗力，对工具和技能的要求也让人望而却步。今天，我们将介绍一款革命性工具：亿图图示PPT插件。它能借助DeepSeek大模型的智能能力，让你在PPT中一键生成精美流程图，不用反复折腾！一、流程图绘制的传统方法目前主流的流程图绘制方式主要有三种，第一种是手动绘制工具：比 lxml学习笔记 weixin_33843409 python 问题1：有一个XML文件，如何解析问题2：解析后，如果查找、定位某个标签问题3：定位后如何操作标签，比如访问属性、文本内容等fromlxmlimportetree->导入模块，该库常用的XML处理功能都在lxml.etree中requests+lxml解析小from lxml import etree  import requests    page = 1  url = 'http://www. 【数据结构-合法括号字符串】力扣1963. 使字符串平衡的最小交换次数 hlc@ 数据结构数据结构leetcode算法 给你一个字符串s，下标从0开始，且长度为偶数n。字符串恰好由n/2个开括号‘[’和n/2个闭括号‘]’组成。只有能满足下述所有条件的字符串才能称为平衡字符串：字符串是一个空字符串，或者字符串可以记作AB，其中A和B都是平衡字符串，或者字符串可以写成[C]，其中C是一个平衡字符串。你可以交换任意两个下标所对应的括号任意次数。返回使s变成平衡字符串所需要的最小交换次数。示例1：输入：s=“][][”输 基于STM32蓝牙智能温控风扇系统设计与实现（代码+原理图+PCB+蓝牙APP） 科创工作室li 毕业设计1stm32智能家居嵌入式硬件单片机物联网 STM32蓝牙智能温控风扇系统设计与实现资料齐全:源代码，原理图，PCB和机智云相关教程，参考lun文等！摘要：本文设计并实现了一种基于STM32F103C8T6单片机的蓝牙智能温控风扇系统。该系统具备OLED显示、自动/手动模式切换、温湿度检测、风扇档位调节、人体红外检测、倒计时以及蓝牙APP远程控制等功能。通过集成多种传感器和执行器，系统能够根据当前温湿度变化自动控制风扇转动，同时支持手机AP LeetCode1963. 使字符串平衡的最小交换次数 超好的小白 各种算法题算法 给你一个字符串s，下标从0开始，且长度为偶数n。字符串恰好由n/2个开括号‘[’和n/2个闭括号‘]’组成。只有能满足下述所有条件的字符串才能称为平衡字符串：字符串是一个空字符串，或者字符串可以记作AB，其中A和B都是平衡字符串，或者字符串可以写成[C]，其中C是一个平衡字符串。你可以交换任意两个下标所对应的括号任意次数。返回使s变成平衡字符串所需要的最小交换次数。示例1：输入：s=“][][”输 lxml模块的学习 bad kid's cute lxml模块lxml模块python爬虫 1.lxml的认识在前面学习了xpath的语法，那么在代码中我们如何使用xpath呢，对应的我们需要lxm博文链接：xpath和lxml类库安装方式：pipinstalllxml2.lxml的使用1.导入lxml的etree库(导入没有提示不代表不能用)fromlxmlimportetree2.利用etree.HTML，将字符串转化为Element对象,Element对象具有xpath的方法,返回 C++高频面试问题 HJ_sky C++ C++常见面试问题汇总一、指针和引用的区别1.指针有自己的一块空间，而引用只是一个别名；2.使用sizeof看一个指针的大小是4，而引用则是被引用对象的大小；3.指针可以被初始化为NULL，而引用必须被初始化且必须是一个已有对象的引用；4.作为参数传递时，指针需要被解引用才可以对对象进行操作，而直接对引用的修改都会改变引用所指向的对象；5.可以有const指针，但是没有const引用；6.指针在使 西交建筑学本科秋天毕业想转码，自学了Python+408，华为OD社招还是考研更香？ 程序员yt python华为od考研 今天给大家分享的是一位粉丝的提问，西交建筑学本科秋天毕业想转码，自学了Python+408，华为OD社招还是考研更香？接下来把粉丝的具体提问和我的回复分享给大家，希望也能给一些类似情况的小伙伴一些启发和帮助。同学提问：本科就读于西安交通大学建筑学，今年21岁，秋天毕业，不想在建筑行业，想转码，现在在学Python以及计算机408课程，在Boss上投了很多的岗位好像都是华为OD社招，我毕业应该去试试 深入GPU渲染流水管线：从顶点到像素的微观世界 晴空了无痕 图形学GPU渲染管线 现代图形硬件的架构解密与优化实践一、渲染流水线全景解析1.经典渲染管线阶段划分应用阶段几何阶段光栅化阶段像素处理阶段输出合并阶段2.现代GPU架构演进SIMT架构特性：NVIDIASM(StreamingMultiprocessor)vsAMDCU(ComputeUnit)硬件管线并行度：顶点着色器：32线程/Warp像素着色器：8x8像素/Quad延迟渲染革命：Tile-BasedDeferre 如何用deepseek快速生成思维导图和流程图？ ProcessOn官方账号 流程图 一起来看看md格式和mermaid格式，与deepseek的碰撞会产生怎样的魔法吧！1、md格式+deepseek，快速生成思维导图Markdown是一种轻量级的标记语言，旨在以易读易写的纯文本格式编写文档，并能够轻松转换为结构化的HTML（超文本标记语言）或其他格式。它最初由JohnGruber和AaronSwartz于2004年创建，因其简洁性和可读性而广受欢迎。操作方法：Step1：给dee python技巧之下划线 老虎也淘气 Python编程掌握指南pythondjango开发语言 ‍♂️个人主页@老虎也淘气个人主页✍作者简介：Python学习者希望大家多多支持我们一起进步！如果文章对你有帮助的话，欢迎评论点赞收藏加关注python技巧之下划线1、python的moudles文件中__all__作用2、__slots__用于限定类属性，如：3、下面的小技巧可以获取私有变量：4、下划线种类单个下划线（_）单下划线前缀的名称（例如_shahriar）双下划线前缀的名称（例如__s 大模型黑书阅读笔记--第一章 53年7月11天 大模型黑书笔记人工智能自然语言处理语言模型 cnn,rnn达到了极限，憋了三十年（这段时间已经有注意力了，并且注意力也加到了cnn，rnn中，但没啥进展）憋来了工业化最先进的transformertransformer的核心概念可以理解为混合词元（token），rnn通过循环函数顺序分析次元，而transformer模型不是顺序分析，而是将每个词元与序列中其他词元关联起来。为突破cnn的极限，注意力的概念出来了：cnn做序列处理时只关注最后 AI学习第二天--监督学习 半监督学习 无监督学习 iisugar 机器学习支持向量机人工智能 目录1.监督学习（SupervisedLearning）比喻：技术细节：形象例子：2.无监督学习（UnsupervisedLearning）比喻：技术细节：形象例子：3.半监督学习（Semi-SupervisedLearning）比喻：技术细节：形象例子：4.三者的对比与选择表格总结：5.实际案例对比案例：电商平台用户分群6.关键逻辑总结1.监督学习（SupervisedLearning）比喻：老 给我的 IM 系统加上监控两件套：【Prometheus + Grafana】 蝎子莱莱爱打怪 prometheusgrafana 监控是一个系统必不可少的组成部分，实时，准确的监控，将会大大有助于我们排查问题。而当今微服务系统的话有一个监控组合很火那就是Prometheus+Grafana，嘿你别说这俩兄弟配合的相当完美，Prometheus负责数据采集，Grafana负责可视化展示,各就其位，各司其职一起来完成监控这个活儿。紧接着我们简单对这两工具做个介绍~1、Prometheus与Grafana简介Prometheus作 关于修改 Ollama 及其模型默认路径、迁移已安装的 Ollama 程序和模型以及重启 Ollama 的操作指南 星沉大海@T OllamaOllama迁移指南 以下是关于修改Ollama及其模型默认路径、迁移已安装的Ollama程序和模型以及重启Ollama的操作指南，以问答格式呈现，并将涉及命令操作的部分使用代码块按执行顺序和步骤形式展示：Q1：如何修改Ollama及其模型的默认路径？A1：Windows系统：创建新目录：在非C盘的磁盘中创建一个新目录，用于存放Ollama的模型文件，例如D:\AIModels。设置环境变量：右键点击“此电脑”或“计算 XFlow 开源项目教程 余靖年Veronica XFlow开源项目教程XFlowReactcomponentforbuildinginteractivediagrams.项目地址:https://gitcode.com/gh_mirrors/xf/XFlow1.项目介绍XFlow是由AntV团队打造的一个基于React的交互式图表构建组件。它旨在简化复杂图形界面的创建过程，让开发者能够更轻松地实现图形编辑和流程图设计功能。XFlow提供了统一的 JavaScript 性能优化实战：数据结构选择对性能的影响 deying0865423 开发语言javascript 目录数组（Array）特点与适用场景性能短板链表（LinkedList）特点与适用场景性能短板集合（Set）特点与适用场景性能短板映射（Map）特点与适用场景性能短板栈（Stack）与队列（Queue）特点与适用场景性能短板在JavaScript开发中，数据结构的选择如同搭建房屋时选择合适的建筑材料，对程序性能起着决定性作用。合理的数据结构能显著提升代码执行效率，减少资源消耗，反之则可能导致性能瓶 微服务监控prometheus+Grafana chen2017sheng 经验总结微服务prometheusgrafana 目录Prometheus概述核心组件特点使用场景Grafana概述功能特点使用场景Prometheus+Grafana组合部署和配置一、准备工作二、部署Prometheus三、部署Grafana四、创建监控仪表盘五、验证和调优总结微服务监控是确保微服务架构稳定运行的关键环节，其中Prometheus与Grafana的组合是业界广泛采用的监控解决方案。以下是对这一组合的详细介绍：Prometheus 对股票分析时要注意哪些主要因素？ 会飞的奇葩猪 股票 分析 云掌股吧 　　众所周知，对散户投资者来说，股票技术分析是应战股市的核心武器，想学好股票的技术分析一定要知道哪些是重点学习的，其实非常简单，我们只要记住三个要素：成交量、价格趋势、振荡指标。     一、成交量 　　大盘的成交量状态。成交量大说明市场的获利机会较多，成交量小说明市场的获利机会较少。当沪市的成交量超过150亿时是强市市场状态，运用技术找综合买点较准； 【Scala十八】视图界定与上下文界定 bit1129 scala Context Bound，上下文界定，是Scala为隐式参数引入的一种语法糖，使得隐式转换的编码更加简洁。   隐式参数 首先引入一个泛型函数max，用于取a和b的最大值 def max[T](a: T, b: T) = { if (a > b) a else b }  因为T是未知类型，只有运行时才会代入真正的类型，因此调用a > C语言的分支——Object-C程序设计阅读有感 darkblue086 applec框架cocoa 自从1972年贝尔实验室Dennis Ritchie开发了C语言，C语言已经有了很多版本和实现，从Borland到microsoft还是GNU、Apple都提供了不同时代的多种选择，我们知道C语言是基于Thompson开发的B语言的，Object-C是以SmallTalk-80为基础的。和C++不同的是，Object C并不是C的超集，因为有很多特性与C是不同的。 Object-C程序设计这本书 去除浏览器对表单值的记忆 周凡杨 html记忆autocompleteform浏览                                    &n java的树形通讯录 g21121 java 最近用到企业通讯录，虽然以前也开发过，但是用的是jsf，拼成的树形，及其笨重和难维护。后来就想到直接生成json格式字符串，页面上也好展现。 // 首先取出每个部门的联系人 for (int i = 0; i < depList.size(); i++) { List<Contacts> list = getContactList(depList.get(i Nginx安装部署 510888780 nginxlinux Nginx ("engine x") 是一个高性能的 HTTP 和 反向代理 服务器，也是一个 IMAP/POP3/SMTP 代理服务器。 Nginx 是由 Igor Sysoev 为俄罗斯访问量第二的 Rambler.ru 站点开发的，第一个公开版本0.1.0发布于2004年10月4日。其将源代码以类BSD许可证的形式发布，因它的稳定性、丰富的功能集、示例配置文件和低系统资源 java servelet异步处理请求 墙头上一根草 ｊａｖａ异步返回ｓｅｒｖｌｅｔ servlet3.0以后支持异步处理请求，具体是使用AsyncContext ，包装httpservletRequest以及httpservletResponse具有异步的功能，        final AsyncContext ac = request.startAsync(request, response);   ac.s 我的spring学习笔记8-Spring中Bean的实例化 aijuans Spring 3 在Spring中要实例化一个Bean有几种方法： 1、最常用的（普通方法） <bean id="myBean" class="www.6e6.org.MyBean" /> 使用这样方法，按Spring就会使用Bean的默认构造方法，也就是把没有参数的构造方法来建立Bean实例。 （有构造方法的下个文细说） 2、还 为Mysql创建最优的索引 annan211 mysql索引 索引对于良好的性能非常关键，尤其是当数据规模越来越大的时候，索引的对性能的影响越发重要。 索引经常会被误解甚至忽略，而且经常被糟糕的设计。 索引优化应该是对查询性能优化最有效的手段了，索引能够轻易将查询性能提高几个数量级，最优的索引会比 较好的索引性能要好2个数量级。 1 索引的类型 (1) B-Tree 不出意外，这里提到的索引都是指 B- 日期函数 百合不是茶 oraclesql日期函数查询   ORACLE日期时间函数大全 TO_DATE格式(以时间:2007-11-02 13:45:25为例) Year: yy two digits 两位年 显示值:07 yyy three digits 三位年 显示值:007 线程优先级 bijian1013 javathread多线程java多线程 多线程运行时需要定义线程运行的先后顺序。 线程优先级是用数字表示，数字越大线程优先级越高，取值在1到10，默认优先级为5。 实例： package com.bijian.study; /** * 因为在代码段当中把线程B的优先级设置高于线程A,所以运行结果先执行线程B的run()方法后再执行线程A的run()方法 * 但在实际中，JAVA的优先级不准，强烈不建议用此方法来控制执 适配器模式和代理模式的区别 bijian1013 java设计模式 一.简介        适配器模式：适配器模式（英语：adapter pattern）有时候也称包装样式或者包装。将一个类的接口转接成用户所期待的。一个适配使得因接口不兼容而不能在一起工作的类工作在一起，做法是将类别自己的接口包裹在一个已存在的类中。      &nbs 【持久化框架MyBatis3三】MyBatis3 SQL映射配置文件 bit1129 Mybatis3  SQL映射配置文件一方面类似于Hibernate的映射配置文件，通过定义实体与关系表的列之间的对应关系。另一方面使用<select>,<insert>,<delete>，<update>元素定义增删改查的SQL语句， 这些元素包含三方面内容 1. 要执行的SQL语句 2. SQL语句的入参，比如查询条件 3. SQL语句的返回结果 oracle大数据表复制备份个人经验 bitcarter oracle大表备份大表数据复制 前提：    数据库仓库A（就拿oracle11g为例）中有两个用户user1和user2,现在有user1中有表ldm_table1,且表ldm_table1有数据5千万以上，ldm_table1中的数据是从其他库B（数据源）中抽取过来的，前期业务理解不够或者需求有变，数据有变动需要重新从B中抽取数据到A库表ldm_table1中。     HTTP加速器varnish安装小记 ronin47 http varnish 加速 上午共享的那个varnish安装手册，个人看了下，有点不知所云，好吧~看来还是先安装玩玩！ 苦逼公司服务器没法连外网，不能用什么wget或yum命令直接下载安装，每每看到别人博客贴出的在线安装代码时，总有一股羡慕嫉妒“恨”冒了出来。。。好吧，既然没法上外网，那只能麻烦点通过下载源码来编译安装了！ Varnish 3.0.4下载地址： http://repo.varnish-cache.org/ java-73-输入一个字符串，输出该字符串中对称的子字符串的最大长度 bylijinnan java public class LongestSymmtricalLength { /* * Q75题目：输入一个字符串，输出该字符串中对称的子字符串的最大长度。 * 比如输入字符串“google”，由于该字符串里最长的对称子字符串是“goog”，因此输出4。 */ public static void main(String[] args) { Str 学习编程的一点感想 Cb123456 编程感想Gis        写点感想，总结一些，也顺便激励一些自己.现在就是复习阶段，也做做项目.      本专业是GIS专业，当初觉得本专业太水，靠这个会活不下去的，所以就报了培训班。学习的时候，进入状态很慢，而且当初进去的时候，已经上到Java高级阶段了，所以.....，呵呵，之后有点感觉了，不过，还是不好好写代码，还眼高手低的，有 [能源与安全]美国与中国 comsci 能源      现在有一个局面：地球上的石油只剩下N桶，这些油只够让中国和美国这两个国家中的一个顺利过渡到宇宙时代，但是如果这两个国家为争夺这些石油而发生战争，其结果是两个国家都无法平稳过渡到宇宙时代。。。。而且在战争中，剩下的石油也会被快速消耗在战争中，结果是两败俱伤。。。       在这个大 SEMI-JOIN执行计划突然变成HASH JOIN了 的原因分析 cwqcwqmax9 oracle 甲说： A B两个表总数据量都很大，在百万以上。 idx1  idx2字段表示是索引字段 A B 两表上都有 col1字段表示普通字段 select xxx from A where A.idx1 between mmm and nnn      and exists (select 1 from B where B.idx2 = SpringMVC-ajax返回值乱码解决方案 dashuaifu AjaxspringMVCresponse中文乱码   SpringMVC-ajax返回值乱码解决方案   一：（自己总结，测试过可行） ajax返回如果含有中文汉字，则使用：（如下例：） @RequestMapping(value="/xxx.do")       public @ResponseBody void getPunishReasonB Linux系统中查看日志的常用命令 dcj3sjt126com OS 因为在日常的工作中，出问题的时候查看日志是每个管理员的习惯，作为初学者，为了以后的需要，我今天将下面这些查看命令共享给各位 cat tail -f 日 志 文 件 说 明 /var/log/message 系统启动后的信息和错误日志，是Red Hat Linux中最常用的日志之一 /var/log/secure 与安全相关的日志信息 /var/log/maillog 与邮件相关的日志信 [应用结构]应用 dcj3sjt126com PHPyii2 应用主体 应用主体是管理 Yii 应用系统整体结构和生命周期的对象。 每个Yii应用系统只能包含一个应用主体，应用主体在 入口脚本中创建并能通过表达式 \Yii::$app 全局范围内访问。 补充: 当我们说"一个应用"，它可能是一个应用主体对象，也可能是一个应用系统，是根据上下文来决定[译：中文为避免歧义，Application翻译为应 assertThat用法 eksliang JUnitassertThat junit4.0  assertThat用法 一般匹配符1、assertThat( testedNumber, allOf( greaterThan(8), lessThan(16) ) ); 注释： allOf匹配符表明如果接下来的所有条件必须都成立测试才通过，相当于“与”（&&） 2、assertThat( testedNumber, anyOf( g android点滴2 gundumw100 应用服务器android网络应用OSHTC 如何让Drawable绕着中心旋转？ Animation a = new RotateAnimation(0.0f, 360.0f, Animation.RELATIVE_TO_SELF, 0.5f, Animation.RELATIVE_TO_SELF,0.5f); a.setRepeatCount(-1); a.setDuration(1000); 如何控制Andro 超简洁的CSS下拉菜单 ini htmlWeb工作html5css 效果体验：http://hovertree.com/texiao/css/3.htmHTML文件： <!DOCTYPE html> <html xmlns="http://www.w3.org/1999/xhtml"> <head> <title>简洁的HTML+CSS下拉菜单-HoverTree</title> kafka consumer防止数据丢失 kane_xie kafkaoffset commit kafka最初是被LinkedIn设计用来处理log的分布式消息系统，因此它的着眼点不在数据的安全性（log偶尔丢几条无所谓），换句话说kafka并不能完全保证数据不丢失。   尽管kafka官网声称能够保证at-least-once，但如果consumer进程数小于partition_num，这个结论不一定成立。   考虑这样一个case，partiton_num=2 @Repository、@Service、@Controller 和 @Component mhtbbx DAOspringbeanprototype @Repository、@Service、@Controller 和 @Component 将类标识为Bean Spring 自 2.0 版本开始，陆续引入了一些注解用于简化 Spring 的开发。@Repository注解便属于最先引入的一批，它用于将数据访问层 (DAO 层 ) 的类标识为 Spring Bean。具体只需将该注解标注在 DAO类上即可。同时，为了让 Spring 能够扫描类 java 多线程高并发读写控制 误区 qifeifei java thread 先看一下下面的错误代码，对写加了synchronized控制，保证了写的安全，但是问题在哪里呢？ public class testTh7 { private String data; public String read(){ System.out.println(Thread.currentThread().getName() + "read data " mongodb replica set(副本集)设置步骤 tcrct javamongodb 网上已经有一大堆的设置步骤的了，根据我遇到的问题，整理一下，如下： 首先先去下载一个mongodb最新版，目前最新版应该是2.6 cd /usr/local/bin wget http://fastdl.mongodb.org/linux/mongodb-linux-x86_64-2.6.0.tgz tar -zxvf mongodb-linux-x86_64-2.6.0.t rust学习笔记 wudixiaotie 学习笔记 1.rust里绑定变量是let，默认绑定了的变量是不可更改的，所以如果想让变量可变就要加上mut。 let x = 1; let mut y = 2; 2.match 相当于erlang中的case，但是case的每一项后都是分号，但是rust的match却是逗号。 3.match 的每一项最后都要加逗号，但是最后一项不加也不会报错，所有结尾加逗号的用法都是类似。 4.每个语句结尾都要加分 按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他 首页 - 关于我们 - 站内搜索 - Sitemap - 侵权投诉 版权所有 IT知识库 CopyRight © 2000-2050 E-COM-NET.COM , All Rights Reserved.