使用 Git
的过程中,我们有可能会误提交一些敏感信息(密钥,个人隐私)或无用文件等到远程仓库。这时我们需要清理相关的数据,直接在文件中删除敏感信息再提交,虽然仓库中没有了敏感信息,但是在提交历史中还是能看到相应的敏感信息。
当我们需要从提交记录中删除这些敏感信息,又不希望整个仓库的提交记录丢失时,可以使用官方 git-filter-branch 工具,但是使用起来麻烦而且速度也不快。
这里推荐使用 BFG Repo-Cleaner 工具,它是 Scala
编写的,专门针对移除 git
提交记录而制作的,是 git-filter-branch
的替代品,官方介绍说要比 git-filter-branch
快上 10~720
倍。
BFG Repo-Cleaner
的使用官网流程介绍:
git clone --mirror git://example.com/some-big-repo.git
java -jar bfg.jar --strip-blobs-bigger-than 100M some-big-repo.git
cd some-big-repo.git
git reflog expire --expire=now --all && git gc --prune=now --aggressive
git push
下面详细说明。
java
环境,本篇不做安装介绍。bfg.jar
,这里提供的下载连接是 1.14.0,可以自己去官网下载。my-repo.git
是使用 --mirror
克隆到自己本地的代码仓库,执行命令的文件结构如下:
my-repo.git.bfg-report
记录的是修改的数据。
500M
的文件都清理掉。java -jar bfg.jar --strip-blobs-bigger-than 100M my-repo.git
java -jar bfg.jar --delete-files id_dsa my-repo.git // 删除 id_dsa 文件
java -jar bfg.jar --delete-files id_{dsa,rsa} my-repo.git // 文件名为 `id_dsa` 和 `id_rsa` 的文件都会删除
java -jar bfg.jar --delete-folders pwd my-repo.git // 删除 pwd 目录
java -jar bfg.jar --replace-text replace_pwd.txt my-repo.git
这里的 replace_pwd.txt
是我们自己定义需要移除数据的文本,具体的语法规则自行学习使用,示例如下:
PASSWORD1 # 默认删除 PASSWORD1 的相关记录
PASSWORD2==>examplePass # PASSWORD2 改为 examplePass
PASSWORD3==> # PASSWORD3 转为 空字符串
regex:password=\w+==>password= # 正则匹配替换,将password具体的数据删除 password=xxx 替换为 password=
regex:\r(\n)==>$1 # 替换 Windows 换行符 为 Unix 换行符
bfg
脚本
# 先使用 `--mirror` 将数据库克隆下来, `git --mirror` 的作用,感兴趣的可以自己去搜索。
git clone --mirror xxx/my-repo.git
# 替换 Password1:xxx 为空
java -jar bfg.jar --replace-text "replace_pwd.txt" --no-blob-protection my-repo.git
# 删除 pwd.txt 文件
java -jar bfg.jar --delete-files "pwd.txt" --no-blob-protection my-repo.git
cd my-repo.git
# 清理脏数据
git reflog expire --expire=now --all && git gc --prune=now --aggressive
# 推送至远端
git push
replace_pwd.txt
文件内容
regex:Password1:[\s\S]+==>
add
提交 test.txt
和 pwd.txt
文件delete
提交将 pwd.txt
文件删除,并删除 test.txt
文件中的 Password1
的值。bfg
脚本后,再次查看两次提交内容,可发现敏感信息已全部移除。add
提交中的 Password1
的赋值已经没有了,并且也看不到 pwd.txt
文件的修改了。
delete
提交已没有修改内容了。
--mirror
将代码仓库克隆下来,所有的操作都是基于克隆后的代码仓库的。bfg
不会删除 git
仓库的文件,即使使用 --delete-files
进行删除。正确的做法应该是手动删除文件后,提交到远端仓库,bfg
仅删除提交历史中相关的数据。git push
的时候总是报权限不足(我自己创建的代码仓库),那么需要添加 --no-blob-protection
参数。这里有些权限控制还没太清楚了,实在不行,可以先将分支/tag
的保护放开,更新完成之后再设回原来的。--replace-text
参数需提供一个替换样本,一行就是一个替换样本。替换的是全仓库数据,会去扫描仓库。dev
和 main
分支,同时都包含了一些需要去除敏感信息的提交历史,会怎么做?因为 clone
命令使用了 --mirror
标志,所以此推送将更新远程服务器上的所有引用,即:dev
和 main
分支,包扩所有的 tag
的提交记录都会删除。bfg
主要用途:希望保留提交历史,需删除提交历史记录中的不希望被其他人看到的信息(密钥,个人隐私等)或大文件的移除。
环境配置完成后,使用还是比较方便的,软件运行速度也非常快,当遇到类似需求时推荐使用。
最后还是祝愿大家不要用到这个工具,尽量提前做好相应的知识储备(git
的使用,敏感信息过滤等),以防出现不必要的麻烦。