pengGgxp 发表于 2026-3-28 23:27

仿git 百度网盘备份工具

作为一个有“数据囤积癖”的开发者,我经常遇到这样的场景:本地有一大堆学习资料、Obsidian 笔记仓库或是个人的小项目文件。我想给它们做版本控制,也想在多台电脑间同步,但传统的方案总是不那么尽如人意:
[*]用 Git + GitHub/Gitee?:免费仓库有容量限制,传一些大型的二进制文件、视频或几十兆的 PDF 简直是灾难,而且很容易把仓库撑爆。
[*]用直接同步盘(如坚果云/OneDrive)?:缺乏“版本快照”的概念,一旦误删或被勒索病毒加密,找回历史版本非常麻烦;而且面对数万个碎文件的项目,同步软件经常卡死。
[*]直接打包传百度网盘?:每次都要手动压缩、手动上传、手动记录这是哪一天的备份,极其反人类。
[*]不要问我为什么用百度网盘的自动备份功能:再开一个软件不觉得很混乱吗?,况且... 懂得都懂。

于是,我萌生了一个想法:为什么不把 Git 的优秀设计和百度网盘的海量存储结合起来呢?
说干就干,我基于 Python 和百度网盘开放平台(Baidu PCS API),开发了一款名为 的数据管理工具!🌟 GitDuPan 是什么?
简单来说,它是一个操作体验无限接近于 Git,但数据实际存储在百度网盘上的版本控制与同步工具。
你只需要在终端敲下熟悉的代码,就能完成数据的本地快照与云端同步:$ gitdupan init$ gitdupan add .$ gitdupan commit -m "备份我的 Obsidian 笔记"$ gitdupan push
就这样,你的数据被安全地进行了哈希去重,并以增量的方式备份到了百度网盘中!
https://attach.52pojie.cn//forum/202603/28/232717m940pdzvjy9dthvh.gif?l🛠️ 填坑指南:如何让 Git 跑在网盘上?
在开发过程中,我并没有直接生搬硬套 Git 的所有底层,而是针对“网盘 API”的特性做了大量魔改和妥协。以下是几个核心的技术痛点和解决方案:1. 碎文件上传的灾难 -> Pack 增量打包机制
原生的 Git 每次 commit 都会在 .git/objects 目录下产生大量的松散对象(Loose Objects)。如果你有一个包含 5000 个小文件的仓库,直接调用网盘 API 上传这 5000 个文件,会被网盘的“频控策略(QPS限制)”瞬间封杀,而且网络握手开销极大。
我的解法:
我在本地依然保留了类似 Git 的 Blob/Tree/Commit 对象哈希存储机制,以实现本地的“秒级 Commit”。但在执行 gitdupan push 时,系统会自动比对远端 HEAD 和本地 HEAD,把所有缺失的增量对象打包成一个单一的 pack_<hash>.tar.gz 压缩包。
这样,无论你修改了 1 个文件还是 10000 个文件,最终发往百度网盘的永远只有一个大文件请求,完美绕过了 API 频控!2. 超大压缩包的网络阻断 -> Superfile 分片与流式传输
在打包机制跑通后,我遇到了第二个坑。当我尝试备份一个几个 G 的大仓库时,上传过程中经常抛出 ConnectionResetError(10054)。原因是单次 HTTP 请求保持时间过长,被网盘服务器强行切断了。
我的解法:
我重构了底层的网盘 API 客户端,实现了真正的 Superfile 分片上传机制:
[*]在本地将庞大的 .tar.gz 包切分为标准的 4MB 分片。
[*]计算所有分片的 MD5,调用 precreate 接口预创建任务。
[*]带着进度条(使用了炫酷的 rich.progress),将分片逐个 upload,并在失败时引入指数退避重试机制。
[*]全部传完后,调用 create 接口让网盘在云端进行合并。
同理,在 pull 下载时,也改为了 chunk_size 流式写入硬盘,彻底杜绝了内存溢出和连接中断。
3. 忽略文件,解放双手 -> 拥抱 .dupanignore
每次手动 add <file> 太反人类了。为此我手写了一个路径解析器,完美兼容 .gitignore 的语法。
只需要在项目根目录建一个 .dupanignore 文件,写入 *.log 或 build/,然后豪迈地敲下 gitdupan add .,系统就会自动过滤掉这些不需要备份的垃圾文件。&#128230; 如何体验?
为了让非 Python 开发者也能零门槛使用,我使用 PyInstaller 将整个项目打包成了一个独立的单文件 .exe。
只需两步即可开始:
[*]下载 gitdupan.exe 并将其扔进系统的环境变量目录。
[*]然后执行:gitdupan logingitdupan remote add /apps/gitdupan/my_backup接下来,你就可以像用 Git 一样管理你的个人资料了!
&#128161; 写在最后
造这个轮子的初衷,是为了解决我个人的高频痛点。它目前还比较简陋,没有复杂的多分支合并(Merge/Rebase)功能,因为对于个人数据备份来说,一条直线的历史树(Fast-forward)通常已经足够了。
如果你也和我一样,苦于没有好的大文件异地增量备份方案,不妨试试 GitDuPan!
欢迎在评论区交流,如果有大佬愿意一起完善(比如加入本地数据加密功能),也欢迎来提 PR!
开源地址:https://github.com/pengGgxp/gitdupan

thghx 发表于 2026-4-19 11:59

我平时也是有楼主这样的困扰,一直使用onedrive做备份和同步,但是现在单位上的网络做限制,无法使用onedrive,没办法我又转向了百度网盘,但是百度网盘的同步比起onedrive比较麻烦,也不知道以后该如何在单位和家庭之间同步。
你提供的方案我看不懂,只要是能实现目的并且易用就是好软件,希望楼主能继续完善下去。
希望能提供一个蓝奏去的EXE成品下载链接

pengGgxp 发表于 2026-4-2 03:58

langjuxv 发表于 2026-4-1 16:43
同步是指同步上传还是下载?

既有上传也有下载 和git实现方式一样,不过现在的方式对于大文件支持有些差劲,我正在考虑怎么解决更好

望断红尘 发表于 2026-4-1 13:37

还不会用,有空研究研究

langjuxv 发表于 2026-4-1 16:43

同步是指同步上传还是下载?

MateX 发表于 2026-4-2 00:11

用于对obsidian笔记备份挺好

pengGgxp 发表于 2026-4-2 03:58

MateX 发表于 2026-4-2 00:11
用于对obsidian笔记备份挺好

是的,本来做这个的初衷就是为了备份笔记,git太轻量,有些个别的视频文件备份就有点难受。

xiguapi66 发表于 2026-4-2 07:59

mark,不错的实现,这样的需求我也需要,因为平时需要把一些资料上传到网盘备份。谢谢分享

xiaoshenxian 发表于 2026-4-2 12:12

这个思路不错,版本控制备份很有用

wanlucky 发表于 2026-4-2 12:18

可以的,正好可以用上

datangshizhewu 发表于 2026-4-3 10:18

一般都是再IDEA里面用git, 纯命令行 不会用啊
页: [1] 2
查看完整版本: 仿git 百度网盘备份工具