分布式缓存

用go语言实现的一个分布式缓存

TODO

• LRU缓存淘汰策略
• 单机并发缓存
• http客户端及请求支持
• 实现一致性哈希算法
• 利用一致性哈希算法，从单一节点走向分布式
• 缓存击穿，缓存雪崩问题
• 缓存穿透问题
• Protobuf通信
• 支持统计信息展示
• 其他问题

• 缓存雪崩：缓存在同一时刻全部失效，造成瞬时DB请求量大、压力骤增，引起雪崩。缓存雪崩通常因为缓存服务器宕机、缓存的 key 设置了相同的过期时间等引起。

  解决：不支持过期时间，只维护了一个最近使用的缓存队列，暂时无法解决雪崩问题

• 缓存击穿：一个存在的key，在缓存过期的一刻，同时有大量的请求，这些请求都会击穿到 DB ，造成瞬时DB请求量大、压力骤增。

  解决：使用sync.WaitGroup锁来避免重入，保证并发的时候只有一个请求在工作，详见singlereq/single_req.go的Do()

• 缓存穿透：查询一个不存在的数据，因为不存在则不会写到缓存中，所以每次都会去请求 DB，如果瞬间流量过大，穿透到 DB，导致宕机。

  解决：布隆过滤器，存一个短期的空值

项目结构 创建流程

脚本测试

运行 /demo 文件下的 run.sh bash run.sh 会编译运行main.go 为可执行文件并执行

#!/bin/zsh
trap "rm server;kill 0" EXIT

go build -o server

./server -port=8001 &
./server -port=8002 &
./server -port=8003 -api=1 &

sleep 2
echo ">>> start test"
curl "http://localhost:9999/api?key=Tom" &
curl "http://localhost:9999/api?key=Tom" &
curl "http://localhost:9999/api?key=Tom" &

wait

然后浏览器访问 http://localhost:9999/api?key=Tom 连接

日志结果如下

2021/01/30 18:51:08 gocache is running at http://localhost:8002
2021/01/30 18:51:08 gocache is running at http://localhost:8001
2021/01/30 18:51:08 gocache is running at http://localhost:8003
2021/01/30 18:51:08 fontend server is running at http://localhost:9999
>>> start test
2021/01/30 18:51:10 http_pool.go:50: [Server http://localhost:8003] pick node http://localhost:8001
2021/01/30 18:51:10 http_pool.go:50: [Server http://localhost:8001] GET /_cache/scores/Tom -- group=scores key=Tom
2021/01/30 18:51:10 main.go:22: [SlowDB] search key Tom
6306306302021/01/30 18:51:46 http_pool.go:50: [Server http://localhost:8003] pick node http://localhost:8001
2021/01/30 18:51:46 http_pool.go:50: [Server http://localhost:8001] GET /_cache/scores/Tom -- group=scores key=Tom
2021/01/30 18:51:46 gocache.go:81: read from local cache 0xc00000e6a0