CURVE是網(wǎng)易自主設(shè)計(jì)研發(fā)的高性能、高可用、高可靠分布式存儲(chǔ)系統(tǒng)，具有非常良好的擴(kuò)展性�；�于該存儲(chǔ)底座可以打造適用于不同應(yīng)用場(chǎng)景的存儲(chǔ)系統(tǒng)，如塊存儲(chǔ)、對(duì)象存儲(chǔ)、云原生數(shù)據(jù)庫(kù)等。當(dāng)前我們基于CURVE已經(jīng)實(shí)現(xiàn)了高性能塊存儲(chǔ)系統(tǒng)，支持快照克隆和恢復(fù) ,支持QEMU虛擬機(jī)和物理機(jī)NBD設(shè)備兩種掛載方式, 在網(wǎng)易內(nèi)部作為高性能云盤使用。

軟件介紹

　　curve的設(shè)計(jì)開發(fā)始終圍繞三個(gè)理念：一是順應(yīng)當(dāng)前存儲(chǔ)硬件設(shè)施發(fā)展趨勢(shì)，做到軟硬件結(jié)合打造*的存儲(chǔ)產(chǎn)品；二是秉持“Simple Can be harder than complex”，了解問(wèn)題本質(zhì)情況下選擇*簡(jiǎn)單的方案解決問(wèn)題；三是擁抱開源，在充分調(diào)研的前提下使用優(yōu)秀的開源項(xiàng)目組件，避免造輪子。

　　當(dāng)前網(wǎng)易基于curve已經(jīng)實(shí)現(xiàn)了高性能塊存儲(chǔ)系統(tǒng)，支持快照克隆和恢復(fù) ,支持QEMU虛擬機(jī)和物理機(jī)NBD設(shè)備兩種掛載方式, 在網(wǎng)易內(nèi)部作為高性能云盤使用。

軟件特色

　　1、高性能

　　高性能是curve的一大特點(diǎn)，也是項(xiàng)目團(tuán)隊(duì)創(chuàng)建curve項(xiàng)目的初衷。RPC層面curve采用了高性能和低延遲并且已開源的brpc；在一致性層面選擇了基于quorum機(jī)制并且開源的braft，從協(xié)議層面來(lái)說(shuō)quorum機(jī)制在延遲方面天生優(yōu)于多副本強(qiáng)一致的方式。實(shí)現(xiàn)上curve對(duì)braft快照的實(shí)現(xiàn)進(jìn)行了優(yōu)化，在狀態(tài)機(jī)的實(shí)現(xiàn)上采用chunkfilepool的方式(初始化集群的時(shí)候格式化出指定比例的空間用作chunk)使得底層的寫入放大為0；此外curve還在chunk上進(jìn)行更細(xì)力度的地址空間hash以達(dá)到讀寫分離、減小IO碰撞等的效果，從而進(jìn)一步提升IO性能。

　　2、高可用

　　高可用是curve的另一大特點(diǎn)。MDS、ChunkServer以及SnapShotCloneServer都支持多實(shí)例部署，部分實(shí)例異常不影響整個(gè)集群的可用性。

　　2.1、MDS

　　MDS是無(wú)狀態(tài)的，推薦至少部署兩個(gè)實(shí)例。通過(guò)Etcd進(jìn)行選主。多個(gè)MDS實(shí)例通過(guò)Etcd進(jìn)行選主，當(dāng)單個(gè)實(shí)例失效時(shí)，可以秒級(jí)切換到另外一個(gè)實(shí)例。失效實(shí)例上正在處理的請(qǐng)求，Client和SnapShotCloneServer都會(huì)對(duì)其進(jìn)行重試，以達(dá)到不影響集群可用性的效果。

　　2.2、SnapShotCloneServer

　　SnapShotCloneServer與MDS類似, 也是通過(guò)Etcd進(jìn)行選主，不同的是，它通過(guò)負(fù)載均衡對(duì)外提供服務(wù)。失效期間的請(qǐng)求失敗重試都是冪等的，不影響任務(wù)的正確性以及集群的可用性。

　　2.3、ChunkServer

　　ChunkServer是一個(gè)集群，通過(guò)Raft協(xié)議保持?jǐn)?shù)據(jù)一致性，并通過(guò)MDS做負(fù)載均衡。單個(gè)節(jié)點(diǎn)失效時(shí)，會(huì)影響到這個(gè)節(jié)點(diǎn)上存儲(chǔ)的所有Copyset。對(duì)于Copyset上的Leader節(jié)點(diǎn)，會(huì)中斷服務(wù)，等待重新選舉；對(duì)于Copyset上的follower節(jié)點(diǎn)，服務(wù)不會(huì)受影響。當(dāng)某個(gè)Chunkserver節(jié)點(diǎn)失效且在一段時(shí)間內(nèi)無(wú)法恢復(fù)，MDS會(huì)將其上的數(shù)據(jù)遷移到其他節(jié)點(diǎn)上。