NoSQL 大腸花

Transcript

1. NoSQL ⼤大腸花 何永琳
 ⼯工頭 @ Fliptop
2. 議程 • NoSQL 經驗 • MongoDB 2.2, 2.4, 2.6 • CouchDB 1.2 • Cassandra 0.6, 0.7, 1.0 • Riak 1.?
3. 其實我只是想幹樵 MongoDB
4. NoSQL 前世今⽣生
5. No SQL Not Only SQL
6. 為什麼 SQL 變成 DB 的代名詞？
7. 第⼀一次 DB ⼤大戰 1960s~1970s
8. 參戰國 • Hierarchical model • Network model • Relational model
9. 戰勝國 • Edgar F. Codd: I don't use database often, but when I do, I always use RDBMS.
10. Relational Model
11. RDBMS/SQL • Atomicity • Consistency • Isolation • Durability
12. RDBMS 的問題 • 不是所有資料都是 Relational Model • Schema Migration: 會把整個 Table/DB 鎖住 • Hard to Scale Write.
13. 中間(沒⼈人理的)戰爭 2000~?
 ObjectDB, XmlDB
14. 第⼆二次 DB ⼤大戰 2009~ 未完
15. 前期參戰國 • Dynamo DB • Google AppEngine Datastore • Cassandra • CouchDB • MongoDB http://thechangelog.com/18/
16. • Amazon SimpleDB • Redis • Neo4j 前期參戰國
17. 盟國 • Column Store: Cassandra, HBase • Document Store: CouchDB, MongoDB • Key-Value Store: DynamoDB, Redis, Riak • Graph Store: Neo4J
18. CAP
19. ⼝口號: BASE • Basically Available • Soft State • Eventual consistency
20. 好話說完了，要開幹了
21. Eventual Consistency? • Eventual inconsistency!! • ⼀一個確認的 Write 可能最終會消失！！
22. Eventual Consistency? • Eventual inconsistency!! • ⼀一個確認的 Write 可能最終會消失！！ • ⼀一個確認失敗的 Write 可能會跑出來！！
23. https://aphyr.com/posts/284-call-me-maybe-mongodb
24. ⼤大家都說不會掉資料 • 實測結果 • MongoDB： 47% Acked Data Lost! • Riak: 91% Ack lost!, 0.3% Unack found! • Cassandra: 28% Ack lost! 
 Cassandra/CRDT: 0% lost
25. 發⽣生了什麼事？！ • Failover Strategy: MongoDB. • When Primary down, the secondary will become new Primary. When old Primary is back online, it will replay the op-log on old Primary.
 
 But it won’t most of time !!!
26. 發⽣生了什麼事？！ • Failover Strategy: Riak. • 由下 N 個結點接收 Write. 如果 N 個寫⼊入成功， 就會回傳成功，但是回傳失敗，即使只有⼀一個 成功，最終，這⼀一個 Write 會被寫到 N 份去。
 • Conflict Resolution: 如果對同⼀一個 Key 的寫⼊入有 衝突，Riak會回傳多個值，由 Client 來判斷怎麼 取捨 http://blog.monitis.com/20123/14/an-overview-of-riak-an-open-source-nosql-database/
27. 發⽣生了什麼事？！ • Failover Strategy: Cassandra. • 由下 N 個結點接收 Write. 如果 N 個寫⼊入成功，就會 回傳成功，但是回傳失敗，即使只有⼀一個成功，最終， 這⼀一個 Write 會被寫到 N 份去。
 • Conflict Resolution: 如果對同⼀一個 Key 的寫⼊入有衝突， Timestamp 最⼤大的會獲勝. • Timestamp 是個不可靠的數值，因為你不能保證 Cluster 中所有機器的時間都是同步的。 http://blog.monitis.com/20123/14/an-overview-of-riak-an-open-source-nosql-database/
28. 教訓 • 不要對同⼀一值重覆寫⼊入。 • 使⽤用 Commutative Replicated Data Type, Command Query Responsibility Segregation Pattern 來寫程式
29. 教訓 • 不要對同⼀一值重覆寫⼊入。 • 使⽤用 Commutative Replicated Data Type, Command Query Responsibility Segregation Pattern 來寫程式
30. CRDT • Bank never deletes anything • https://www.youtube.com/watch?v=BGxnjKd4MFQ
31. Scalability? • 所有的 DB 都是實作⼀一樣的 Journal DB 機制。 • 所以所有的 DB 在 EC2 m1.large 上，都是 11,000 write/sec. (Riak: 我只有 4000w/s)
32. Scale Read • Shading. • Replication. • ⼤大家都做得很好.
33. Scale Write • MongoDB: 請叫我廢柴，無論開多少台，都是笑 能。
34. Scale Write - Cassandra http://techblog.netflix.com/2011/11/benchmarking-cassandra-scalability-on.html
35. Schema-less • Schema 真的是問題嗎？請再問你⾃自⼰己三遍 http://techblog.netflix.com/2011/11/benchmarking-cassandra-scalability-on.html
36. Schema-less • Schema 真的是問題嗎？請再問你⾃自⼰己三遍 • Schema 的危害是，Migrate 時可能會把 DB 鎖住， 造成 Downtime
 • Schema-less 要做 migration ，是在 code 中做 read-repair. • 所以說你的程式碼中要⼀一直有有 V1->V2, V2->V3, V3->V4…. 的 migration code. http://techblog.netflix.com/2011/11/benchmarking-cassandra-scalability-on.html
37. Schema-less • Dynamic Language ⽤用起來很爽 • var tweets = db.find(….)
 for tweet in tweets:
 print tweet.text
38. Schema-less • Dynamic Language ⽤用起來很爽 • var tweets = db.find(….)
 for tweet in tweets:
 print tweet.text • 可是我們是寫 Java 的
39. Model class is Schema @Entity("employees") class Employee { // auto-generated, if not set (see ObjectId) @Id ObjectId id; // value types are automatically persisted String firstName, lastName; // only non-null values are stored Long salary = null; // by default fields are @Embedded Address address;
40. Schema-less • ⼤大多數時間造成的是危害不是好處
41. AdHoc Query • SQL 中好好⽤用。 • MongoDB 中可以⽤用 • Cassandra, Riak 中.... • CouchDB 有 MapReduce 可⽤用
42. MapReduce?! • 把資料庫的所有物件，⼀一個個的拿出來看 • 挑想要的資料，佔存在 “某個地⽅方” • 然後再來 Reduce(Aggregate)
43. MapReduce?! • 把資料庫的所有物件，⼀一個個的拿出來看 • 挑想要的資料，佔存在 “某個地⽅方” • 然後再來 Reduce(Aggregate) • 所以 MongoDB 會要個 Write Lock !! 把 DB 鎖死
44. MapReduce • Not Production Ready.
45. 2nd Index. • Cassandra, Riak 對 AdHoc Query 的回應 • 每個結點⾃自⼰己 Index ⾃自⼰己的資料。 • 所以 Index 的⼤大⼩小是無限的。
46. 2nd Index. • Cassandra, Riak 對 AdHoc Query 的回應 • 每個結點⾃自⼰己 Index ⾃自⼰己的資料。 • 所以 Index 的⼤大⼩小是無限的。 • 結果變成能夠承受的 Query 總量，是固定的。
47. ACID 好好⽤用 • counter + 1 (NoSQL開始提供對單⼀一欄位操作) • 資料正確性 vs Availability. • Transaction • Data Consistency
48. MongoDB • 最熱⾨門的 NoSQL • ⽀支援 AdHoc Query • ⽀支援 Index on any field • ⽀支援 Sharding, Replication
49. MongoDB 缺點 • ⽂文件的 Size • Index 的 Size 驚⼈人 • 被 Index 有欄位⼤大⼩小的限制(1024 bytes) • 對變⾰革的適應能⼒力（ 連結外部新來的資料或查 尋）
50. 結語