Rails Concurrency Gotchas

Transcript

1. Surpresas no uso de Concorrência em Rails by Marcos Toledo miércoles 2 de noviembre de 2011
2. Marcos Renato Baroni Toledo @mtoledo miércoles 2 de noviembre de 2011
3. Socram O’taner miércoles 2 de noviembre de 2011
4. Marcos Renato Socram O’taner miércoles 2 de noviembre de 2011
5. O’taner miércoles 2 de noviembre de 2011
6. Email miércoles 2 de noviembre de 2011
7. “I’m trying to unsubscribe but it says email has already been taken”! miércoles 2 de noviembre de 2011
8. # id :integer(4) # email :string(255) class User < ActiveRecord::Base validates_uniqueness_of :email end validates_uniqueness_of miércoles 2 de noviembre de 2011
9. WTF .. ? miércoles 2 de noviembre de 2011
10. User.find_by_email(“angry_customer@email.com”).valid? # => false Invalid Records! miércoles 2 de noviembre de 2011
11. Why? miércoles 2 de noviembre de 2011
12. Rails can’t guarantee uniqueness! miércoles 2 de noviembre de 2011
13. Solutions? miércoles 2 de noviembre de 2011
14. class AddUniquenessIndexToUserEmail < ActiveRecord::Migration def self.up add_index :users, :email, :unique => true end def self.down remove_index :users, :email end end Uniqueness Constraint! miércoles 2 de noviembre de 2011
15. Success! miércoles 2 de noviembre de 2011
16. Another Email miércoles 2 de noviembre de 2011
17. miércoles 2 de noviembre de 2011
18. Airbrake! miércoles 2 de noviembre de 2011
19. NoMethodError: undefined method `title' for nil:NilClass “nil post”? miércoles 2 de noviembre de 2011
20. class Comment < ActiveRecord::Base belongs_to :post validates_presence_of :post end class Post < ActiveRecord::Base has_many :comments, :dependent => :destroy end :dependent => :destroy miércoles 2 de noviembre de 2011
21. WTF .. ? miércoles 2 de noviembre de 2011
22. Comment.all.reject(&:post).size # => 1 Orphan Models! miércoles 2 de noviembre de 2011
23. Why? miércoles 2 de noviembre de 2011
24. Rails can’t guarantee dependency either! miércoles 2 de noviembre de 2011
25. Solutions? miércoles 2 de noviembre de 2011
26. create_table :comments do |table| table.integer :post_id, :null => false end ActiveRecord::Base.connection.execute <<-EOS ALTER TABLE `comments` ADD CONSTRAINT FOREIGN KEY (post_id) REFERENCES posts(id) ON DELETE restrict ON UPDATE cascade EOS Database Foreign Keys! miércoles 2 de noviembre de 2011
27. Success! miércoles 2 de noviembre de 2011
28. 1 - Noob “Use database constraints” miércoles 2 de noviembre de 2011
29. O’taner miércoles 2 de noviembre de 2011
30. ruby 100% CPU! miércoles 2 de noviembre de 2011
31. Solutions? miércoles 2 de noviembre de 2011
32. ssh server killall ruby Professional Debugging miércoles 2 de noviembre de 2011
33. Success! miércoles 2 de noviembre de 2011
34. WET Code miércoles 2 de noviembre de 2011
35. class Comment < ActiveRecord::Base after_create :update_comment_count def update_comment_count post = Post.find post_id post.comment_count += 1 post.save rescue StaleObjectError retry end end Infinite Loop miércoles 2 de noviembre de 2011
36. WTF .. ? miércoles 2 de noviembre de 2011
37. Transaction Isolation Level “I” in ACID miércoles 2 de noviembre de 2011
38. 1 - READ UNCOMMITTED 2 - READ COMMITTED 3 - REPEATABLE READ 4 - SERIALIZABLE miércoles 2 de noviembre de 2011
39. MySQL REPEATABLE-READ Postgre READ-COMMITTED miércoles 2 de noviembre de 2011
40. mysql> begin; Query OK, 0 rows affected (0,00 sec) mysql> select * from posts where id = 1; +----+-------+--------------+ | id | title | lock_version | +----+-------+--------------+ | 1 | Title | 0 | +----+-------+--------------+ 1 row in set (0,00 sec) mysql> update posts set title = 'New Title' where lock_version = 0; Query OK, 0 rows affected (0,00 sec) Rows matched: 0 Changed: 0 Warnings: 0 mysql> select * from posts where id = 1; +----+-------+--------------+ | id | title | lock_version | +----+-------+--------------+ | 1 | Title | 0 | +----+-------+--------------+ 1 row in set (0,00 sec) miércoles 2 de noviembre de 2011
41. mysql> begin; Query OK, 0 rows affected (0,00 sec) mysql> select * from posts where id = 1; +----+-------+--------------+ | id | title | lock_version | +----+-------+--------------+ | 1 | Title | 0 | +----+-------+--------------+ 1 row in set (0,00 sec) mysql> update posts set title = 'New Title' where lock_version = 0; Query OK, 0 rows affected (0,00 sec) Rows matched: 0 Changed: 0 Warnings: 0 mysql> select * from posts where id = 1; +----+-------+--------------+ | id | title | lock_version | +----+-------+--------------+ | 1 | Title | 0 | +----+-------+--------------+ 1 row in set (0,00 sec) miércoles 2 de noviembre de 2011
42. mysql> begin; Query OK, 0 rows affected (0,00 sec) mysql> select * from posts where id = 1; +----+-------+--------------+ | id | title | lock_version | +----+-------+--------------+ | 1 | Title | 0 | +----+-------+--------------+ 1 row in set (0,00 sec) mysql> update posts set title = 'New Title' where lock_version = 0; Query OK, 0 rows affected (0,00 sec) Rows matched: 0 Changed: 0 Warnings: 0 // raises StaleObjectError mysql> select * from posts where id = 1; +----+-------+--------------+ | id | title | lock_version | +----+-------+--------------+ | 1 | Title | 0 | +----+-------+--------------+ 1 row in set (0,00 sec) miércoles 2 de noviembre de 2011
43. mysql> begin; Query OK, 0 rows affected (0,00 sec) mysql> select * from posts where id = 1; +----+-------+--------------+ | id | title | lock_version | +----+-------+--------------+ | 1 | Title | 0 | +----+-------+--------------+ 1 row in set (0,00 sec) mysql> update posts set title = 'New Title' where lock_version = 0; Query OK, 0 rows affected (0,00 sec) Rows matched: 0 Changed: 0 Warnings: 0 // raises StaleObjectError mysql> select * from posts where id = 1; +----+-------+--------------+ | id | title | lock_version | +----+-------+--------------+ | 1 | Title | 0 | +----+-------+--------------+ 1 row in set (0,00 sec) miércoles 2 de noviembre de 2011
44. Solutions? miércoles 2 de noviembre de 2011
45. /etc/my.cnf [mysqld] transaction-isolation = READ-COMMITTED READ-COMMITTED! Just like postgre ;) miércoles 2 de noviembre de 2011
46. mysql> begin; Query OK, 0 rows affected (0,00 sec) mysql> select * from posts where id = 1; +----+-------+--------------+ | id | title | lock_version | +----+-------+--------------+ | 1 | Title | 0 | +----+-------+--------------+ 1 row in set (0,00 sec) mysql> update posts set title = 'New Title' where lock_version = 0; Query OK, 0 rows affected (0,00 sec) Rows matched: 0 Changed: 0 Warnings: 0 // raises StaleObjectError mysql> select * from posts where id = 1; +----+-----------+--------------+ | id | title | lock_version | +----+-------+--------------+ | 1 | Title | 1 | +----+-------+--------------+ 1 row in set (0,00 sec) miércoles 2 de noviembre de 2011
47. Success! miércoles 2 de noviembre de 2011
48. 2 - Beginner “Use READ-COMMITTED” miércoles 2 de noviembre de 2011
49. O’taner miércoles 2 de noviembre de 2011
50. > u1 = User.first => #<User id: 1, login: "marcos", options: {:active=>false} > u1.update_attributes :options => {:active => true} => true > u1.reload => #<User id: 1, login: "marcos", options: {:active=>false} Production Console miércoles 2 de noviembre de 2011
51. WTF .. ? miércoles 2 de noviembre de 2011
52. # login :string(255) # options :text class User < ActiveRecord::Base serialize :options def activate self.options = {:active => true} self.save end end miércoles 2 de noviembre de 2011
53. No ‘:active => false’! miércoles 2 de noviembre de 2011
54. Why? miércoles 2 de noviembre de 2011
55. > u1 = User.first => #<User id: 1, login: "marcos", options: {:active=>false} > u2 = User.first => #<User id: 1, login: "marcos", options: {:active=>false} > u1.update_attributes :options => {:active => true} => true > u2.update_attributes :login => "mtoledo" => true > u1.reload => #<User id: 1, login: "mtoledo", options: {:active=>false} Dirty Checking miércoles 2 de noviembre de 2011
56. Serialize is ALWAYS dirty! miércoles 2 de noviembre de 2011
57. // u1.update_attributes :options => {:active => true} UPDATE `users` SET `options` = '--- \n:active: true\n' WHERE (`users`.`id` = 1) // u2.update_attributes :login => "mtoledo" UPDATE `users` SET `login` = 'mtoledo', `options` = '--- \n:active: false\n' WHERE (`users`.`id` = 1) miércoles 2 de noviembre de 2011
58. Solutions? miércoles 2 de noviembre de 2011
59. Options Model miércoles 2 de noviembre de 2011
60. # id :integer(4) # user_id :integer(4) # lock_version :integer(4) # options :text class UserOptions < ActiveRecord::Base serialize :options belongs_to :user end miércoles 2 de noviembre de 2011
61. Success! miércoles 2 de noviembre de 2011
62. 3 - Half Mouth “Use an Options Model” miércoles 2 de noviembre de 2011
63. O’taner miércoles 2 de noviembre de 2011
64. production.log ERROR 1213 (40001): Deadlock found when trying to get lock;try restarting transaction miércoles 2 de noviembre de 2011
65. DAMN! Pessimistic Locks! miércoles 2 de noviembre de 2011
66. No pessimistic locking! class Comment after_create :update_posts_count def update_posts_count self.posts.increment :comments_count end end class Posts after_update :update_comments def update_comments comments.each {|c| c.published = self.published; c.save} end end miércoles 2 de noviembre de 2011
67. WTF .. ? miércoles 2 de noviembre de 2011
68. SELECT * FOR UPDATE FROM `comments` WHERE `id` = 1 SELECT * FOR UPDATE FROM `posts` WHERE `id` = 1 SELECT * FOR UPDATE FROM `posts` WHERE `id` = 1 SELECT * FOR UPDATE FROM `comments` WHERE `id` = 1 Transaction 1 Transaction 2 DEADLOCK! locked.. miércoles 2 de noviembre de 2011
69. Why? miércoles 2 de noviembre de 2011
70. Transactions lock on update miércoles 2 de noviembre de 2011
71. UPDATE `comments` SET `title` = “Foo” WHERE `id` = 1 UPDATE `posts` SET `title` = “bar” WHERE `id` = 1 UPDATE `posts` SET `title` = “bar” WHERE `id` = 1 UPDATE `comments` SET `title` = “foo” WHERE `id` = 1 Transaction 1 Transaction 2 DEADLOCK! locked.. miércoles 2 de noviembre de 2011
72. Callbacks = Transactions miércoles 2 de noviembre de 2011
73. Solutions? miércoles 2 de noviembre de 2011
74. Update dependents before parents! miércoles 2 de noviembre de 2011
75. No longer deadlocks! class Comment after_create :update_posts_count def update_posts_count self.posts.increment :comments_count end end class Posts before_update :update_comments def update_comments comments.each {|c| c.published = self.published; c.save} end end miércoles 2 de noviembre de 2011
76. Avoid State Propagation miércoles 2 de noviembre de 2011
77. class Comment < ActiveRecord::Base def visible? post.published? && self.published? end end Avoids updating all comments miércoles 2 de noviembre de 2011
78. Success! miércoles 2 de noviembre de 2011
79. 4 - Advanced “Acquire locks consistently” miércoles 2 de noviembre de 2011
80. O’taner miércoles 2 de noviembre de 2011
81. http://blog.headius.com/2008/02/rubys-threadraise-threadkill-timeoutrb.html “There is no safe way to use Thread#kill or Thread#raise.” miércoles 2 de noviembre de 2011
82. - bluepill - god - monit - you and me Killing ruby (MRI) threads miércoles 2 de noviembre de 2011
83. class Order belongs_to :user after_create :mark_user_as_customer def mark_user_as_customer user.customer = true user.save end end Simple Transaction miércoles 2 de noviembre de 2011
84. What happened to my transaction? > order = Order.first => #<Order id: 1, user_id: 1> > order.user.customer? => false > order.user? => #<User id: 1, login: "marcos", customer: false> miércoles 2 de noviembre de 2011
85. WTF .. ? miércoles 2 de noviembre de 2011
86. If you kill your Ruby (MRI) Threads .. miércoles 2 de noviembre de 2011
87. ActiveRecord will partially commit your transactions! miércoles 2 de noviembre de 2011
88. Why? miércoles 2 de noviembre de 2011
89. def transaction yield rescue Exception => e rollback ensure commit unless rolledback? end ActiveRecord transaction (version for kids) miércoles 2 de noviembre de 2011
90. Main thread is rescued def print_if_rescued sleep 10 rescue Exception puts 'rescued' ensure puts 'ensured' end print_if_rescued # $ killall ruby # => rescued # => ensured miércoles 2 de noviembre de 2011
91. Other Threads are NOT! def print_if_rescued sleep 10 rescue Exception puts 'rescued' ensure puts 'ensured' end t = Thread.new { print_if_rescued } t.join # $ killall ruby # => ensured miércoles 2 de noviembre de 2011
92. It commits! def transaction yield # thread killed inside yield rescue Exception => e rollback # nothing is raised ensure commit unless rolledback? end miércoles 2 de noviembre de 2011
93. Solutions? miércoles 2 de noviembre de 2011
94. DON’T Kill Your Threads! Headius Approves! miércoles 2 de noviembre de 2011
95. If you do, don’t use ActiveRecord + Threads + MRI miércoles 2 de noviembre de 2011
96. 5 - ARCECA “Don’t use Thread#kill/raise ” Active Record Certified Enterprise Concurrency Architect miércoles 2 de noviembre de 2011
97. Success! miércoles 2 de noviembre de 2011
98. Recap please! miércoles 2 de noviembre de 2011
99. 1 - Noob “Use database constraints” miércoles 2 de noviembre de 2011
100. 2 - Beginner “Use READ-COMMITTED” miércoles 2 de noviembre de 2011
101. 3 - Half Mouth “Use an Options Model” miércoles 2 de noviembre de 2011
102. 4 - Advanced “Acquire locks consistently” miércoles 2 de noviembre de 2011
103. 5 - ARCECA “Don’t use Thread#kill/raise ” Active Record Certified Enterprise Concurrency Architect miércoles 2 de noviembre de 2011
104. That’s all! Thank You! miércoles 2 de noviembre de 2011
105. Questions? Slides @mtoledo miércoles 2 de noviembre de 2011