コンパイラ作りの魅力を語る / Making compilers is fun

Transcript

1. コンパイラ作りの 魅力を語る @DQNEO phperkaigi 2019.3.30

2. 自己紹介 @DQNEO どきゅねお アメリカ版メルカリを開発しています • PHPer • C初心者 • Go中級者

3. 目次 • デモ • コンパイラとは何か？何をしているのか？ • なんで作ろうと思ったのか？ • どうやって作ったのか？

4. 趣味: コンパイラ作り Cコンパイラ https://github.com/DQNEO/8cc.go 8ccをGoに移植したもの Goコンパイラ https://github.com/DQNEO/minigo Goで書いたGoコンパイラ

5. デモ: Cコンパイラ Fizz Buzz

6. デモ: Goコンパイラ Fizz Buzz

7. PHPerとCコンパイラ <?php php-src (C) C compiler Assembly Binary /usr/bin/php スクリプト

   処理系

8. コンパイラとは何か

9. コンパイラとは何か 広義: 言語Xのコードを言語Yに変換するソフトウェア 狭義: 言語Xのコードを低レベル言語(アセンブリ/機械語 /etc)に変換するプログラム

10. コンパイラは 何をしているのか

11. Cコンパイラ (8cc) int sum(int a, int b) { return a

    + b; } sum: push %rbp mov %rsp, %rbp push %rdi push %rsi mov -8(%rbp), %rax mov -16(%rbp), %rcx add %rcx, %rax leave ret C言語 GNU assembler

12. コンパイラを作ってわかったこと アセンブリの知識が必要

13. コンパイラを作ってわかったこと • (多くの)コンパイラはアセンブリを吐く • アセンブリを理解し読み書きするスキル必要 = CPUのはたらきを理解すること

14. sum: push %rbp mov %rsp, %rbp push %rdi push %rsi

    mov -8(%rbp), %rax mov -16(%rbp), %rcx add %rcx, %rax leave ret アセンブリ言語 ≒ マシン語 • 各行がCPUへの「命令」 • どの行も、ハードウェア に対して副作用を生じる (レジスタ(後述)またはメ モリ上のデータを変更す る)

15. sum: push %rbp mov %rsp, %rbp push %rdi push %rsi

    mov -8(%rbp), %rax mov -16(%rbp), %rcx add %rcx, %rax leave ret GNU Assembler CPUへの命令

16. sum: push %rbp mov %rsp, %rbp push %rdi push %rsi

    mov -8(%rbp), %rax mov -16(%rbp), %rcx add %rcx, %rax leave ret GNU assembler メモリ 読み書き

17. sum: push %rbp mov %rsp, %rbp push %rdi push %rsi

    mov -8(%rbp), %rax mov -16(%rbp), %rcx add %rcx, %rax leave ret GNU assembler レジスタ 読み書き

18. コンパイラを作ってわかったこと “レジスタ”が主役 ※私の主観です

19. CPU内にある超高速な一時記憶装置 CPU ← レジスタ “レジスタ”が主役 出典: http://ftp.procmail.org/~sskulrat/Courses/2006F-170/lectures/chap14/part1.html

20. Cコンパイラ (8cc) int sum(int a, int b) { return a

    + b; } sum: push %rbp mov %rsp, %rbp push %rdi push %rsi mov -8(%rbp), %rax mov -16(%rbp), %rcx add %rcx, %rax leave ret C GNU Assembler 関数 → 関数 変数 → メモリ何番目

21. コンパイラを作ってわかったこと • C言語上の関数はアセンブリ上でも関数 • アセンブリには変数がない。 ◦ ハードウェア(メモリ/レジスタ)に「書く、読む」 • 「書き込む」「読み取る」という動作が基本

22. 値とは何か

23. 高級言語視点 値： 式を評価すると得られる もの 1;

24. mov $1, %rax 低級言語視点

25. 値とは何か 1; mov $1, %rax C GNU assembler

26. 値とは何か 式を評価して値を得る ↓ ある手続きを実行した際に、ハード ウェアのある場所に値を書き込む

27. 値とは副作用である ※私個人の考えです

28. 値とは何か 8ccの場合、一連の処理の最後に必 ずraxに値を書き込む約束になってい る。 raxが保持しているデータ、 これが「値」の実体

29. 式を評価して値を得る x + y; mov -8(%rbp), %rax mov -16(%rbp), %rcx

    add %rcx, %rax 演算の結果をraxに書き込む

30. 隠れた副作用 実はrcxに副作用が残ったまま。 コンパイラ側で、このrcx値は再利用しないよう に気をつける。 これにより、副作用が1個(式の結果が1値)のよ うに見せかけている。 x + y; mov

    -8(%rbp), %rax mov -16(%rbp), %rcx add %rcx, %rax

31. 関数の戻り値 int sum(int x, int y) { return x +

    y; } sum: push %rbp mov %rsp, %rbp push %rdi push %rsi mov -8(%rbp), %rax mov -16(%rbp), %rcx add %rcx, %rax leave ret raxに値を書き込ん で関数を抜ける。 これが戻り値。 受け取る側は、rax から値を読み出す。 int sum(int x, int y) { return x + y; }

32. 関数の戻り値 int sum(int x, int y) { return x +

    y; } sum: push %rbp mov %rsp, %rbp push %rdi push %rsi mov -8(%rbp), %rax mov -16(%rbp), %rcx add %rcx, %rax leave ret int sum(int x, int y) { return x + y; } 「純粋な関数」 も、ハードウェア レベルでは副作 用がある

33. コンパイラを作ってわかったこと • if文とfor文は仕組みがほぼ同じ ◦ 条件判定とジャンプ • ローカル変数とグローバル変数は扱いが全然 違う • 「スタック」とローカル変数の関係

34. コンパイラ作りで得たもの1 • アセンブラの読み書き能力 • 字句解析・構文解析の知識 • 対象言語(C,Go)の仕様に詳しくなった

35. コンパイラ作りで得たもの2 • 原典にあたる習慣 ◦ 言語仕様書 ◦ Intel CPUマニュアル ◦ gdb,

    gasマニュアル

36. Intel® 64 and IA-32 Architectures Software Developer’s Manual

37. コンパイラ作りで得たもの3 • Segmentation Fault に負けない心 ◦ gdb/gccなどのコンパイラツール系スキル

38. None

39. 簡単なC/Goのコードな ら 脳内コンパイルできる

40. 何でコンパイラを作ろうと思っ たのか？

41. もともとは普通の PHPアプリケーション 開発者だった

42. コンパイラ知識ゼロからのスタート • 字句解析・構文解析の解説を読んでも理解不能 • C,Goもそんなに詳しくない 「プログラムが動く原理を知りたい」

43. Rebuild.fm153回 https://rebuild.fm/153/ Rui Ueyama さんが Cコンパイラ(8cc)を作った話 きっかけ めちゃくちゃ面白い!!

44. • C言語製Cコンパイラ • スクラッチから開発 • インクリメンタル開発 8cc https://github.com/rui314/8cc

45. さっそく git clone

46. 8cc 1コミット目 #include <stdio.h> #include <stdlib.h> int main(int argc, char

    **argv) { int val; if (scanf("%d", &val) == EOF) { perror("scanf"); exit(1); } printf("\t.text\n\t" ".global mymain\n" "mymain:\n\t" "mov $%d, %%eax\n\t" "ret\n", val); return 0; } #include <stdio.h> extern int mymain(void); int main(int argc, char **argv) { int val = mymain(); printf("%d\n", val); return 0; } https://github.com/rui314/8cc/commit/3764b2071b9601067b81976d80175a0851d0f209

47. なんとなくわかる！ しかし、ただ読んでるだけでは身につ かなそう Goに移植してみよう！

48. 1コミット移植してみた https://github.com/DQNEO/8cc.go/commit/b711967431 07e50e0ac945383abc5b2c3bf2e302 動いた！ 8cc.go (Goへの移植)

49. 8ccのコミット履歴を1個ずつ • テストの追加分を見る • そのテストをパスするC実装を自力でやってみる • 無理なら正解をチラ見する • 自力でCで再現する •

    無理なら写経 • Goに移植する 延々と繰り返す 8cc.go (Goへの移植)

50. • 5ヶ月半毎日継続 • 95コミット移植完了 • 基本的な文法はだいたい動く 8cc.go (Goへの移植)

51. 移植で見えてきた問題点 • 8ccの字句読み取りの設計が複雑 • 9ccはきれいに設計できてる • 自分でもゼロから設計してみたい！

52. Goコンパイラ開発 • 試しにGoでGoのtokenizerを書いてみた • あっさり動いた！感動！ → その勢いでGoコンパイラ開発に突入

53. minigo (Goコンパイラ) • 1日目：足し算が動いた！ • 2日目：引き算・掛け算・関数呼び出しが動いた！ • 5日目： helloworld.go が動いた！

54. minigo (Goコンパイラ) • 1ヶ月後：FizzBuzzが動いた！

55. • 5ヶ月後：自分自身のコンパイルに成功！ (時間があればデモ) minigo (Goコンパイラ)

56. 野望 • 夏〜秋ごろにセルフホスト達成予定 • 来年のアメリカのGopherConに応募するぞ

57. コンパイラはいいぞ

58. ご清聴 ありがとうございました