公式版Scratchやtoio DoでIoT（ブラウザ上でのJavaScript実行で） / ビジュアルプログラミングIoTLT vol.11

Transcript

1. 公式版Scratchやtoio DoでIoT （ブラウザ上でのJavaScript実行で） 2022年6月15日 (水) ビジュアルプログラミングIoTLT vol.11 豊田陽介（ ） @youtoy
2. 自己紹介 ビジュアルプログラミングや IoT、ロボットトイ関連など 豊田陽介（ ） 普段は、某通信会社勤務 @youtoy ・IT系イベント主催、登壇や運営なども ・子ども向けの活動いろいろ（IT系以外も） ・ Microsoft MVP（2021/10 から） プライベートでの活動 ・ガジェット好き ・今月開催のメーカーフェア＠仙台に出展予定 その他
3. 余談：展示に向けた試作やハマっていること 展示イベントに向けた試作 （センサー＋プロジェクション） カメラ画像からの画像認識と、 パーティクルの仕組み 両方ともプログラムはブラウザ上で動作（JavaScript）
4. 今回の話題： 公式版Scratch や toio Do で IoT （Node.js による独自拡張ではなく）
5. というのをやろうと いろいろ試した内容
6. 作ったものの例（おおまかな説明） ① toio の向き （姿勢）を変える ② toio の姿勢に よって toio Do上 の表示が変わる ③ Scratch上の表 示が toio Do上の 表示と連動
7. 作ったものの例（おおまかな説明） ① toio の向き （姿勢）を変える ② toio の姿勢に よって toio Do上 の表示が変わる ③ Scratch上の表 示が toio Do上の 表示と連動 ネットワーク上での 通信を介し、Scratch と toio Do が連動
8. デモ：公式版Scratchとtoio Doを連動させる
9. ネットワーク通信を用いた連動のポイント toio ブラウザで開いた toio Do（公式） BLE WebSocket 仲介 サーバー ブラウザで開いた Scratch（公式） WebSocket
10. ブラウザのコンソールでのJavaScript実行 toio ブラウザで開いた toio Do（公式） BLE WebSocket 仲介 サーバー ブラウザで開いた Scratch（公式） WebSocket HTML で表示された数値の取得 ＆ 　取得した数値の外部送信 外部から数値データを受信 ＆ 　その数値に応じたキーイベント発生
11. なぜこのような事を？
12. 1）公式版Scratch の作品で 物理連動などをさせてみたい （公式拡張で実現できなそうな内容の）
13. 自分以外の人が作った Scratch作品に、外部機器・ サービス連動の追加を気軽に テストできると面白そう？
14. ゲーム作品でゴールしたら 複数のLEDテープが派手に 光ったりとか？
15. 公式版での実行にこだわらなければ オープンソースの Scratch で独自拡張の開発をする形でも
16. 公式版での実行にこだわらなければ オープンソースの Scratch で独自拡張の開発をする形でも MQTT を扱える拡張を作った話 ＠2年前の IoTLT
17. これをやった最大の理由...
18. 2）思いついたから やってみたかった
19. 思いつきの元になったもの Joy-Con・micro:bit をプレゼンリモコンにする話の記事 「【JavaScript】スイッチのJoy-Conをプレゼンリモコンにするワンライナー - Qiita」より
20. 思いつきの元になったもの Joy-Con・micro:bit をプレゼンリモコンにする話の記事 「【JavaScript】スイッチのJoy-Conをプレゼンリモコンにするワンライナー - Qiita」より ブラウザの開発者ツールの コンソールでプログラム実行 というやり方の話が
21. ・Scratch のサイトでも活用 　できるだろうか？ ・実行できるプログラムの 　制約が何かあるか？
22. 必要そうな最小要件などを考えてみる JavaScript で情報取得 可能な HTML の要素 がページ上にあれば JavaScript で発生さ せたキーイベントが そのままキー入力の 代替になれば MQTT のライブラリ を読み込むか、標準 で扱える WebSocket が動けば Scratch上の情報を 読み取る Scratch上に影響を 及ぼす ネットワークを介 したやりとり
23. あとは試すのみ！
24. このあたりはサクッと ・キーイベント利用 ・通信をとりあえず WebSocket で
25. 残るは情報取得
26. ブラウザの開発者ツールで探る 描画周りは Canvas要素内 とりあえず数字が出ていて 変化する部分を見てみたり
27. 最終的には 変数の中身を描画領域に 表示させるこれが「div」！ 「中を見る」・「プロジェクトページ」のどちらでも出ている
28. 詳細はQiitaの記事に #Scratch 3.0 のキー入力イベントをブラウザのコンソール（開発者ツール）の JavaScript からランダム に繰り返し発生させてみる #Scratch 3.0（公式）などで独自拡張機能を使わない外部との通信【概要編】（ブラウザの開発者ツール のコンソール、JavaScript、WebSocket が関連、 #toio でも利用可） Scratch 3.0（公式）などで独自拡張機能を使わない外部との通信【ソースコード編】（ブラウザの開発者 ツールのコンソール、JavaScript、WebSocket が関連）
29. 独自拡張版のScratchでの事例 PC と有線接続して Groveモジュールなど が扱えるデバイス用の拡張に適用 ⇒ 「LINEアプリの操作」をネット経由で 　Scratch に受信させる流れ
30. 活用法の模索はこれから！
31. 【とあるイベントの話】 場所は仙台ですが...
32. 6/25（土）＠産業見本市会館 サンフェスタ toio のユーザーコミュニティで出展
33. 終わり！