特許「量子ニューラルネットワーク」について

特許を勉強する授業で Google が出した特許公報(第6882533)「量子ニューラルネットワーク」を紹介しました。

Transcript

1. 特許公報(第6882533)の紹介 殿山 雄大 gp20a087@oecu.jp 量子ニューラルネットワーク
2. 出願日：2018年6月1日 審査請求日：2020年1月8日 公表日：2020年7月30日 登録日：2021年5月10日 特許公報(第6882533) の紹介 特許広報(第6882533)の掲載例
3. 識別番号：502208397 ハルトムート・ネーヴェン エドワード・ヘンリー・ファーリ 氏名又は名称原語表記：Ｇｏｏｇｌｅ ＬＬＣ 村山 靖彦(外2名) 出願人と発明者 Google 本社オフィス 出願人 発明者 本社：アメリカ合衆国 カリフォルニア州 マウンテンビュー アンフィシアター パークウェイ 1600番 代理人
4. 電子的手段を用いるもの 特定の計算モデルに基づくコンピュータ・システム 国際特許分類 3/063 量子コンピュータ，すなわち量子力学的現象に基づく コンピュータシステム 10/00 G06N
5. 量子ニューラルネットワークアーキテクチャを提供する。 発明の課題 課題 従来のニューラルネットワーク（以下、NN）と同じ働きを 量子計算で再現することで古典コンピュータでは出せない性能 （量子超越性）を実現しようとしている。
6. 課題を解決する手段 量子NNの構造図 量子回路で古典NNを模倣する 1つまたは複数の量子プロセッサによって実装された NNアーキテクチャ バックプロパゲーション技法を使用せずに 機械学習タスクを実施するようにトレーニングされ得る。 量子NNは、古典NNと組み合わされてよい。 量子回路という量子ビットの操作・変換を示す回路から 構成される。 古典NNでは、バックプロパゲーションで各ニューロンの勾配を 計算する。量子NNでは、勾配算出に量子もつれ(1つが決まると 他方も決まる現象)を応用し、高速化できる。 精度をあげることが出来る場合がある。組み合わせることで 精度と高速化を両立できる。
7. 量子もつれを応用した高速化 量子回路には過学習が起こりにくい性質がある 自然言語から化学シュミレーションまで利用されるDNN。 量子NNは、年々、巨大化する機械学習モデルを より進化させる突破口のひとつとして注目されている 利用分野と効果 OpenAIによる古典NNの実験(2020) 様々なドメインでデータセット・パラメータ を増やすと性能が向上する(Scaling Law)と 報告されている 利用分野 効果 量子回路を増やしてもモデルの複雑性に上限値があるため、 訓練誤差と汎化誤差の差が一定以上は広がらない。 この現象の詳細については勉強中...
8. 実施例 量子NNの学習の流れ 【0004】機械学習タスク入力データを 量子エンコーディングし符号化。 【0029】1つまたは複数の中間量子NN層を使用して 機械学習タスク入力を処理（学習）する 【0062】システムは、学習データに対して 量子NNを学習し、量子回路のパラメータを 初期値から学習後の値に調整する 【0056】測定量子ゲートは、ターゲット量子ビットを 測定して機械学習タスクに対する解を取得する
9. 特許請求の範囲 「ブロッホ球」 量子状態を視覚的に表せるモデル 1つまたは複数の量子プロセッサによって実装された NNアーキテクチャ 機械学習タスクを実施するように トレーニングされた量子NNを使用してデータ入力を 処理するための方法 量子NNをトレーニングするための方法。 入力量子NN層は複数の量子ビットを初期量子状態で 準備し、入力を量子エンコーディングする。 中間量子NN層で入力を処理する。
10. 特許請求の範囲 Googleが開発している量子NNのライブラリ 「Tensorflow Quantum(TFQ)」は、 従来のTensorflowと連携しているため、 量子古典ハイブリッドNNも可能 中間量子NN層で生成された出力を正解データと比較し、 量子回路のパラメータを決定 その際、生成された出力と機械学習タスクについての 正解データを使用して、損失関数を計算 勾配降下法に代表される最適化手法では、訓練テストに対して 損失が最小になるように、モデルパラメータを 少しづつ操作し、収束させる 勾配降下法を実施して、量子回路のパラメータを更新 コンピュータ可読命令を含むコンピュータプログラム
11. 参考文献 WAN, Kwok Ho et al.，Quantum generalisation of feedforward neural networks，arXiv.org，USA， Cornell University，2016/12/4，pp.1-10，URL， https://arxiv.org/pdf/1612.01045.pdf SeunJared Kaplan, Sam McCandlish et al.，Scaling Laws for Neural Language Models，arXiv.org，USA， OpenAI，2020/1/23，pp.1-30，URL， https://arxiv.org/pdf/2001.08361.pdf FARHI, Edward et al.，Quantum Algorithms for Fixed Qubit Architectures，arXiv.org，USA，Cornell University，2017/3/17，pp.1-20，URL， https://arxiv.org/pdf/1703.06199.pdf
13. 背景技術 シンプルな3層ニューラルネットワークの例 人間の脳の神経回路を模したニューロンを ネットワーク状に繋げた数理モデル ニューラルネットワーク 適切に層やニューロンの数を増やしていくと、パラメータが 増えるため、複雑なデータを学習できるようになる。 しかし、同時に計算量が増えてしまう。 最初の層を「入力層」 中間にある層は「中間層」 最後の層を「出力層」 ニューロンの縦方向の集まりを「層」と言う。