Google AI Research - 2012年に考案されたネットワーク - ネットワーク考案者が映画INCEPTIONのファン ”We need to go deeper”という台詞から取ったと⾔われている 映画 INCEPTION Ҿ༻ɿ ɾ(PJOH%FFQFSXJUI$POWPMVUJPOT IUUQTXXXDTVODFEVdXMJVQBQFST(PPH-F/FUQEG ɾIUUQHMFFXJLJBDPNXJLJ'JMF8FOFFEUPHPEFFQFS@JODFQUJPOKQH ɾBNB[PO Πϯηϓγϣϯ<%7%>
Bidirectional Transformers for Language Understanding) - Google AI Language - 画像分野ではImageNetなどの⼤規模画像データセットを 事前学習するpre-train⼿法があるが⾃然⾔語処理分野にてもそのポジションが爆誕 - 各結果でSOTA(State-Of-The-Art) - 最近の最新⼿法にてELMOという⼿法があり その⼿法よりも良いという事でBERT セサミストリートのキャラクター Ҿ༻ɿ ɾBS9JW #&351SFUSBJOJOHPG%FFQ#JEJSFDUJPOBM5SBOTGPSNFSTGPS-BOHVBHF6OEFSTUBOEJOH IUUQTBSYJWPSHBCT ɾηαϛετϦʔτެࣜαΠτ