深层学习でガラスに眠る未来を掘り起こす 原子同士の动き方の関係まで理解するグラフニューラルネットワーク 研究成果
発表のポイント
- グラフニューラルネットワーク(骋狈狈)と呼ばれる深层学习手法を用い、ガラスの原子配置から、原子の运动によって构造が変化する様子を予测する新手法を开発し、予测精度の世界记録を大きく更新した。
- 新たに開発したGNNによる深层学习モデル「BOnd TArgeting Network(BOTAN)」は、原子の運動に加え、近くの原子同士の距離の変化の情報を利用してガラスの原子構造の時間変化を学習し、ある時点のガラスの原子配置のみからそのガラスが将来示す複雑な運動を、精密かつ短時間で予測する。
- 深层学习技术は现在、原子分子の成分组成や构造から材料の特性を予测するのに盛んに用いられている。本研究では、骋狈狈が物质の特性にとどまらず、シミュレーション结果も高精度に再现できることを明らかにした。このことは长い时间が必要なシミュレーションを人工知能による予测で代替する手法の実现への重要な一歩である。
本研究成果は2023年2月27日(米国東部時間)に、論文誌 The Journal of Chemical Physics に掲載されます。オープンアクセスのため、どなたでもお読みになれます。
発表内容
研究の背景
自然界の物质の多くは、原子が乱雑に动き回る液体を急速に冷やすなどの条件のもとでは、原子が不规则に并んだまま固まった「ガラス」とよばれる状态になります。いわゆる「窓ガラス」のようなものだけでなく、セラミックス、プラスチック、さらには金属もガラスになります。ガラスでは、ダイヤモンドや通常の金属固体のように原子分子が规则的に并んだ「结晶」と违って原子构造が不规则であり、その性质を予测するための手がかりを原子构造の中に见つけることが困难でした。そのため、ガラスの构造を研究するときには、原子配置の时间変化をまずシミュレーションで调べる、というのが标準的なアプローチでした。
ガラスの原子运动のシミュレーション研究では、対象となるそれぞれの原子について、近くにある原子との间に働く力を时々刻々计算し、原子の运动を模拟的に求めます。このような计算から、ガラスの原子の运动は一様ではなく、局所的に强い振动があらわれた场所で原子の入れ替わりが起きてガラスの构造が変化してゆく(构造缓和する)様子がみられます。长年のシミュレーション研究から、强い振动がガラスのどの位置に现れるかは原子の配置によって决定づけられているという、重要な知见が得られています。一见何の特徴もないガラスの原子の配置パターンに、时间と共に构造がどのように変化してゆくか、という情报があらかじめ埋め込まれていることが明らかになってきたのです。
一方、このようなシミュレーションでは粒子の运动を时々刻々と更新していかなくてはならないため、最新のプロセッサを用いても计算に何日もかかりました。そこで、近年データ科学の分野で注目されている「グラフニューラルネットワーク(骋狈狈)」と呼ばれる深层学习の手法をガラスの构造変化の研究に导入する试みが行われました。先行研究[1]では、初期状态の原子の配置パターンと时间発展させたシミュレーション结果を学习させることで、运动力学の计算をすることなく、原子配置のある一瞬の「スナップショット」のみから长时间にわたる原子の运动をわずか数分で予测できることが示されました。つまり、ガラスの构造の中に刻み込まれている未来の状态を、骋狈狈による深层学习によって「掘り起こす」ことができるとわかったのです。これ以降、世界中の多くの研究グループが、さらに精度よくガラスの构造変化を予测できる学习モデルの开発を进めています。
研究の内容
GNNは、深层学习の対象物を多くの頂点とその間を辺とする「グラフ」としてモデル化します。先行研究のGNNモデルでは、一つ一つの原子をグラフの頂点、隣接する原子同士の関係を辺として捉え、シミュレーションの結果得られる原子の時間経過後の移動距離を学習させました。芝特任講師らの今回の研究では、グラフの頂点における原子の移動距離に加え、グラフの辺上での隣接する原子の間の距離の変化も学習する(図2)ように根本的な改良を加えたGNNモデルを開発し、「BOnd Targeting Network (BOTAN) [2]」と名づけました。
先行研究と新たな骋狈狈モデル叠翱罢础狈との予测の正确さを比较した例を、図3に示します。ここでは、原子间の配置がわずかに入れ替わる程度の时间(后掲の図4における左侧の破线、0.03&迟补耻;α)経过した后と、原子の构造の比较的多くが入れ替わる程度の时间(右侧の破线、&迟补耻;α)経过した后の、各原子の动きの予测を示しています。先行研究と比べ、本研究の叠翱罢础狈がはるかに正确にシミュレーションの结果を予测できています。また、図4では、予测の対象となる时间ごとにどれくらいの予测精度が得られるかを示しています。本研究では、先行研究と比较して20%から50%程度予测误差が小さく(平均自乗误差による评価)、短时间から长时间まで安定して高い精度で予测できることが示されました。
この结果について、実际の计算を行った芝特任讲师は「本研究で新たに深层学习の対象に取り入れた原子间の距离の変化は、ガラスの原子の热运动でできる歪みの分布を直接的に反映する量です。これにより、先行研究では取り入れることができなかった近くの原子の动きとの関係(协同性)までグラフニューラルネットワークが『理解』し、これによりこれまでにない精度で原子の运动を予测することが可能になったと言えます。」と话しています。
利用计算机について
近年の人工知能の爆発的な性能向上は、GPUと呼ばれるプロセッサによって支えられています。GPUはもともと画像処理向けに用いられてきましたが、最近ではAIコンピューティングに特化した省電力?最先端デバイスとして発展しています。本研究では東京大学情报基盘センターの「計算?データ?学習」融合スーパーコンピュータWisteria/BDEC-01のデータ?学習ノード群 (Aquarius)を使用しました。本研究で深层学习に利用したGNNは巨大なパラメータを有しており、Wisteria/BDEC-01 に搭載された大容量、高速、かつ大量のGPUの利用によって大規模な学習が可能となりました。
今后の展望
ガラスの状态をとる金属やセラミックスは、ハードディスクの基盘や燃料电池の电极などとして用いられており、高机能材料として必须の存在になっています。本研究で开発した手法は原子の长时间の运动を特徴づけられることから、ガラスを利用した材料の强さ?伸びやすさなど力学的性质の予测に直结します。さらには、望まれた性质を実现する材料の构造を逆に推定するための手法としても利用できる可能性があります。
データ科学の视点からは、物理的性质に注目した形でのモデル开発が、深层学习の性能を飞跃的に向上させる键であることが本研究で示されたと言えます。データ科学が専门の铃村豊太郎教授は「グラフニューラルネットワークはこれまで、社会ネットワークや交通?物流予测など、支配する法则が明确でない分野での知见を広げることに用いられてきました。一方、物理现象の研究では基本法则が确立されている部分が多く、データ科学の手法の适用はあまり进んでいません。今回、多数の要素が相互作用する物理系のモデリングにデータ科学の最新手法が有効であることが示され、さらにさまざまな物理现象に适用されていくことが期待できます。」と述べています。
补足
- [1]「Towards understanding glasses with graph neural networks」(2020年4月6日)
- [2] 叠翱罢础狈のソースコードを&苍产蝉辫; で公开しています。
- [3] ピアソン相関係数: n組からなる変数が2つ(仮にX,Yとする)あるときに、お互いがどれくらい類似しているのかを特徴づける変数。本研究では、直接シミュレーションを行った結果から得られる各粒子の運動距離をXとし、深层学习が予測する各粒子の運動距離分布をYとした時の相関係数をとっていることから、深层学习による予測精度の尺度として用いることができる。
発表者
東京大学情报基盘センター
芝 隼人(特任講師)
華井 雅俊(特任助教)
鈴村 豊太郎(教授)〈東京大学大学院 情報理工学系研究科(教授)〉
下川辺 隆史(准教授)
研究助成
本研究は、科研費「(計算+データ+学習)融合によるエクサスケール時代の革新的シミュレーション手法(課題番号: JP19H05662、研究代表者: 東京大学?中島研吾教授)」、学際大規模情報基盤共同利用?共同研究拠点(JHPCN)および革新的ハイパフォーマンス?コンピューティング?インフラ(HPCI)(課題番号: jh220052)の支援により実施されました。また、華井特任助教と鈴村教授は文部科学省マテリアル先端リサーチインフラ事業の支援を受けています。
论文情报
Hayato Shiba, Masatoshi Hanai, Toyotaro Suzumura, and Takashi Shimokawabe, "BOTAN: BOnd TArgeting Network for prediction of slow glassy dynamics by machine learning relative motion," The Journal of Chemical Physics Volume 158, Issue 8: 2023年2月27日, doi:10.1063/5.0129791.
論文へのリンク ()