新しい AI モデルが金属の理解を変える

Sep 21, 2023

2023 年 3 月 13 日

この記事は、Science X の編集プロセスとポリシーに従ってレビューされています。 編集者は、コンテンツの信頼性を確保しながら、次の属性を強調しました。

事実確認済み

査読済みの出版物

信頼できる情報源

校正する

ローザンヌ連邦工科大学による

iPhone はメッセージ内で次に入力する単語をどのように予測するのでしょうか? この背後にあるテクノロジーは、多くの AI アプリケーションの中核でもあり、トランスフォーマーと呼ばれます。 データセット内のパターンを検出する深層学習アルゴリズム。

現在、EPFL と KAIST の研究者は、多孔質結晶材料の一種である金属有機フレームワーク (MOF) 用の変圧器を作成しました。 有機リンカーを金属ノードと組み合わせることで、化学者はエネルギー貯蔵やガス分離に応用できる可能性のある何百万もの異なる材料を合成できます。

「MOFtransformer」は、MOF を研究する研究者向けの ChatGPT として設計されています。 そのアーキテクチャは、自然言語を処理できる Google Brain と呼ばれる AI に基づいており、ChatGPT の前身である GPT-3 などの一般的な言語モデルの中核を形成しています。 これらのモデルの背後にある中心的な考え方は、大量のテキストで事前トレーニングされているため、たとえば iPhone で入力を開始すると、このようなモデルは最も可能性の高い次の単語を「認識」し、オートコンプリートするということです。

「私たちはMOF向けにこのアイデアを検討したかったのですが、言葉で提案するのではなく、物件を提案してもらいたかったのです」とEPFL側のプロジェクトを率いたベレンド・スミット教授は語る。 「私たちは、100 万の仮想 MOF を使用して MOFTransformer を事前トレーニングし、文として表現したその本質的な特性を学習しました。その後、モデルはこれらの文を完成させて MOF の正しい特性を与えるようにトレーニングされました。」

次に、研究者らは、水素の貯蔵容量、その拡散係数、MOFのバンドギャップ（電子が材料中をどれだけ容易に移動できるかを決定する「エネルギー障壁」）など、水素貯蔵に関連するタスクに合わせてMOFTransformerを微調整しました。 ）。

このアプローチにより、MOFTransformer は、より多くのデータを必要とする従来の機械学習手法と比較して、はるかに少ないデータを使用して結果を取得できることがわかりました。 「事前トレーニングのおかげで、MOFTtransformer は MOF の一般的なプロパティの多くをすでに知っています。そして、この知識のおかげで、別のプロパティのトレーニングに必要なデータが少なくなります」と Smit 氏は言います。 さらに、従来の機械学習ではアプリケーションごとに別のモデルを開発する必要があるのに対し、同じモデルをすべてのプロパティに使用できます。

MOFTransformer は、MOF の研究に革新をもたらし、より少ないデータでより迅速な結果を提供し、材料をより包括的に理解します。 研究者らは、MOFTransformerが水素貯蔵やその他の用途向けに特性を改善した新しいMOFの開発への道を開くことを期待している。

この研究結果は、Nature Machine Intelligence誌に掲載されています。

詳しくは： Jihan Kim、金属有機フレームワークにおけるユニバーサル転移学習のためのマルチモーダル事前トレーニング変換器、Nature Machine Intelligence (2023)。 DOI: 10.1038/s42256-023-00628-2。 www.nature.com/articles/s42256-023-00628-2

雑誌情報:ネイチャーマシンインテリジェンス

ローザンヌ連邦エコール・ポリテクニック提供