ニューロモーフィックコンピューティングとは
にゅーろもーふぃっくこんぴゅーてぃんぐ
脳の神経細胞(ニューロン)とシナプスの働きをまねて、スパイクと呼ぶパルスで情報をやり取りし、変化があったときだけ計算する方式のコンピューティング。メモリと演算を近くに置き、低消費電力をめざす。
「ニューロモーフィックコンピューティング」は、1分野の2問の練習問題に出てきます(AIハードウェアとソフトウェアスタックなど)。
この用語の分野: AIハードウェアとソフトウェアスタック
にゅーろもーふぃっくこんぴゅーてぃんぐ
脳の神経細胞(ニューロン)とシナプスの働きをまねて、スパイクと呼ぶパルスで情報をやり取りし、変化があったときだけ計算する方式のコンピューティング。メモリと演算を近くに置き、低消費電力をめざす。
「ニューロモーフィックコンピューティング」は、1分野の2問の練習問題に出てきます(AIハードウェアとソフトウェアスタックなど)。
この用語の分野: AIハードウェアとソフトウェアスタック
ニューロモーフィックコンピューティングは、脳の神経回路の仕組みを手本にした計算方式です。第1に、情報を連続的な数値ではなく、スパイクと呼ぶ短いパルスの有無とタイミングで表します。第2に、入力に変化があったときだけ回路が動くイベント駆動で、何も起きていない部分は電力をほとんど使いません。第3に、シナプスの重みを記憶する場所と計算する場所を近くに置き、メモリと演算器の間のデータ移動を減らします。多数のニューロンを受け持つコアを多数並べ、コアどうしはスパイクを小さなパケットとして送り合うネットワークでつなぐ構成が一般的です。
このハードウェアで動かすモデルは、スパイキングニューラルネットワーク(SNN)と呼ばれます。各ニューロンは入力されたスパイクを膜電位として積み上げ、しきい値を超えると自分もスパイクを出してリセットされます。活動が疎で、時間の情報を自然に扱えるため、センサからの信号の処理や、電力が限られた端末での推論に向くと考えられています。一方、スパイクの発生は不連続で微分できない動作なので、通常のニューラルネットワークの誤差逆伝播法をそのまま使えず、なめらかな関数で勾配を近似する方法や、学習済みのモデルを変換する方法が研究されています。
IBMは2014年に、100万個のニューロンと2億5600万個のシナプスをもつデジタルのチップTrueNorthを発表し、消費電力は約70 mWと報告しました。Intelは研究用のチップLoihiを2017年に、第2世代のLoihi 2を2021年に発表し、2024年には1152個のLoihi 2を使って約11.5億個のニューロンをもつシステムHala Pointを発表しています。これらはデジタル回路ですが、抵抗変化メモリなどのアナログ素子でシナプスの重みを保持し、メモリの中で積和演算を行う研究もあり、インメモリコンピューティングと深く関係しています。
大規模言語モデルの学習のように、密な行列演算を大量に行う処理では、2020年代半ばの時点でGPUなどの従来型のアクセラレータが主流です。ニューロモーフィックコンピューティングの利点が出やすいのは、入力がまばらで時間とともに変化する処理や、電力が厳しく限られた用途です。SNNの学習方法と精度、開発用のソフトウェアの整備、従来の方式と公平に比べるためのベンチマークが課題で、どの用途で優位になるかの研究が続けられています。
正解:C. スパイクが届いた部分だけが動くイベント駆動で、重みを保持するメモリを演算の近くに置いてデータの移動を減らすから
ニューロモーフィックコンピューティングは、脳の神経回路を手本にして、情報をスパイクと呼ぶパルスで伝えます。入力に変化があってスパイクが届いた部分だけが動くため、活動がまばらな処理では何もしていない回路の電力をほとんど使いません。また、シナプスの重みを各コアの中のメモリに置き、演算器との間の長いデータ移動を減らします。こうした特徴が、密な行列演算を一斉に行うGPUとの違いです。
正解:B. スパイクの発生は、しきい値を超えたかどうかで決まる不連続な動作で、微分できないから
SNNの各ニューロンは、入力されたスパイクを膜電位として積み上げ、しきい値を超えるとスパイクを出します。この出力は0か1かが不連続に切り替わるため、誤差逆伝播法に必要な勾配が、ほとんどの点で0になるか定義できません。そこで、学習のときだけスパイクの関数をなめらかな関数で近似した勾配を使う方法や、通常のネットワークで学習してからSNNに変換する方法が研究されています。学習方法の確立は、ニューロモーフィックコンピューティングの課題の一つです。
GPUはクロックに合わせて多数の演算器を一斉に動かし、密な行列演算を高速に行います。ニューロモーフィックコンピューティングは、スパイクが発生した部分だけが動くイベント駆動で、メモリと演算を近くに置くことで、まばらな処理を低い電力で行うことをめざします。
ニューロンがスパイクと呼ぶパルスで情報を伝えるニューラルネットワークです。入力を膜電位として積み上げ、しきい値を超えるとスパイクを出します。ニューロモーフィックなハードウェアで動かすモデルとして使われます。
スパイクが微分できないためにSNNの学習が難しいこと、精度、ソフトウェアの整備、従来の方式との公平な比較の方法などです。どの用途で優位になるかは研究が続けられています。
ニューロモーフィックコンピューティングは、脳の神経回路を手本にして、情報をスパイクと呼ぶパルスで伝えます。
ニューロモーフィックコンピューティングのハードウェアが、低い消費電力をめざせる主な理由として正しいものはどれか。学習方法の確立は、ニューロモーフィックコンピューティングの課題の一つです。
ニューロモーフィックコンピューティングで動かすスパイキングニューラルネットワーク(SNN)を、通常のニューラルネットワ…Amazonの検索結果へのリンクです。Amazonのアソシエイトとして、半導体教室は適格販売により収入を得ています。