たたみこみ
2つの系列の一方を時間反転してずらしながら、もう一方と掛け合わせて足し合わせる演算。離散時間では y[n] = Σx[k]h[n − k] で、LTIシステムの出力は、入力とインパルス応答の畳み込みになる。長さ L と M の系列の畳み込みの長さは L + M − 1 である。時間の側の畳み込みは周波数の側では掛け算になるので、長い畳み込みはFFTを使うと速く計算できる。畳み込みニューラルネットワークの「畳み込み」は、多くの実装でフィルタを反転しない相互相関として計算されるが、重みは学習で決まるので、どちらで定義しても学習の結果は同じように働く。コンパイラの「定数畳み込み」は別の意味の語である。
「畳み込み」は、3分野の6問の練習問題に出てきます(AIハードウェアとソフトウェアスタック, 機械学習の基礎, デジタル信号処理の基礎など)。
この用語の分野: デジタル信号処理の基礎
正解：A. 12×12
畳み込みの出力の大きさは、入力の大きさをN、フィルタの大きさをF、パディングをP、ストライドをSとして (N + 2P − F) ÷ S + 1 で求めます。(28 + 0 − 5) ÷ 1 + 1 = 24 なので、畳み込みのあとは24×24です。2×2の最大値プーリングをストライド2で行うと、2×2の領域ごとに最大値を1つだけ残すので、縦と横が半分の12×12になります。プーリングには学習するパラメータがなく、データを小さくして計算を減らし、位置の小さなずれの影響を受けにくくする働きがあります。
im2colは、畳み込みの各窓に入る入力の値を1列に並べた大きな行列を作り、フィルタを並べた行列との積で畳み込みを計算する方法です。
畳み込みニューラルネットワークで、畳み込みの計算をim2colなどの方法で行列の積に変換して計算することがある理由とし…畳み込みの出力の大きさは、入力の大きさをN、フィルタの大きさをF、パディングをP、ストライドをSとして (N + 2P − F) ÷ S + 1 で求めます。
28×28の1チャネルの画像に、5×5のフィルタで畳み込み(ストライド1、パディングなし)を行い、続けて2×2の最大値…畳み込み y[n] = Σx[k]h[n − k] は、h[n] = {1, −1} の場合 y[n] = x[n] − x[n − 1](1つ前の入力との差)になります。
x[n] = {1, 2, 3}(n = 0, 1, 2)を、インパルス応答 h[n] = {1, −1}(n = 0…同じ重みを多くの入力に使える畳み込みやバッチの大きい計算で、重みの読み込みのエネルギーを大きく減らせます。
AIアクセラレータのデータフローの方式の1つ「ウェイトステーショナリ(重み固定)」の説明として正しいものはどれか。フレームワークやAIコンパイラ・ランタイムが計算グラフを最適化し、行列の積や畳み込みなどは高度に最適化された演算のライブラリのカーネルを呼びます。
AIのソフトウェアスタックを、利用者に近い上の層からハードウェアに近い下の層へ並べたものとして正しいものはどれか。Amazonの検索結果へのリンクです。Amazonのアソシエイトとして、半導体教室は適格販売により収入を得ています。
畳み込みニューラルネットワーク(CNN) テンソルコア インパルス応答 AIコンパイラ 計算グラフ GPU NPU(ニューラルプロセッシングユニット) IIRフィルタ 移動平均フィルタ FIRフィルタ