アテンション란?

あてんしょん

各トークンが、ほかのすべてのトークンとの関係の強さを計算して情報を集めるTransformerの仕組み。計算量は系列の長さの2乗に比例する。

일본어 명칭: アテンション

분야: AI 하드웨어·소프트웨어 스택