Please select your location and preferred language where available.
生成AIの普及に伴って、ハイパフォーマンスコンピューティングによるエネルギー消費が膨大になっています。そのため演算性能とエネルギー効率の両方を向上させる技術が求められています。インメモリコンピューティングは、メモリ内に演算機能を持たせることでプロセッサーとメモリ間のデータ転送に伴うエネルギー消費を削減する手法として注目されています。
先行研究において、私たちは3次元フラッシュを用いたエネルギー効率の高いインメモリコンピューティングを検証しました。演算のための追加回路は不要で、ストレージ容量を削減せずに、1bit 128次元の類似ベクトル検索が実現可能であることを示しました[1]。近年の生成AIの生成や推論では、エッジコンピューティング向けにGPUの低bit化が進んでいます。一方で、より高い精度が要求される場合には、今なお多値表現が有効とされています[2]。
本研究では、3次元フラッシュメモリを用いたインメモリコンピューティングを多値化するために、活性化時間変調型順次マルチブロックアクセスという新たな類似ベクトル検索手法を提案しました(図1)。
類似ベクトル検索は、ユーザーから与えられたクエリデータに似ているものをベクトルデータの集合(キーデータ)から検索する処理です。キーデータは2進数の桁ごとにセルへ格納されます。クエリデータは選択ワードライン電圧として入力されます。波形図に示す通り、ワードライン活性化時間はキーデータの桁の重みとクエリデータの値によって決定されます。電流制御セル(CCセル)は各ストリングに配置され、電流を小さく均一に調整する役割を担っています。CCセルによって決定されるオン電流の和から求められるベクトル内積が、キーとクエリベクトルデータの類似度を表します。
Ⓒ2026 IEEE
3bit 128次元のベクトルデータを用いて類似ベクトル検索を検証しました。図2の例では、内積が49以下になる場合とそれ以外を99%以上の確率で判別できることがわかりました。ターゲットとする内積は、CCセルの選択ワードライン電圧とワードラインの単位活性化時間Tactによって調節されます。
3次元フラッシュメモリを用いた類似ベクトル検索における計算手順の例を示します(図3)。類似ベクトル検索では、ユーザーから与えられた画像や文章などのクエリのラベルを推定します。3次元フラッシュメモリには、事前に既知のデータセットを多値ベクトル化したキーデータがビットラインに沿って格納されています。クエリデータもキーデータと同じ変換行列を用いて多値ベクトル化されています。このクエリデータについて、キーデータとの内積を計算し、類似度の高いキーデータの候補を抽出します。3次元フラッシュメモリはビットラインを多数備えるので、この計算を並列に行うことができます。最後にホスト内にて、抽出された候補の中から最も類似したデータを決定し、多数決により高精度にクエリデータのラベルを推定します。このホスト内の計算は候補が3bit 128次元のベクトル内積の結果で十分に絞られているので、低消費電力と高精度を同時に実現することができます。
本成果は2026年5月に開催された国際学会IMW2026において発表されました。
文献
[1] Kana Kudo et al., “Energy-Efficient In-Memory Computing using 3D Flash Memory with Sequential Multi-Block Activation and Current Control Cell (CC cell)”, IEEE International Memory Workshop (IMW), 2025, pp. 1-4.
[2] Y. H. Lin et al., “NOR Flash-based Multilevel In-Memory-Searching Architecture for Approximate Computing”, IEEE International Memory Workshop (IMW), 2022, pp. 1-4.
[3] Kana Kudo et al., “Multi-level In-Memory Computing with 3D Flash Memory using Activation-Time-Modulated Sequential Multi-Block Access and Tightly Integrated Current Control Cell (CC cell)”, IEEE International Memory Workshop (IMW), 2026.