ORICOは11月13日、ローカルAI向けの新型AI SSD『FlashMem FM9800』の投入を準備していると発表しました。1台のSSDを通常のストレージ領域とAI推論用のキャッシュ領域に分けて使う、デュアルパーティション設計を採用しています。
『FlashMem FM9800』はPCIe 5.0 M.2 2280フォームファクターを採用し、容量は1TBと2TBの2種類です。1台のSSDを、OS・アプリケーション・日常ファイル用の「Storage OS領域」と、選択されたモデルの重み、コンテキストデータ、AI推論で使うキャッシュデータ用の「AI Cache領域」に分割します。
『Herdsman』と連携してデータを調整
『FM9800』は、AIストレージミドルウェアおよびローカル推論エンジン『Herdsman』と連携する設計です。ファームウェアポリシーとホスト側ソフトウェアを通じて、GPUメモリ、システムメモリ、AIキャッシュ層にまたがるデータをシステムが調整します。
『FM9800』は、NANDでDRAMやGPUメモリを直接置き換えることを目的としたものではないとのことです。対応ワークロードで、ローカルAIシステムに新たな容量階層を追加し、常時高速メモリに常駐する必要のない選択されたデータを保持できるようにする位置付けだとのことです。
対象ユーザーと互換性の確認
『FM9800』が対象とするのは、ローカルモデルを実行し、対応するM.2 PCIe 5.0デバイスを備え、サポート対象の推論エンジン、OS、モデルバージョンを使用するユーザーです。AI SSDはすべての消費者にとって万能なアップグレードではないとのことです。
想定される用途として、メモリ容量が限られたAI PCやミニPCで、より大規模なモデルや長いコンテキストウィンドウを試したい開発者が挙げられています。契約書、研究開発資料、コード、医療記録、財務書類などをローカルで処理する必要があるプロフェッショナルも対象です。
具体的な互換性は、同社が公開する公式のデバイス、エンジン、モデルのサポートリストで確認する必要があります。
『FlashMem FM9800』の紹介記事が、同社サイトに掲載されています。
- FlashMem FM9800：https://orico.cc/index/article/detail/581.html
