リアル仮想通貨ファン

[13:28:11] DeepSeek を Apple の M1 プロセッサと、16GB RAM というリソースが限定的な環境でローカル動作させてみたけどクラウド上のサーバーに依存することなく LLM をローカル動作させて ChatGPT のような AI を動かせるのはすごいことだな…
[13:28:32] nVidia の CUDA を使わなくても、Apple の Metal でも良いし
[13:29:37] 何なら CPU だけでも動作する
[13:30:39] nVidia の高性能半導体が不要になるとは思わないけど、少なくともコンシューマー用途でモデル実行をするためだけにクラウド上の nVidia 製 GPU チップに依存し大電力を消費することなくローカルの CPU/GPU を使って処理が簡潔できるというのはでかい
[13:32:14] おそらく、今後 Apple の M シリーズが搭載しているような、ニューラルエンジンコア（NCU）や、Google の TensorFlow チップを利用したローカルアクセラレーターを用いた高速化手法が出てくるんだろうなぁ…