ローカルAI,実測

手元のEVO-X2で大きなモデルを動かしてきた身として、後継をうたう「EVO-X3」の発表 ...

ローカルAI,実測

前回は「速さ」の話でした。メモリ帯域さえ分かれば、生成の速度はおおよそ読める。では、容量の ...

ローカルAI,実測

同じ大規模言語モデルでも、「量子化」と呼ばれる圧縮のかけ方ひとつで、生成速度が数倍変わり、 ...

ローカルAI,実測

大容量メモリのミニPCを手に入れたら、まず試したくなるのが「クラウドに頼らず、手元で大きな ...

ローカルAI,実測

自宅のPCでローカルLLM(大規模言語モデル)を動かしていると、いつも迷うのが「結局どのサ ...