ローカルAI,実測

大容量メモリを搭載したミニPC「GMKtec EVO-X2(以下、EVO-X2)」で、大き ...

ローカルAI

画像:GMKtec公式(EVO-X2) ここまで、ローカルAIは「クラウドの最新モデルには ...

ローカルAI

画像:GMKtec公式(EVO-X2) 大きなAIモデルをローカルで動かしたい。そう考えた ...

ローカルAI,実測

手元のEVO-X2で大きなモデルを動かしてきた身として、後継をうたう「EVO-X3」の発表 ...

ローカルAI,実測

前回は「速さ」の話でした。メモリ帯域さえ分かれば、生成の速度はおおよそ読める。では、容量の ...

ローカルAI,実測

同じ大規模言語モデルでも、「量子化」と呼ばれる圧縮のかけ方ひとつで、生成速度が数倍変わり、 ...

ローカルAI

コード生成に特化したローカルLLM(LLM: 大規模言語モデル。文章やコードを生成するAI ...

ローカルAI

新しいPCやMac、ミニPCでローカルAIを動かそうと思ったとき、いちばん気になるのは「で ...

ローカルAI,実測

大容量メモリのミニPCを手に入れたら、まず試したくなるのが「クラウドに頼らず、手元で大きな ...

モデル,ローカルAI

自分のパソコンで動かせるAIの文章モデル(ローカルLLM。手元で動く対話AIのこと)は、い ...