ローカルAI,実測

GMKtec EVO-X2,Radeon 8060S,RTX 3090

同じ大規模言語モデルでも、「量子化」と呼ばれる圧縮のかけ方ひとつで、生成速度が数倍変わり、 ...

ローカルAI,実測

GMKtec EVO-X2,Radeon 8060S

大容量メモリのミニPCを手に入れたら、まず試したくなるのが「クラウドに頼らず、手元で大きな ...

ローカルAI,実測

RTX 3090

自宅のPCでローカルLLM(大規模言語モデル)を動かしていると、いつも迷うのが「結局どのサ ...