トピック
ローカルLLM
ローカルLLMの記事3件。どれも当紙の ニュース判定を通過した記事で、新しい順に並べています。
リリース ·
llama.cpp v1.0.0のリリースの意味とプロダクション推論基盤設計へのインパクト
C/C++によるLLM推論ライブラリllama.cppが、メジャーバージョンのv1.0.0を正式リリースした
LLMタグが付けられた新着記事 - Qiita
チュートリアル ·
ROCm 10でAMD GPUのローカルLLM環境は揃うのか?──R9700・Strix HaloとvLLMの対応を整理する
著者は昨年Radeon R9700を試した際、当時のROCmは6系しか動かなかったと振り返る
Zennの「大規模言語モデル」のフィード
リリース ·
DGX Spark 2台でLLM生成1.8倍速、llama.cppがNCCLに対応
ローカルLLM推論エンジン「llama.cpp v0.9.0」がggml-orgから公開された
pc.watch.impress.co.jp