日本
The Morning Dev

知っておくべきことだけを、毎朝

‹
 

トピック

ローカルLLM

ローカルLLMの記事3件。どれも当紙の ニュース判定を通過した記事で、新しい順に並べています。

  1. リリース ·

    llama.cpp v1.0.0のリリースの意味とプロダクション推論基盤設計へのインパクト

    C/C++によるLLM推論ライブラリllama.cppが、メジャーバージョンのv1.0.0を正式リリースした

    LLMタグが付けられた新着記事 - Qiita

  2. チュートリアル ·

    ROCm 10でAMD GPUのローカルLLM環境は揃うのか?──R9700・Strix HaloとvLLMの対応を整理する

    著者は昨年Radeon R9700を試した際、当時のROCmは6系しか動かなかったと振り返る

    Zennの「大規模言語モデル」のフィード

  3. リリース ·

    DGX Spark 2台でLLM生成1.8倍速、llama.cppがNCCLに対応

    ローカルLLM推論エンジン「llama.cpp v0.9.0」がggml-orgから公開された

    pc.watch.impress.co.jp