2026年04月06日 14時25分 公開 [ITmedia] 「スマホで動く」80億パラメーターLLM――1.15GBで実運用レベルうたう「1-bit Bonsai」が話題に
高性能モデルがスマホで動くサイズに――米カリフォルニア工科大学発のAIスタートアップ企業、 PrismMLが3月31日(現地時間、以下同)に発表した大規模言語モデル(LLM)「1-bit Bonsai」が話題になっている。 学習の方法を工夫することでメモリ使用量を1.15GBまで抑えつつ、エッジ環境で実運用レベルの精度を実現したという。 https://www.itmedia.co.jp/aiplus/articles/2604/06/news084.html
かなり前のニュース記事ですが重要な記事なので紹介します |