ガートナーは、2030年までに1兆パラメータ規模のLLMの推論コストが90%以上削減されると予測している。
Publickey
ガートナーは、2030年までに1兆パラメータを持つ大規模言語モデルの推論コストが90%以上削減されると予測した。
ハードウェアの進化とアルゴリズム最適化により、大規模モデルの実用化が加速すると指摘している。