こんにちは、たねやつです。 xAIが開発した最新の大規模言語モデル(LLM)「Grok-2」がオープンソースとして公開され話題となっています。総パラメータ数3140億という驚異的な規模を誇るこのモデルは、Mixture-of-Experts(MoE)アーキテクチャを採用しており、その性能とオープンなライセンス形態に注目が集まっています。 今回は、Hugging Faceで公開された情報を基に、Grok-2の主な特徴やその可能性についてまとめてみました。 この記事からわかること Grok-2の主な特徴 圧倒的なモデル規模と効率的なアーキテクチャ 128,000トークンの広大なコンテキスト長 Ap…