Podliポッドキャストプレーヤー Webplayer

CC AI Lab|コンタクトセンター×AI

CC AI Lab|コンタクトセンター×AI

なぜLLMは賢いのか?カギはソロモノフ帰納法? #51

CC AI Lab|コンタクトセンター×AI · 2025年6月25日 · 7:47

0:007:47

Podliアプリで聴く 🎧

お気に入りの番組をフォローして、オフラインでも車内でもCarPlayやAndroid Autoで再生。いつでも続きから聴けます。無料でお試しできます。

なぜLLM(大規模言語モデル)はこれほどまでに賢いのか?

本回では、WanとMeiの論文「Large Language Models Are Approximate Solomonoff Inducers」に基づき、LLMの驚異的な汎化能力の理論的な背景を解き明かします。鍵となるのは、アルゴリズム情報理論と「ソロモノフ帰納法」。LLMは損失最小化を通じてプログラム長の最適化、すなわちソロモノフ事前分布の近似を実現しているという視点を掘り下げ、in-context learningやfew-shot学習、スケーリング法則といった現象の共通フレームワークも提示されます。加えて、予測信頼度の低いサンプルを優先する新たなfew-shot選定戦略の提案・検証にも注目です。


▼参照

https://arxiv.org/abs/2505.15784


▼運営

Edge Works株式会社

https://edge-works.ai

エピソード: CC AI Lab|コンタクトセンター×AI

Podli無料のPodliアプリを入手
↓ App