#165 トルネコAI実況の遅延で学んだKVキャッシュの基本

トルネコの大冒険で初めて挑戦したAIゲーム実況について、xangi-avatarとローカルLLMを組み合わせた仕組みを紹介します。画面理解や音声での反応は動いた一方、長時間の会話履歴を単純に切り詰めたことでKVキャッシュが効かなくなり、実況が遅れていった原因を振り返ります。AIが修正を助けてくれる時代でも、基礎を知ることが問題発見と解決につながるという話をしました。

目次

00:00 オープニングと秋の気配

00:41 トルネコの大冒険でAIゲーム実況に挑戦

03:53 borotを実況役にした仕組み

06:35 ローカルLLMを選んだ理由

07:13 実況で見えた手応えと深刻な遅延

08:13 TransformerとKVキャッシュの基本

10:14 会話履歴の切り詰めで遅くなった原因

10:52 コンパクションと基礎知識の大切さ

12:59 AI実況への再挑戦とxangi-avatarの公開方針

14:40 お知らせとエンディング

リンク

トルネコの大冒険 AI実況テスト

https://www.youtube.com/live/2V6ULUjCbxk

▼コミュニティ「からあげ帝国」への参加はこちら（Discord）

https://discord.com/invite/PWpEB7KUsN