私立ずんだもん女学園放送部 podcast 20260821

youtube版(スライド付き) 関連リンク

• AI Agentに社内知識をオンボーディングする：SkillsとEvalの設計

AIエージェントに社内固有の知識を習得させる方法として、新人エンジニアのオンボーディング文書をベースに検証を行った記事です。著者は、エージェントを「優秀だが社内知識がない新入社員」と捉え、社内知識を与えない条件、都度Notionを検索させる条件、知識を構造化した「Skills」として与える条件の3つを比較しました。

精度を正確に測定するため、単なる一問一答型ではなく、実務的な自由回答型のEval（評価）を15課題作成しました。正誤だけでなく、回答に含めるべき要件を「Rubric（採点基準）」として定義し、さらに実務上危険な誤りを防ぐために重大な失敗項目（Critical failure）を設けてLLM-as-a-judgeで厳密に評価しています。合計135の回答を比較した結果、項目正解率は「知識なし」が33.0%、「Notion検索」が87.3%、「Skills参照」が96.0%となり、知識をSkillsとして事前に構造化することが、回答品質の向上だけでなく、応答時間の短縮や入力トークンの削減にも極めて有効であることが示されました。一方で、実務への完全自動化にはまだ課題があることや、評価指標（Eval）の設計自体がエージェントの能力定義に直結するという重要性がエンジニア向けにわかりやすく解説されています。

引用元: https://zenn.dev/mkj/articles/aad5698672aef3

• Up to 3.2x Faster Inference with LFM2.5-DSpark

Liquid AIは、LFM2.5ファミリーのモデル（LFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1B）向けの「DSparkドラフトモデルチェックポイント」を公開しました。これは、出力品質を一切落とすことなく、メモリーの微増だけで大規模な推論の高速化を実現する「推測デコード（Speculative Decoding）」のパスを追加するものです。GPU環境では最大3.18倍、エッジデバイス（MacBook）では最大2.87倍のスループット向上を実現し、特にLFM2.5-2.6Bでは関数呼び出し（ファンクションコール）のレイテンシを平均57%削減することに成功しています。

大規模言語モデル（LLM）のデコードフェーズは、重みのデータをDRAMからSRAMへストリーミングする帯域がボトルネックとなる「メモリバウンド」な処理です。DSparkは、軽量なドラフトモデルが複数の候補トークンを生成し、ターゲットモデルがそれを1回のフォワードパスで一括検証することで、重みの読み込みコストを分散して高速化を図ります。DSparkの技術的な構成要素は以下の3つです。

1. ターゲットモデルのコンテキスト特徴量に条件付けられ、1回のフォワードパスで全ドラフトトークンの隠れ状態を生成する「DFlashスタイルの並列バックボーン」
2. 隣接トークン間のマルコフ連鎖としてモデル化され、トークン間の依存関係を追加して後続位置での採択率を上げる「軽量なシーケンシャルヘッド」
3. 各トークンの生存確率を予測し、検証コストが利益を上回る場合に低信頼度のサフィックスを枝刈りする「信頼度スケジュール付きベリファイア」

公開されたドラフトモデルは約300Mパラメータと非常に軽量です。最大の特徴は、ターゲットモデルの分布と完全に一致させる仕組みをとっているため、貪欲法（グリーディデコード）による出力結果やベンチマーク精度（pass@1など）がベースラインと完全に一致し、品質が劣化しない点です。

また、公開初日から「llama.cpp」および「SGLang」に統合されており、オープンソースとして利用可能です。SGLangではサーバー起動時にオプションを指定するだけで簡単に利用でき、llama.cppでもコマンドライン引数でドラフトモデルを指定することで、正確性を保ったまま高速な推論を実行できます。モデルの重みはSafetensors形式とGGUF形式の両方でHugging Face上にて公開されています。新人エンジニアの皆さんも、ローカルLLMやエッジAIアプリの開発において、推論速度を劇的に向上させる実用的な技術としてぜひ試してみてください。

引用元: https://huggingface.co/blog/LiquidAI/lfm25-dspark

• YAML 1枚で開発エージェントチームを動かす — 開発基盤に Docker Agent を採用した話

本記事では、コーディングを含む開発タスクを自律的にこなすAIエージェントチームの実行基盤として、「Docker Agent」を活用する方法について解説しています。Docker AgentはDocker Inc.が提供するAI Agent Builder & Runtimeであり、Docker Desktop 4.63以降に同梱されているため、導入の敷居が極めて低い点が特徴です。

エージェントの定義は「agent.yaml」という1枚のYAMLファイルで行います。この構成ファイルにより、仕様書の要件分析から設計、実装、テスト、品質ゲート、プルリクエスト作成に至る開発パイプライン全体を一括して構築できます。主なメリットとして、以下の5点が挙げられます。

1. 安全なサンドボックスの標準装備: コンテナ技術をベースにしているため、生成コードを実行する隔離環境が最初から用意されています。
2. MCP Catalogを通じたプラグイン機構: 外部ツールとの接続規格であるMCPを活用し、定義に1行追加するだけで検索やデータベースなどのツールを導入可能です。
3. マルチプロバイダ・ローカルLLMへの対応: OpenAI、Anthropic、Googleなどに加え、Docker Model Runnerを介したローカルLLMの利用もYAMLの書き換えだけで実現できます。
4. Gitでの構成管理とPRレビュー: エージェントのチーム構成、プロンプト、ツール権限がすべてテキストで管理されるため、プルリクエストを通じた差分レビューや履歴管理が可能です。
5. 既存のDocker運用ノウハウの活用: イメージ管理やCI/CDなど、チームがすでに持っているインフラ資産や知見をそのまま転用できます。

また、実行時のセッションはデフォルトでSQLite（session.db）に永続化されるほか、hooks機構を用いたJSONL形式の監査ログ出力や、OpenTelemetryによるトークン・コストの計測も実現できます。これにより、エージェントのデバッグや運用の振り返りが容易になります。エージェント基盤の自作におけるインフラ構築のコストを削減し、使い慣れたコンテナの流儀で自律型開発環境を立ち上げたいエンジニアにとって、非常に実用的なアプローチとなっています。

引用元: https://zenn.dev/xtm_blog/articles/b9993fe1d72b17

• キャラクター召喚装置「Gatebox3」に「ずんだもん」が登場決定！9月からの先行販売に向けた事前登録を開始

Gatebox株式会社は、次世代キャラクター召喚ディスプレイ「Gatebox3」において、最新の生成AIと連携した「ずんだもん」の登場を発表しました。これにより、ホログラムのようにデジタルフィギュアとしてずんだもんを召喚し、会話や日々の暮らしを楽しめるようになります。9月からの先行販売と専用ダウンロードカード・カスタムパネルの展開に向け、現在は事前登録を受付中です。AI技術を活用した新しいキャラクター体験として、エンジニアにとっても興味深いプロダクトと言えます。（399文字）

引用元: https://prtimes.jp/main/html/rd/p/000000143.000026497.html

• お便り投稿フォーム

VOICEVOX:ずんだもん