Podliポッドキャストプレーヤー Webplayer

おちつきAIラジオ〜生成AIニュースをやさしく解説〜

おちつきAIラジオ〜生成AIニュースをやさしく解説〜

ローカルLLM用のPC、何を買う?RTX 3090か中古M1 MaxかDGX Sparkか(ep.109)

おちつきAIラジオ〜生成AIニュースをやさしく解説〜 · 2026年10月1日 · 1:45:05

0:001:45:05

Podliアプリで聴く 🎧

お気に入りの番組をフォローして、オフラインでも車内でもCarPlayやAndroid Autoで再生。いつでも続きから聴けます。無料でお試しできます。

※収録日:2026/09/21

【公式切り抜きチャンネル、はじまりました】

おちつきAIラジオの公式切り抜き「おちつきAI【切り抜き】」を開設しました。1本15分前後で、本編のパートだけを切り出してお届けします。

▼Spotify

https://open.spotify.com/show/1ZDi70pwl9jQaLGD9mIDPq

▼Apple Podcasts

https://podcasts.apple.com/jp/podcast/id6814639855

こちらもフォローと「★5」のレビューで応援してください。


【1周年祭のお知らせ】

初の単独イベント「おちつきAIラジオ 1周年祭 2026」を、2026年10月3日(土)に東京で開催します。


▼「1年後のAI予測」投稿フォーム

イベントに来られない方も、どなたでもご参加いただけます。事前に集めた予測を当日読み上げ、2周年イベントで答え合わせをします!

https://forms.gle/xzgHP9AFfMgEUXGfA


▼1周年記念Tシャツは、まだ買えます

https://ochitsuki-ai.com/e/1st/tee-pod


【トーク内容】

「ローカルLLM(自分のPCで動かすAI)を始めたいけど、何を買えばいいのか」。AI素人のかねりんが、現役AIエンジニアのしぶちょーに聞きます。目標は、いまローカルで定番のQwen3.8-27Bを手元で動かすこと。


CPU・GPU・RAM・VRAMの違いから、モデルを軽くする「量子化」、VRAMに入りきらない分を本体側に回す「CPUオフロード」まで。そのうえで、かねりんの自作PC(RTX 3090・VRAM 24GB+RAM 128GB)、中古で人気のM1 Max、約100万円のDGX Sparkを比べます。結論は「大事なのはVRAM」と「買う前に、小さいモデルとQwenのAPIで試してみる」。


後半は、電気代とマイニングの思い出、MacからWindowsへの乗り換えと水冷PC、睡眠の話、しぶちょーの近況まで。



【目次】

00:00:00 オープニング/今日はローカルLLMを動かすPCの話

00:06:01 本命モデルはQwen3.8-27B/脱線:R32 GT-Rの車検代

00:13:35 PCはレンタルしたい?なぜローカルで動かすのか

00:24:45 PCの基礎:CPU・GPU・RAM・VRAM。足りない分はCPUオフロード

00:38:27 かねりんのPCはRTX 3090+RAM 128GB。量子化で軽くする

00:43:51 Appleの統合メモリ:中古のM1 Maxが熱い

00:49:01 本命はDGX Spark、約100万円。AI発信者の背景には必須?

00:55:57 ローカルの電気代とマイニング/まずはLM Studioで

01:00:58 MacからWindowsへ:メモリ不足と自作PC・水冷

01:09:00 ゲームする時間がない/睡眠と健康、ショートスリーパーは本当か

01:22:48 話を戻して:まとめはVRAMが大事

01:28:00 結論:小さいモデルとQwenのAPIで試す/Qwen Code

01:33:08 しぶちょーの近況:YouTubeと登壇

01:39:21 エンディング

01:40:46 アフタートーク



【今回の放送回に関連するリンク】




【今回の要チェックキーワード】

Qwen(クウェン):Alibabaが開発するAIモデルのシリーズ。手元のPCで動かせる公開版もある。今回の主役はQwen3.8-27B。

ローカルLLM:外部のサーバーではなく、自分のPCでLLMを動かす方法。オフラインで使え、データを外へ送らずに済む。

CPU:PC全体の処理を受け持つ汎用の計算装置。LLMも動かせるが、速さを求めるならGPUを使う。

GPU:似た計算を大量にまとめて速く処理する装置。LLMの計算と相性がよく、生成の速さを左右する。

RAM:CPUが作業中のデータを置くメモリ。OSやアプリ、モデル、計算途中のデータが置かれる。

VRAM:GPU専用の高速なメモリ。何GBあるかで、動かせるモデルの大きさがほぼ決まる。

メモリ帯域幅:メモリから1秒間に運べるデータの量。容量が作業台の広さなら、帯域幅は運ぶ速さ。

SSD:モデルやアプリを保存しておく場所。容量が大きくても、RAMやVRAMの代わりにはならない。

27B:Bは10億(Billion)。約270億個のパラメータを持つという意味で、27GBという容量ではない。

パラメータ/重み:AIが学習で調整した大量の数値。モデルの中身そのもので、この数が27Bのような表記になる。

量子化:数値を少ないビット数で表してモデルを軽くする技術。27Bを16ビットから4ビットにすると重みは約54GBから約13.5GBに。

KVキャッシュ:すでに計算した文脈の情報を取っておく場所。会話や資料が長いほどメモリを使う。

CPUオフロード:VRAMに入りきらない分を本体のRAMに置き、CPUも使って動かす方法。動くが、GPUだけより遅い。

ユニファイドメモリ:CPUとGPUが同じメモリを共有する仕組み。Apple Siliconなどが採用し、大容量をGPUからも使える。

DGX Spark:NVIDIAの小型AI開発機。Arm CPUとBlackwell世代GPU、128GBの共有メモリを1台にまとめている。

tok/s(トークン毎秒):AIが1秒に何トークン生成できるかを示す速度の指標。大きいほど文字が速く出る。

LM Studio:ローカルLLMを画面の操作で探し、ダウンロードして、そのまま会話できるアプリ。入門の入口に向く。





—----------------------------

【番組の概要】

日々のAIトピックを、現役のAIエンジニアがやさしく解説する対談番組。AIニュースに驚き疲れたあなたに、おちつきを提供します。AIニュースの、驚くポイント、驚かなくても良いポイントがわかります。


★ご感想やコメントは、番組公式ハッシュタグをつけてX(旧Twitter)でポストしていただけるとありがたいです。


【番組公式Webサイト】※お便りはこちら

https://ochitsuki-ai.com/


【公式ツール】

・おちつきAI RAG

https://ochitsuki-airag.com/


【番組公式ハッシュタグ】

#おちつきAI


【番組公式X】

https://x.com/ochitsuki_AI


【コミュニティの案内】
実践型の有料コミュニティで、みんなでAIを触っておちつこう!
https://rooom.listen.style/p/ochitsuki-ai?tab=membership⁠




【パーソナリティ(MC)】

▼しぶちょー

・AIエンジニア

・技術士(機械部門)

「大手機械メーカーでAI開発の最前線を担う現役エンジニア。AI(ディープラーニング)の実装スキルを証明する「E資格」を保有。機械(ハードウェア)への高度な知見も有し、双方の専門性を掛け合わせ『AIの社会実装』に貢献する。情報発信活動にも精力的に取り組み、ブログ・音声配信(Podcast/Voicy)・SNSなどで幅広く活躍。単なる技術解説でなく、行動変容を伴う情報発信を信条とする。その姿勢が評価され、2025年UJA科学広報賞 審査員特別賞を受賞。著書に『集まれ設計1年生 はじめての締結設計』(日刊工業新聞社)。岐阜県テクノプラザものづくり支援センター広報大使、生成AI EXPO in 東海 共同代表も務める。」

https://x.com/sibucho_labo

https://voicy.jp/channel/3963


▼金田勇太(かねりん)

・KANERIN Podcast Studios 代表

・一般社団法人 地方WEB3連携協会 理事

「刑事司法実務の最前線で多数の犯罪捜査を指揮。2017年から暗号資産業界へ参入。数々のグローバルプロジェクトに参画しコンサルティング、情報分析・アドバイザリー業務を提供。コンサートライブ配信業、音声配信業、テックメディア創業等を経て、ポッドキャストレーベル兼プロダクション「KANERIN Podcast Studios」を創業。多様なパートナーと共に、未来へつなぐ声の原典を共創している。」

https://x.com/kanerinx

https://voicy.jp/channel/2534



【制作】

番組演出(トーク・BGM・効果音):Aviv Haruta

カバーアートデザイン:UTA

プロデューサー:金田勇太(かねりん)

制作:KANERIN Podcast Studios

著作:株式会社KANERIN

https://kanerin.co.jp

エピソード: おちつきAIラジオ〜生成AIニュースをやさしく解説〜

Podli無料のPodliアプリを入手
↓ App