Podcasts · おちつきAIラジオ〜生成AIニュースをやさしく解説〜

ローカルLLM用のPC、何を買う？RTX 3090か中古M1 MaxかDGX Sparkか(ep.109)

· 1 h 45 min · S1 E109

Episode ローカルLLM用のPC、何を買う？RTX 3090か中古M1 MaxかDGX Sparkか(ep.109)

0:00 1:45:06

※収録日：2026/09/21

【公式切り抜きチャンネル、はじまりました】

おちつきAIラジオの公式切り抜き「おちつきAI【切り抜き】」を開設しました。1本15分前後で、本編のパートだけを切り出してお届けします。

▼Spotify

https://open.spotify.com/show/1ZDi70pwl9jQaLGD9mIDPq

▼Apple Podcasts

https://podcasts.apple.com/jp/podcast/id6814639855

こちらもフォローと「★5」のレビューで応援してください。

【1周年祭のお知らせ】

初の単独イベント「おちつきAIラジオ 1周年祭 2026」を、2026年10月3日（土）に東京で開催します。

▼「1年後のAI予測」投稿フォーム

イベントに来られない方も、どなたでもご参加いただけます。事前に集めた予測を当日読み上げ、2周年イベントで答え合わせをします！

https://forms.gle/xzgHP9AFfMgEUXGfA

▼1周年記念Tシャツは、まだ買えます

https://ochitsuki-ai.com/e/1st/tee-pod

【トーク内容】

「ローカルLLM（自分のPCで動かすAI）を始めたいけど、何を買えばいいのか」。AI素人のかねりんが、現役AIエンジニアのしぶちょーに聞きます。目標は、いまローカルで定番のQwen3.8-27Bを手元で動かすこと。

CPU・GPU・RAM・VRAMの違いから、モデルを軽くする「量子化」、VRAMに入りきらない分を本体側に回す「CPUオフロード」まで。そのうえで、かねりんの自作PC（RTX 3090・VRAM 24GB＋RAM 128GB）、中古で人気のM1 Max、約100万円のDGX Sparkを比べます。結論は「大事なのはVRAM」と「買う前に、小さいモデルとQwenのAPIで試してみる」。

後半は、電気代とマイニングの思い出、MacからWindowsへの乗り換えと水冷PC、睡眠の話、しぶちょーの近況まで。

【目次】

00:00:00 オープニング／今日はローカルLLMを動かすPCの話

00:06:01 本命モデルはQwen3.8-27B／脱線：R32 GT-Rの車検代

00:13:35 PCはレンタルしたい？なぜローカルで動かすのか

00:24:45 PCの基礎：CPU・GPU・RAM・VRAM。足りない分はCPUオフロード

00:38:27 かねりんのPCはRTX 3090＋RAM 128GB。量子化で軽くする

00:43:51 Appleの統合メモリ：中古のM1 Maxが熱い

00:49:01 本命はDGX Spark、約100万円。AI発信者の背景には必須？

00:55:57 ローカルの電気代とマイニング／まずはLM Studioで

01:00:58 MacからWindowsへ：メモリ不足と自作PC・水冷

01:09:00 ゲームする時間がない／睡眠と健康、ショートスリーパーは本当か

01:22:48 話を戻して：まとめはVRAMが大事

01:28:00 結論：小さいモデルとQwenのAPIで試す／Qwen Code

01:33:08 しぶちょーの近況：YouTubeと登壇

01:39:21 エンディング

01:40:46 アフタートーク

【今回の放送回に関連するリンク】

【今回の要チェックキーワード】

Qwen（クウェン）：Alibabaが開発するAIモデルのシリーズ。手元のPCで動かせる公開版もある。今回の主役はQwen3.8-27B。

ローカルLLM：外部のサーバーではなく、自分のPCでLLMを動かす方法。オフラインで使え、データを外へ送らずに済む。

CPU：PC全体の処理を受け持つ汎用の計算装置。LLMも動かせるが、速さを求めるならGPUを使う。

GPU：似た計算を大量にまとめて速く処理する装置。LLMの計算と相性がよく、生成の速さを左右する。

RAM：CPUが作業中のデータを置くメモリ。OSやアプリ、モデル、計算途中のデータが置かれる。

VRAM：GPU専用の高速なメモリ。何GBあるかで、動かせるモデルの大きさがほぼ決まる。

メモリ帯域幅：メモリから1秒間に運べるデータの量。容量が作業台の広さなら、帯域幅は運ぶ速さ。

SSD：モデルやアプリを保存しておく場所。容量が大きくても、RAMやVRAMの代わりにはならない。

27B：Bは10億（Billion）。約270億個のパラメータを持つという意味で、27GBという容量ではない。

パラメータ／重み：AIが学習で調整した大量の数値。モデルの中身そのもので、この数が27Bのような表記になる。

量子化：数値を少ないビット数で表してモデルを軽くする技術。27Bを16ビットから4ビットにすると重みは約54GBから約13.5GBに。

KVキャッシュ：すでに計算した文脈の情報を取っておく場所。会話や資料が長いほどメモリを使う。

CPUオフロード：VRAMに入りきらない分を本体のRAMに置き、CPUも使って動かす方法。動くが、GPUだけより遅い。

ユニファイドメモリ：CPUとGPUが同じメモリを共有する仕組み。Apple Siliconなどが採用し、大容量をGPUからも使える。

DGX Spark：NVIDIAの小型AI開発機。Arm CPUとBlackwell世代GPU、128GBの共有メモリを1台にまとめている。

tok/s（トークン毎秒）：AIが1秒に何トークン生成できるかを示す速度の指標。大きいほど文字が速く出る。

LM Studio：ローカルLLMを画面の操作で探し、ダウンロードして、そのまま会話できるアプリ。入門の入口に向く。

—----------------------------

【番組の概要】

日々のAIトピックを、現役のAIエンジニアがやさしく解説する対談番組。AIニュースに驚き疲れたあなたに、おちつきを提供します。AIニュースの、驚くポイント、驚かなくても良いポイントがわかります。

★ご感想やコメントは、番組公式ハッシュタグをつけてX（旧Twitter）でポストしていただけるとありがたいです。

【番組公式Webサイト】※お便りはこちら

https://ochitsuki-ai.com/

【公式ツール】

・おちつきAI RAG

https://ochitsuki-airag.com/

【番組公式ハッシュタグ】

#おちつきAI

【番組公式X】

https://x.com/ochitsuki_AI

【コミュニティの案内】 実践型の有料コミュニティで、みんなでAIを触っておちつこう！ https://rooom.listen.style/p/ochitsuki-ai?tab=membership

【パーソナリティ(MC)】

▼しぶちょー

・AIエンジニア

・技術士(機械部門)

「大手機械メーカーでAI開発の最前線を担う現役エンジニア。AI（ディープラーニング）の実装スキルを証明する「E資格」を保有。機械（ハードウェア）への高度な知見も有し、双方の専門性を掛け合わせ『AIの社会実装』に貢献する。情報発信活動にも精力的に取り組み、ブログ・音声配信(Podcast/Voicy)・SNSなどで幅広く活躍。単なる技術解説でなく、行動変容を伴う情報発信を信条とする。その姿勢が評価され、2025年UJA科学広報賞 審査員特別賞を受賞。著書に『集まれ設計１年生 はじめての締結設計』（日刊工業新聞社）。岐阜県テクノプラザものづくり支援センター広報大使、生成AI EXPO in 東海 共同代表も務める。」

https://x.com/sibucho_labo

https://voicy.jp/channel/3963

▼金田勇太（かねりん）

・KANERIN Podcast Studios 代表

・一般社団法人 地方WEB3連携協会 理事

「刑事司法実務の最前線で多数の犯罪捜査を指揮。2017年から暗号資産業界へ参入。数々のグローバルプロジェクトに参画しコンサルティング、情報分析・アドバイザリー業務を提供。コンサートライブ配信業、音声配信業、テックメディア創業等を経て、ポッドキャストレーベル兼プロダクション「KANERIN Podcast Studios」を創業。多様なパートナーと共に、未来へつなぐ声の原典を共創している。」

https://x.com/kanerinx

https://voicy.jp/channel/2534

【制作】

番組演出（トーク・BGM・効果音）：Aviv Haruta

カバーアートデザイン：UTA

プロデューサー：金田勇太（かねりん）

制作：KANERIN Podcast Studios

著作：株式会社KANERIN

https://kanerin.co.jp

LISTENで開く

Links in the notes 14

The episode on the publisher’s site

Chapters

    Transcript

      Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them. Explicit shows are for adult profiles only, and children’s profiles hear only children’s shows. More about this list.