GPT-OSSをローカルPCで使う方法は？

TL;DR

GPT-OSSは、20Bモデルなら16GB、120Bモデルなら80GBのメモリを目安にローカル環境で利用でき、LM Studioなどから導入できる。20Bは速度と低コスト、120Bは回答の詳しさが魅力だが、複雑な推論やコードの一発生成には誤答や動作不良もある。

Transcript

おわそです。本日はですね、OpenAI からGPTOS、こちらが登場しましたん で、これについてお話していきたいと思い ます。このGPTOSなんですけども、2 つ、え、モデルが登場しました。120B パラメーターの、え、モデルと20B パラメーターのモデルということで 80GBのメモリで動作するような、ま、 そんな、え、ま、モデルとあとは16GB のメモリで動作する、ま、例えばオン デバイスとかローカル環境での利用に最適 化された20Bモデル、え、この2つの、 え、モデルが登場したんですけども、これ がですね、今までちょっと考えられない ぐらい、ま、賢いでそんなモデルになって ますんでね、え、是非皆さんに今回動画と して、え、紹介していきたいなという風に 思います。はい。まずはですね、ま、 ... Read More

Key Insights

• GPT-OSSは120Bと20Bの2モデルで構成され、オープンウェイトとしてダウンロードし、クラウドを介さずローカル環境でも利用できるモデルである。
• 20Bモデルは16GBのメモリで動作する目安が示され、比較的性能の高い個人用PCでの利用や、ネット接続のない環境での運用に適している。
• 120Bモデルは80GBのメモリを必要とするため個人導入の条件は厳しいが、社内設備で共有するオンプレミス用途の候補になり得る。
• MoEは推論時に一部の専門家だけを活性化する仕組みであり、動画では120B側の有効部分が5.1B、20B側が3.6Bだと説明されている。
• コンテキストウィンドウは128Kであり、一般利用には対応できる一方、長い履歴を保持し続けるコーディングエージェントでは弱点になる可能性がある。
• ベンチマークではSW-Benchのハイモードが120Bで62.4、20Bで60.7と紹介され、両モデルの得点差は小さいと報告されている。
• 実演結果は単純な質問や文章分析では高速かつ良好だったが、9.9と9.11の比較、水平思考問題、複雑なプログラム生成では誤りも確認された。
• コード生成は一発で安定するとは限らず、オセロやカレンダーUIは生成できた一方、パスファインディングは両モデルとも動作しなかった。
• 🎬 このチャンネルの他の動画:
  • Claude Opus 4.8のプロンプト精度を上げる方法
  • Kimi K2.5で利用できる機能とは？
  • Claude CodeのモデルとEffortを選ぶ方法
• 📺 このチャンネル: まさおAIじっくり解説ch

Questions & Answers

Q: GPT-OSSをローカルPCで使う方法は？

GPT-OSSのモデルをダウンロードし、LM Studioなどのローカル実行環境へ読み込む方法が紹介されている。動画では20BモデルをLM Studioで利用する案が示されたほか、ローカル環境を準備せず、OpenRouter経由で120Bまたは20Bを試す方法も実演されている。

Q: GPT-OSS 20Bを動かすにはどの程度のメモリが必要ですか？

GPT-OSS 20Bは、動画内では16GBのメモリで動作するモデルとして紹介されている。比較的性能の高い個人用PCやMacでも利用できる可能性があり、ローカル処理、オンデバイス利用、通信できない場所での運用に向く選択肢だと評価されている。

Q: GPT-OSS 120Bを動かすにはどの程度のメモリが必要ですか？

GPT-OSS 120Bは、動画内では80GBのメモリで動作する目安が示されている。一般的な個人用PCには負担が大きいため、高性能な専用PCや会社内の共有設備で運用する用途が想定される。手元の環境が不足する場合は、OpenRouter経由で試す方法もある。

Q: GPT-OSS 120Bと20Bの違いは何ですか？

主な違いはモデル規模、必要メモリ、回答の詳しさである。120Bは80GB、20Bは16GBのメモリが目安とされ、実演では120Bのほうが詳しく賢いと感じられる回答が多かった。一方、20Bも高い性能を示し、迷路ゲームなどでは120Bより良い動作を見せる例があった。

Q: GPT-OSSのMoEとは何ですか？

MoEは、すべてのパラメーターを常時使わず、入力に応じて一部の専門家だけを活性化する仕組みである。動画では、120B側は総パラメーター約117Bのうち5.1B、20B側は約21Bのうち3.6Bが有効になると説明され、効率的な動作を支える要素とされている。

Q: GPT-OSSはコーディングに使えますか？

GPT-OSSはコーディングに利用できるが、生成結果の確認と修正が必要である。実演ではオセロ、カレンダーUI、ガントチャート、看板、迷路ゲームなどを生成できた一方、パスファインディングは両モデルとも動かず、AIモードの不具合や表示崩れ、ボールの分身なども発生した。

Q: GPT-OSSのコンテキストウィンドウはどのくらいですか？

GPT-OSSのコンテキストウィンドウは128Kと紹介されている。通常の質問やコード生成には利用できる規模だが、動画の話者は、長い履歴を継続的に扱うコーディングエージェントとして使う場合、より長い文脈を扱うモデルを脅かすには厳しい可能性があると評価している。

Q: GPT-OSSの回答精度にはどのような弱点がありますか？

GPT-OSSには、単純な課題を高速に処理できても、複雑な推論や細部で誤る弱点がある。実演では引っ掛け問題や文章分析に対応した一方、9.9と9.11の比較を誤り、水平思考問題では正解へ到達できなかった。プログラムも一発で正常動作するとは限らず、結果の検証が欠かせない。

Summary & Key Takeaways

• GPT-OSSには120Bと20Bの2モデルがあり、オープンウェイトとしてダウンロードし、ローカル環境で利用できる。動画では、120Bは80GB、20Bは16GBのメモリで動作する目安が示された。特に20Bは一般的な開発者向けPCでも扱いやすく、オフライン利用やオンデバイス処理への応用が期待されている。

• 両モデルは、一部の専門家だけを動かすMoEアーキテクチャを採用する。動画内の説明では、120B側は総パラメーター約117Bに対して有効部分が5.1B、20B側は約21Bに対して3.6Bである。コンテキストウィンドウは128Kで、長期間動作するコーディングエージェントでは制約になる可能性が指摘された。

• 実演では、引っ掛け問題、文章分析、一般的な解説、オセロやUI生成などで実用的な回答が得られた。一方、数値比較の誤答、水平思考問題のずれ、パスファインディングの動作不良、レイアウト崩れも確認された。120Bは詳しい回答で優位な傾向があったが、20Bが上回る例もあり、生成結果にはばらつきがある。