AIを使ってしたい100のこと

生成AIの可能性と、それを使って自分自身を表現する楽しさを伝えることを目指しています。

Microsoft Copilot Labで無料学習:AIプロンプトの質を向上

1. Copilot Labとは?

Copilot Labは、Microsoft Copilotの作成、学習、使用方法を説明するプロンプトのコレクションを提供しています。これは、Copilotに何を実行してほしいかを伝えるために使用する指示や質問です。

2. Copilot Labで学べること

Copilot Labでは、以下のことを学べます:

  1. プロンプトの使用方法: Copilotの基本的な使い方、プロンプトの選択や編集、共有方法などを学べます。
  2. アプリごとのプロンプト: Word、PowerPoint、Teamsなどのアプリごとに適したプロンプトをフィルタリングして表示できます。
  3. プロンプトのカスタマイズ: プロンプトはカスタマイズ可能で、ニーズに合わせて変更できます。
  4. Microsoft 365の全体像と将来性: Copilotの活用について理解し、Microsoft 365の将来性についても学べます。

3. Copilot Labの評価

3.1 プロンプトとは(動画)

まず、このページの「プロンプトとは」と書かれた動画が、シンプルですが端的で分かりやすく、非常に良いです。プロンプトに必要なのは明確な目標のみであること、ほとんどのプロンプトは5つのカテゴリに当てはまることを述べています。

3.2 プロンプトとは(文章)

こちらの記事では、プロンプトには、目標、コンテキスト、期待値、ソースの 4 つの部分を含めると良いことが述べられています。この部分は重要なので、また別の記事を書いて掘り下げたいと思います。

3.3 プロンプトのサンプル集

プロンプトのコレクションは、作成、編集、質問する、理解する、最新の状況の確認の、5つのカテゴリに分かれています。これらのカテゴリのどれに当てはまるのかを考えると、新たなプロンプトを考えやすいと思います。

ただし内容がMicrosoft Office向けとなっているため、汎用的に使えるプロンプトが少ない印象です。また、シンプルなプロンプトが多いため、初心者向けという印象です。

これらのプロンプトを編集して独自のプロンプトを作成する方法は、こちらに書かれています。

support.microsoft.com

捨てる趣味あれば拾う趣味あり

先日、マラソン大会に出場してから、もう1か月が経ちました。

muriwashinai.hatenablog.com

実は、フルマラソンを完走した後で足の調子が悪く、まだ練習を再開できていません。1か月もの間、軽いジョギングすらできないというのは、凹みますね。

せっかく鍛え上げた身体も、だんだんとなまってきます。それに、梅雨に入ると走れる日も限られますし、梅雨明け後は暑くて走るのが大変になってきます。

今、練習できないのはつらいです。でも、20kmを走るなんてもってのほかです。登山は厳しいですし、平地ですら長距離は歩けません。

私の活動の多くは、10km以上歩けることを前提としていると、改めて気づかされました。

そうして過ごして1か月。心境が微妙に変わってきました。

走れないからといって、駅前まで散歩したり、近所の大きな公園にカメラを持って出かけました。

鳥のさえずりを聞いてカメラを向けると、かわいい鳥のひながぴよぴよ鳴いています。「そうだ、もっときれいに撮るために、カメラを買い替えよう」と、創作意欲(と購買欲)が湧いてきました。

足に衝撃があることはできないので、代わりに自転車に乗ろうと考えました。「そうだ、かすみがうらを自分の自転車で走ろう」。輪行バッグを買って、常磐線で自転車を運ぶことを思いつきました。

走らなくなったことで、ランニング以外の趣味をやる意欲が増してきました。

レーニングには「可逆性の原理」というのがあって、練習をやめると元に戻ってしまうという、つらい現実があります。

しかし、走っていない間に、写真が上達したり、自転車の世界が広がるかもしれません。ランニングの能力は減退しますが、写真のスキルや野鳥の知識、自転車の能力は向上するわけです。

「違う部分を鍛えているのだ」と考えれば、今、走っていないことが気にならなくなってきました。

よって、日々の充足感に何の過不足もなし!

スポーツとクリエイティブ、両方の趣味をやっておくと、つぶしが利いていいかもしれません。私には他に、映画とゲームという消費系の趣味もあるため、仮に寝たきりになったとしても、充実した日々を送れます。

多趣味は身を助けるというか、多くのことをやっているとつぶしが利くもんだなあと、改めて思いました。

野鳥撮影に夢中な柴犬

Command R+のローカル実行:高価なグラフィックカードが必要な理由

1. はじめに

ローカルPCでCommand R+を動作させるための方法は主に2つあります。

  1. 高価なグラフィックカードを搭載する:これには300~500万円かかります。
  2. Apple Silicon搭載でメモリが128GB以上のMacを使う:これには70万円以上かかります。

しかし、安いグラフィックカードを複数枚搭載して、Command R+を動作させることはできないのでしょうか?この疑問を解明するために、調査を行いました。

2. 複数のグラフィックカードで代替できないか?

まず、Copilotに以下の質問をしました。

64GBのGPUメモリを持つグラフィックカードが販売されていないようなのですが、24GBのGPUメモリを持つグラフィックカードを3枚購入すれば、Command R+を動作させることができますか?

Copilotの回答は次の通りでした。

一般的に、複数のグラフィックカードのメモリを合計して使用することはできません。各グラフィックカードは独立して動作し、それぞれのメモリは個別に管理されます。したがって、24GBのGPUメモリを持つグラフィックカードを3枚使用しても、それぞれのカードは24GBのメモリしか利用できません。

Command R+のような大規模なAIモデルは、一つのモデルが一つのGPUで動作するように設計されています。そのため、64GBのGPUメモリを必要とする場合、その全てが一つのGPUに存在する必要があります。

したがって、残念ながら24GBのGPUメモリを持つグラフィックカードを3枚使用してCommand R+を動作させることはできません。64GBのGPUメモリを持つグラフィックカードが必要となります。。

2.1. Copilotの回答の要点

  • グラフィックカードは独立して動作し、それぞれのメモリは個別に管理されます。
    • 複数のGPUGPUメモリを共有できないと言っています。つまり、GPUメモリ量は合算にならないということです。
  • Command R+のような大規模なAIモデルは、一つのモデルが一つのGPUで動作するように設計されています。
    • そのため、64GBのGPUメモリを必要とする場合、その全てが一つのGPUに存在する必要があります。

3. Copilotの回答の裏付け

Copilotの回答が正しいのかを確認するために、他の情報源を調査しました。

3.1. 複数のGPUGPUメモリを共有できないのか?

以下のサイトで確認しました。

www.hpc.co.jp

『NVLink Bridgeで複数GPUを繋いだら、それらが1GPUとして扱えるようになるんでしょ?』という誤解をされているお客様をしばしばお見受けいたします。こちらの記事では、それが誤解であること、また、SLIやUnified Memoryといった関連する情報についても整理して解説いたします。

GPUのメモリ空間は他デバイスから隔絶されています GPU上には演算するためのプロセッサと、データを一時的に置いておくためのメモリ(VRAM)が搭載されています。GPUのメモリを、CUDAで書かれたプログラムから利用するには、cudaMallocでメモリ領域を確保し、cudaMemcpyを使ってホスト(CPU側)のメモリとデータの送受信を行い、GPU上で演算kernelとする関数(以下、GPU-Kernel)を呼び出し、最後にcudaFreeでメモリ領域を解放する、といった流れになります。

ポイントは、GPU-Kernelの中で読み書き可能なメモリ領域はそのGPUのVRAMの中に限られているという点です。

3.2. わかったこと

  • GPUのメモリ空間は他デバイスから隔絶されている。(Copilotが言う通り。これは基本的な大前提。)
  • GPU-Kernelの中で読み書き可能なメモリ領域はそのGPUのVRAMの中に限られている。
  • NVLink Bridge、NVLinkで複数のGPUを繋ぐと、並列計算において、GPU間の中間データの通信が速くなる。しかし、GPU-Kernel(A) が別のGPU(B)のVRAM に読み書きできるようになるわけではない。

4. 物理的な問題

note.com

こちらの記事ではまさに、VRAMが24GBのRTX4090を3枚、1台のPC筐体に収める検討をしています。

しかし、冷却システムや電源、物理的なサイズが障害となって、1台のPCには2枚までしか搭載できなかったようです。そこで、複数台のPCを使って並列化することにしたようです。

ここで重要なのは、並列化に対応したLLMを使用している点です。

5. 複数のグラフィックカードでAIワークロードを動かす事例

検索すると、複数のグラフィックカードをPCに搭載して、ローカルでAIワークロードを動かしている事例がたくさんあります。その場合は、並列化可能なAIワークロードを実行しているようです。

なお、Command R+を複数のGPU環境で動かした例は見当たりませんでした。

6. まとめ

Command R+のような大規模なAIモデルは、一つのモデルが一つのGPUで動作するように設計されています。そのため、64GBのGPUメモリを必要とする場合、その全てが一つのGPUに存在する必要があります。

Command R+自体が、並列化に対応していないのであれば、複数のグラフィックカードを用意しても、それをCommand R+が利用してくれる、ということはないと思われます。

世の中には、複数のグラフィックカードをPCに搭載して、ローカルでAIワークロードを動かしている事例がたくさんあります。それらは、並列化可能なAIワークロードを実行しているようです。一方で、Command R+を複数のGPU環境で動かした例は見当たりませんでした。

5. 感想

複数のグラフィックカードを搭載して、Command R+を実行することができないと分かると、システムメモリをGPUメモリとしても使用できるという、Apple Siliconはとても魅力的に見えてきます。

70万円オーバーというのは高いと思いますが、買えない値段ではないです。

しかし、実際に購入したとして、レスポンスはどのくらいなんでしょう?回答に何分も待たされるようだと、使い物になりません。

各社がAI Readyのハードウェアを準備しているようですが、つまりはそういうことなのか、と分かってきました。将来は、ローカルでAIワークロードを動かせるような、GPUメモリを潤沢に使えるPCやスマートフォンが普及するのでしょう。

AppleはAIで後れを取っていると言われていますが、そうではないのかもしれませんね。

高い、高い!安い!!の法則

最近、テレビを買い替えました。55型のレグザで、17万8千円ぐらいしました。

高いな~。厳しい。しかし10年ぶりの買い替えなのでしょうがないです。

さらに、今後も出費の予定が控えています。

iPadももうすぐ買い替え、きっと10万円ほどの出費になります。PCの液晶モニターも買い替えたいです。4Kだと10万円オーバーになる見込み。

「Command R(+)」をローカルPCで動かすための、追加ハードウェアにも興味がありますが。

こちらの記事で、「Command R(+)」を動かすことを検討した結果、グラフィックカードに300万~500万円かかると分かりました。

muriwashinai.hatenablog.com

300万円、たっかいな~。もはや購入は無理。

こちらの記事では、Apple Silicon搭載のMacを購入するのに、70万円ほどかかると分かりました。

muriwashinai.hatenablog.com

70万円。おや、ちょっと安くなったか?

また、趣味のカメラの買い替えを検討していました。しかし野鳥撮影には性能が必要のため、カメラ本体とレンズで50万円ほどかかりそうだと分かり、購入をためらっていました。

そこで、レンズの買い替えはやめて、カメラ本体だけを買い替えることにしました。 カメラ本体の価格は新品で27万円ほど。55型テレビの価格を考えると、カメラがいかに高い買い物なのかと思います。

カメラ本体を中古で買うと、価格は23万円ほどです。

今のカメラを下取りに出すと、約10万円が割り引かれ、新たに支払う金額は13万円ほど。

13万円…。

安い!!(…のか?)

さっそく、中古のカメラ本体を発注しました。

このように、17万円→500万円→70万円→50万円→27万円→23万円→13万円と、一度高いものを経由して考えることで「13万円、安い!!」となるのです。

この時すべての貨幣価値はうやむやになり、もはや高いんだか安いんだか分からない状態です。

このようにして高価なものを買う現象を、「購買欲のドミノ倒し」と呼ぶことにします。

高額なグラフィックカードを避けて「Command R(+)」を動かす方法

はじめに

制限なく無料で利用するために、生成AIをローカルPCにインストールできるといいな、と考えました。「Command R(+)」を紹介する記事を読み、これに興味を持ちました。

前回の記事では、ローカルPCに「Command R(+)」を導入するにはグラフィックカードが必要であり、これが300万~500万円くらいするという、衝撃の事実が分かりました。

muriwashinai.hatenablog.com

もうちょっと何とかならないんでしょうか。そう思ったところに、いい記事を見かけました。

pc.watch.impress.co.jp

今回はこちらの記事を読み、新たに分かった「Command R(+)」の導入方法と、コストについてまとめました。

元ネタ

【西川和久の不定期コラム】日本語にも対応したLLM「Cohere Command R(+)」の実力は? - PC Watch

ここ数日、Xのタイムラインを眺めていると、「Command R(+)」に関するつぶやきを結構見かける。どうやら日本語も含め10カ国語対応のLLMで、大容量メモリを搭載したApple SiliconなMacでも動く……ということらしい。

パラメータ数35B(350億)のCommand Rは3月13日、104B(1,040億)のCommand R+は4月5日、つまりつい先日発表されたばかり。

これまでLlama 2の13Bと34Bを何とかローカルPCで動かした記事は書いたものの、今回のCommand Rはどちらもそれを超えるパラメータ数。Command Rは35BとLlama 2の上位からプラス1Bだが、Command R+は104Bと桁違いだ。

104Bって何?

Copilotに聞く

数字で104Bと書いた場合に、1,040億を表すと知りました。この場合、Bとはどういう単位なのでしょうか?

回答

「B」は英語で「Billion」の略で、日本語では「十億」を意味します。したがって、「104B」は「104 Billion」を表し、日本語では「1,040億」になります。つまり、「B」は「十億」の単位として使われます。このような表記法は、特に経済やビジネスの世界でよく使われます。ただし、この表記法は国や地域によって異なる場合がありますので、注意が必要です。例えば、一部のヨーロッパの国では「Billion」は「兆」を意味します。そのため、文脈によって「B」の意味が変わることがあります。具体的な数値を理解するためには、その数値がどの国や地域の表記法に基づいているかを確認することが重要です。この情報がお役に立てれば幸いです。他に何かご質問がありましたら、お気軽にどうぞ。😊

LLMにおけるパラメーター数とは何を意味するのか?

Copilotに聞く

LLMにおいて、パラメーター数は何を意味しますか?

回答

LLM(Large Language Models、大規模言語モデル)における「パラメーター数」は、そのモデルが持つ内部変数の数を指します¹²。これらのパラメーターは、モデルが学習過程で調整され、その振る舞いを決定します¹。

パラメーターは、モデルが学習する際に調整される変数で、これらがモデルの振る舞いを決定します¹。適切なパラメーターの設定は、AIモデルが与えられたタスクを効率的に、かつ正確に実行するために不可欠です¹。

パラメーター数が多いほど、モデルは複雑な関数を表現でき、より高度な言語処理能力を発揮する可能性があります²。しかし、パラメーター数が増えると、モデルのトレーニングに必要な計算リソースと時間も増大し、過学習のリスクも高まります¹。

例えば、1000億のパラメータを持つモデルは、1000億個の "ニューロン" を持つ人間の脳に例えることができます²。

したがって、LLMのパラメーター数は、そのモデルの「表現力」を示す指標となります²。この情報がお役に立てれば幸いです。他に何かご質問がありましたら、お気軽にどうぞ。😊

ソース: Bing との会話 2024/5/16 (1) 【LLM】パラメーターとは?AIの性能は何で決まるのか | WithAI. https://withai.co.jp/llmparameter/. (2) LLMのパラメータ数、学習データ量ってなに? #LLM - Qiita. https://qiita.com/ymgc3/items/a8997b152b0ccda90eb8. (3) ~前編~【徹底解説】LLM(大規模言語モデル)とは?基礎 .... https://mobilus.co.jp/lab/chatbot/llm-1/.

Command R(+)が、大容量メモリを搭載したApple SiliconなMacでも動く…?

そしてこれにより盛り上がっているのがMac界隈だ。Apple SiliconなMacは、メモリに128GB(最大192GB)を搭載可能。Apple Siliconはアーキテクチャ的にメモリとVRAMは同じなので、アプリ使用領域を除いても100GB以上をVRAMとして使うことが可能なのだ。加えてMLX(Apple機械学習フレームワーク)でこの、104B Command R+も作動するので、界隈ではわちゃわちゃしてるというわけだ。

ほほう。それは知らんかった。 500万円もする64GB超のGPUメモリを持つグラフィックカードを買わなくてもいいのか。

メモリ128GBのApple SiliconなMacは、いくらなのか?

とは言え、128GB(もしくは96GB)のMacもちょっと欲しくなってきた。調べると「Mac Studio」のM2 Ultra/1TB/128GB構成では70万円オーバー、M2 Max/512GB/96GBの構成で44万円オーバー。まぁ、確かにNVIDIAGPUを複数枚使うよりはお手軽なのだが……(笑)。

70万円、安い!!…のか?

ただし、グラフィックカード1枚で300万~500万円するよりはずっと安く済む、ということが分かりました。

ローカルインストールにこだわらなければ

 さすがに104Bにもなると、先に書いた128GB搭載Mac以外(4bit版だと80GB以上で動くらしい)、ローカルではどうにもならないので、素直にCohereにアカウントを作り、API Keyを発行。VSCode拡張機能CodeGPTをインストールし、そこでプロバイダ / Cohere、モデルにCommand R+を選択、コードを書く時の補助に使ってっみることにした。

 ちなみに気になる料金はProduct正式リリースまでは無料とのこと。

ちなみに、サーバー上で実行する形態であれば、アカウントを作って無料で「Command R(+)」を使用することができるようです。

まとめ

  • 「Command R(+)」は「104B」(1,040億)ものパラメーター数を持っており、それはモデルの「表現力」がとても高いことを意味する。
  • 表現力が高い「Command R(+)」をローカルで動かせば、表現の規制などに引っかかることなく、独占的にAIを利用できる。しかも無料で。
  • メモリ128GBのApple SiliconなMacがあれば、ローカルで「Command R(+)」が動く。
    • 70万円オーバーの費用をかければ手に入る。(「Mac Studio」のM2 Ultra/1TB/128GB構成で。)
    • NVIDIAGPUを複数枚使うよりはお手軽」とのこと。
  • サーバー上で実行する形態であれば、アカウントを作って無料で「Command R(+)」を使用することができる。

ローカルAI「Command R+」の導入とそのコスト

Command R+のシステム要件を確認しているところ

はじめに

まるで“いけない話ができるChatGPT” ローカルAI「Command R+」の爆発的な可能性 という記事を読んで、自分のPCでもローカルAI「Command R+」を動作させられないか、興味を持ちました。以下では、その導入方法と必要なハードウェアについて調査した結果をまとめています。

Command R+のシステム要件

プロンプト

PCローカル環境に、Command R+を導入する方法を知りたいです。まず、私のPCでCommand R+が動作する性能があるかどうか、確認する方法を教えてください。

回答

Command R+を動作させるためには、以下のシステム要件が必要です³⁴:

  • GPUメモリ:64GB以上
  • システムの空きメモリ:64GB以上
  • ディスクの空き容量:約64GB(モデルファイルのサイズによる)

これらの要件を満たしているかどうかを確認するには、以下の手順を実行します:

  1. GPUメモリNVIDIAの場合、nvidia-smiコマンドを使用してGPUのメモリを確認できます。
  2. システムの空きメモリfree -hコマンドを使用してシステムの空きメモリを確認できます。
  3. ディスクの空き容量df -hコマンドを使用してディスクの空き容量を確認できます。

これらの要件を満たしている場合、Command R+をインストールすることができます。インストール方法は以下の通りです¹:

# transformersをインストール
pip install 'git+https://github.com/huggingface/transformers.git'

# Command R+をダウンロード
from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = "CohereForAI/c4ai-command-r-plus"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

これで、Command R+がローカル環境で使用できるようになります。ただし、このモデルは非常に大きいため、上記のシステム要件を満たしていることを確認してください。また、このモデルは非常に高度な機能を持っており、多くのリソースを消費しますので、適切なハードウェアと十分な冷却設備を持つことを確認してください。¹。

ソース: Bing との会話 2024/5/14 (1) Cohere For AI Command R+について #LLM - Qiita. https://qiita.com/tadokuno/items/2acc355a26007bc41042. (2) Cohere Command R+ 4bit modelをローカル環境で動作させてみた. https://qiita.com/hisashi-ito/items/9a056674dea42a19b0d2. (3) CohereForAI/c4ai-command-r-plus · Hugging Face. https://huggingface.co/CohereForAI/c4ai-command-r-plus. (4) Command R+. https://docs.cohere.com/docs/command-r-plus. (5) RとRcmder(R コマンダー)の導入方法(Windows版 .... https://yoshihiko-nakata.com/r/2022/10/21/1313. (6) MLX で Command R+ を試す|npaka - note(ノート). https://note.com/npaka/n/n9635d55773ef. (7) undefined. https://github.com/huggingface/transformers.git.

Command R+の導入に必要な費用

プロンプト

私のPCのメモリサイズは、16GBでした。GPUメモリは8GBでした。Command R+を動作させるために、追加で必要となるハードウェアの総額を概算してください。

回答

Command R+を動作させるためには、64GBのシステムメモリと64GBのGPUメモリが必要です。現在のシステムメモリが16GB、GPUメモリが8GBであるため、それぞれ48GBと56GBの追加メモリが必要となります。

以下は、それぞれのメモリの概算価格です:

  • システムメモリ:64GBのDDR4メモリの価格は約¥25,959⁴です。しかし、既存の16GBを使用できる場合、追加で必要な48GBのメモリは、3つの16GBメモリモジュールで構成できます。その場合、概算価格は3 * ¥25,959 = ¥77,877となります。
  • GPUメモリ:64GBのGPUメモリを持つグラフィックカードの価格は約¥566,800¹です。しかし、既存の8GBを使用できる場合、追加で必要な56GBのGPUメモリを持つグラフィックカードは、市場にはほとんど存在しないため、新たに64GBのGPUメモリを持つグラフィックカードを購入する必要があります。

したがって、Command R+を動作させるためには、追加で約¥644,677(¥77,877 + ¥566,800)のハードウェアが必要となります。ただし、これらの価格は参考のためであり、実際の価格は販売店や地域により異なる可能性があります。また、PCのマザーボードが追加のメモリとグラフィックカードをサポートしているかどうかも確認する必要があります。¹⁴。

ソース: Bing との会話 2024/5/14 (1) 価格.com - メモリー 比較 2024年人気売れ筋ランキング. https://kakaku.com/pc/pc-memory/itemlist.aspx?pdf_Spec301=64-. (2) 価格.com - メモリ容量:64GB~のゲーミングPC 比較 2024年 .... https://kakaku.com/pc/gaming-pc/itemlist.aspx?pdf_Spec315=64-. (3) 価格.com - メモリ容量(1枚あたり):64GBのメモリー 比較 2024年 .... https://kakaku.com/pc/pc-memory/itemlist.aspx?pdf_Spec301=64. (4) 価格.com - メモリ容量:64GB~のデスクトップパソコン 比較 2024 .... https://kakaku.com/pc/desktop-pc/itemlist.aspx?pdf_Spec315=64-. (5) Amazon.co.jp: 64GB - PC用メモリ / PCパーツ: パソコン・周辺機器. https://www.amazon.co.jp/PC%E7%94%A8%E3%83%A1%E3%83%A2%E3%83%AA-64GB-PC%E3%83%91%E3%83%BC%E3%83%84/s?rh=n%3A2151941051%2Cp_n_feature_four_browse-bin%3A2225480051. (6) 64gb - USBメモリーの通販・価格比較 - 価格.com. https://kakaku.com/search_results/64gb/?category=0001_0048.

回答内容の精査

Copilotの回答には怪しい部分があるようです。確認してみます。

システムメモリ

64GBのDDR4メモリの価格は約¥25,959です。

この情報は正しいようです。価格.comで、64GBのDDR4メモリの最安値が約¥25,959とのことです。

しかし、既存の16GBを使用できる場合、追加で必要な48GBのメモリは、3つの16GBメモリモジュールで構成できます。その場合、概算価格は3 * ¥25,959 = ¥77,877となります。

この部分は、完全に間違っています。この価格だと、64GB * 3 = 192GBということになってしまいます。

64GBのシステムメモリは、「買えば何とかなる」ということが分かりました。

GPUメモリ

64GBのGPUメモリを持つグラフィックカードの価格は約¥566,800です。

リンク先を見ると、「メモリ64GBのゲーミングPC」とあります。この情報も間違っている可能性が高いです。

詳しく見てみると、最も高い「メモリ64GBのゲーミングPC」でも、搭載されているGPUメモリは24GBでした。 この情報は参考になりませんね。

3枚のグラフィックカードで代替できないか?

プロンプト

64GBのGPUメモリを持つグラフィックカードが販売されていないようなのですが、24GBのGPUメモリを持つグラフィックカードを3枚購入すれば、Command R+を動作させることができますか?

回答

一般的に、複数のグラフィックカードのメモリを合計して使用することはできません。各グラフィックカードは独立して動作し、それぞれのメモリは個別に管理されます。したがって、24GBのGPUメモリを持つグラフィックカードを3枚使用しても、それぞれのカードは24GBのメモリしか利用できません。

Command R+のような大規模なAIモデルは、一つのモデルが一つのGPUで動作するように設計されています。そのため、64GBのGPUメモリを必要とする場合、その全てが一つのGPUに存在する必要があります。

したがって、残念ながら24GBのGPUメモリを持つグラフィックカードを3枚使用してCommand R+を動作させることはできません。64GBのGPUメモリを持つグラフィックカードが必要となります。。

自力で64GBのGPUメモリを持つグラフィックカードを調べる

価格.comで絞込検索をかけたところ、24GB以上のグラフィックカードが販売されていることが分かりました。

kakaku.com

大体の価格が判明しました。以下の通りです。

製品名 NVIDIA H100 NVL 94GB [PCIExp 94GB] NVIDIA H100 PCIE w/NVIDIA AI Enterprise 900-21010-0000-000 [PCIExp 80GB] NVIDIA H100 NVH100-80G [PCIExp 80GB] NVIDIA A40 NVA40-48G [PCIExp 48GB]
最安価格 ¥5,700,000 ¥5,687,500 ¥5,550,000 ¥3,225,000

この表は、価格.comで製品比較の表を出し、Excelに貼り付けたうえで不要な箇所を削除し、それをメモ帳にコピーし、最後にCopilotで「以下のタブ区切りの文章を、markdownの表形式に変換してください。」として、作成したものです。

なんと、300万~500万円以上かかることが分かりました!無理だ!

まとめ

関連する記事

muriwashinai.hatenablog.com

映画『桐島、部活やめるってよ』感想記事の作成過程:AIツールCopilotの活用

「映画『桐島、部活やめるってよ』感想」記事の、段落を整理しているところ

はじめに

muriwashinai.hatenablog.com

「映画『桐島、部活やめるってよ』感想」の記事を、Copilotを使ってどのように書きあげていったのか、その過程を共有します。あらすじの作成、段落の整理、文章の校正と、それぞれの段階でCopilotを活用しました。

あらすじを作成する

まず初めに、感想を語る前提となる映画のあらすじを、Copilotで作成します。

プロンプト

映画「桐島、部活やめるってよ」の簡単なあらすじを教えてください。ネタバレはなしでお願いします。

回答

以下は、Copilotで生成したあらすじを抜粋したものです。

あらすじ:

いつもと同じ金曜日、学校内にはある噂が駆け巡っていました。それは、学校一の人気者であるバレー部のキャプテン、桐島が突然部活を辞めたことです。この出来事をきっかけに、各部やクラスの人間関係に徐々に歪みが広がりはじめ、それまで存在していた校内のヒエラルキーが崩壊していきます⁴。

ソース: Bing との会話 2024/5/12 (4) 桐島、部活やめるってよ : 作品情報 - 映画.com. https://eiga.com/movie/57626/.

感想を書く

感想なので、表現の正確さや段落は気にせずに、思いのままに書きます。

映画「桐島、部活やめるってよ」が、Amazonプライムビデオに入ったので、見てみました。

以下は、Copilotで生成したあらすじを抜粋したものです。

映画「桐島、部活やめるってよ」の簡単なあらすじを教えてください。ネタバレはなしでお願いします。

あらすじ:

いつもと同じ金曜日、学校内にはある噂が駆け巡っていました。それは、学校一の人気者であるバレー部のキャプテン、桐島が突然部活を辞めたことです。この出来事をきっかけに、各部やクラスの人間関係に徐々に歪みが広がりはじめ、それまで存在していた校内のヒエラルキーが崩壊していきます⁴。

ソース: Bing との会話 2024/5/12 (4) 桐島、部活やめるってよ : 作品情報 - 映画.com. https://eiga.com/movie/57626/.

最初にこの映画を見て気づくのは、桐島は出てこないということです。神木隆之介君は、桐島ではなく映画部の部長、前田を演じています。しかし群像劇ということもあり、前田は主人公なのか?いまいち判然としません。

この映画は、わかりやすくスクールカーストを描いています。

クラスにイケてる女子と男子のグループと、そうでない者のグループがあります。彼らはお互いに、ろくに話す機会すらありません。

また、運動部>文化部というヒエラルキーもあります。映画部には専用の部室が無く、剣道部の部室の一角に作られています。

映画部の前田君たちは、映画を撮ることに情熱を燃やしています。しかし、作品が評価されたことを全校集会で紹介されても、生徒たちからは失笑を買います。

本来、やりたいことがあって一生懸命取り組んでいる人たちが、虐げられています。その一方で、やりたいこともなく、帰宅部でフラフラしている男女が、イケてるグループとしてトップに君臨しています。

野球部の宏樹(東出昌大)は部活をサボり、イケてるグループとつるんでいます。宏樹は、放課後に帰宅部とつるむときも、野球部のカバンを持ったままです。

彼の前に、野球部の部長がたびたび現れます。野球部の部長は、野球に情熱を燃やしています。が、宏樹に対して強く「戻ってこい」とは言いません。

この映画は最後に、運動部と文化部、イケてる者とそうでない者、ある人と前田(神木隆之介)の対話が描かれます。

そこにはやはり、ヒエラルキーが見て取れます。ヒエラルキーは、イケてる者だけじゃなく、そうでない者の側からも作り出しているように感じられます。

その結果、最後に夕陽のスポットライトを浴びているのは、映画部の前田ではありません。 前田が回す八ミリカメラに順光で映るのは…。

映画は非常にさわやかな印象で終わります。

人生は、無理だと言いながらも何かをやり続け、ちょっぴり信念を持つことが大事、ということだと思います。

12年前の映画ですが、間違いなく青春映画の傑作です。

文章の構成と段落の整理

自分で書いたままの文章でも良いですが、Copilotを使って、文章の校正と段落の整理をし、読みやすく仕上げます。

プロンプト

以下は、私のブログに掲載記事です。文章の構成と、段落の整理をしてください。

<ここに自分で書いた感想を貼り付ける。>

回答

以下は、文章の構成と段落の整理を行ったブログ記事です。


映画「桐島、部活やめるってよ」の感想

Amazonプライムビデオで「桐島、部活やめるってよ」を視聴しました。この映画は12年前の作品ですが、間違いなく青春映画の傑作です。

映画のあらすじ

いつもと同じ金曜日、学校内にはある噂が駆け巡っていました。それは、学校一の人気者であるバレー部のキャプテン、桐島が突然部活を辞めたことです。この出来事をきっかけに、各部やクラスの人間関係に徐々に歪みが広がりはじめ、それまで存在していた校内のヒエラルキーが崩壊していきます。

映画の登場人物と役割

最初にこの映画を見て気づくのは、桐島は出てこないということです。神木隆之介君は、桐島ではなく映画部の部長、前田を演じています。しかし群像劇ということもあり、前田は主人公なのか?いまいち判然としません。

スクールカーストの描写

この映画は、わかりやすくスクールカーストを描いています。クラスにイケてる女子と男子のグループと、そうでない者のグループがあります。彼らはお互いに、ろくに話す機会すらありません。また、運動部>文化部というヒエラルキーもあります。映画部には専用の部室が無く、剣道部の部室の一角に作られています。

映画部の情熱と評価

映画部の前田君たちは、映画を撮ることに情熱を燃やしています。しかし、作品が評価されたことを全校集会で紹介されても、生徒たちからは失笑を買います。本来、やりたいことがあって一生懸命取り組んでいる人たちが、虐げられています。その一方で、やりたいこともなく、帰宅部でフラフラしている男女が、イケてるグループとしてトップに君臨しています。

野球部の宏樹と部長

野球部の宏樹(東出昌大)は部活をサボり、イケてるグループとつるんでいます。宏樹は、放課後に帰宅部とつるむときも、野球部のカバンを持ったままです。彼の前に、野球部の部長がたびたび現れます。野球部の部長は、野球に情熱を燃やしています。が、宏樹に対して強く「戻ってこい」とは言いません。

映画の結末

この映画は最後に、運動部と文化部、イケてる者とそうでない者、ある人と前田(神木隆之介)の対話が描かれます。そこにはやはり、ヒエラルキーが見て取れます。ヒエラルキーは、イケてる者だけじゃなく、そうでない者の側からも作り出しているように感じられます。その結果、最後に夕陽のスポットライトを浴びているのは、映画部の前田ではありません。前田が回す八ミリカメラに順光で映るのは…。

映画のメッセージ

映画は非常にさわやかな印象で終わります。人生は、無理だと言いながらも何かをやり続け、ちょっぴり信念を持つことが大事、ということだと思います。


以上、映画「桐島、部活やめるってよ」の感想でした。この映画は、青春映画の傑作と言えるでしょう。ぜひ、ご覧になってみてください。

文章の校正

各段落に章タイトルが入り、読みやすくなりました。

最初の章には「この感想では、映画の内容に触れていますが、ネタバレはしないようにしています。」を追記しました。

先ほどのプロンプトで、「文章の構成と、段落の整理をしてください」としました。これは誤りで本当は、「文章の校正と段落の整理をしてください」という意図でした。

改めて、文章の校正を行います。

プロンプト

以下は、私のブログに掲載する映画「桐島、部活やめるってよ」の感想記事です。この記事の文章を校正した完全なバージョンを作成してください。

<ここに、文章の構成と段落が整理済みの、自分で書いた感想を貼り付ける。>

回答

以下は、校正した「桐島、部活やめるってよ」の感想記事です。

映画「桐島、部活やめるってよ」感想

Amazonプライムビデオで「桐島、部活やめるってよ」を視聴しました。この映画は2012年の作品であり、青春映画の傑作と言えます。この感想では、映画の内容に触れていますが、ネタバレは避けています。

映画のあらすじ

いつもと同じ金曜日、学校内にはある噂が広まっていました。それは、学校一の人気者であるバレー部のキャプテン、桐島が突然部活を辞めたというものです。この出来事をきっかけに、各部やクラスの人間関係に徐々に歪みが生じ、それまで存在していた校内のヒエラルキーが崩壊していきます。

映画の登場人物と役割

この映画を初めて見ると、桐島が登場しないことに気づきます。神木隆之介は、桐島ではなく映画部の部長、前田を演じています。しかし、群像劇の性質上、前田が主人公であるかどうかは明確ではありません。

スクールカーストの描写

この映画は、スクールカーストを明確に描いています。クラスには、人気のある男女のグループと、そうでない者のグループが存在します。彼らはお互いに、ほとんど話す機会がありません。また、運動部と文化部の間には明確なヒエラルキーが存在します。映画部には専用の部室がなく、剣道部の部室の一部を利用しています。

映画部の情熱と評価

映画部の前田たちは、映画制作に情熱を注いでいます。しかし、作品が評価され、全校集会で紹介されても、生徒たちは失笑します。本来、自分のやりたいことに一生懸命取り組んでいる人々が、蔑まれています。その一方で、特にやりたいこともなく、帰宅部で過ごしている男女が、人気のあるグループとしてトップに立っています。

野球部の宏樹と部長

野球部の宏樹(東出昌大)は部活をサボり、人気のあるグループと遊んでいます。宏樹は、放課後に帰宅部と遊ぶときも、野球部のバッグを持ち続けています。彼の前には、野球部の部長が度々現れます。野球部の部長は、野球に情熱を注いでいますが、宏樹に対して強く「戻ってこい」とは言いません。

映画の結末

この映画は最後に、運動部と文化部、人気のある者とそうでない者、ある人と前田(神木隆之介)の対話を描いています。そこでは、ヒエラルキーが明確に見て取れます。ヒエラルキーは、人気のある者だけでなく、そうでない者の側からも形成されているように感じられます。その結果、最後に夕陽のスポットライトを浴びているのは、映画部の前田ではありません。前田が回す八ミリカメラに映るのは…。

映画のメッセージ

映画は非常に爽やかな印象で終わります。人生は、無理だと言いつつも何かを続け、少しの信念を持つことが大切だというメッセージが込められています。


以上、映画「桐島、部活やめるってよ」の感想でした。この映画は、青春映画の傑作と言えます。ぜひ、ご覧ください。

手直しをして完成させる

  • 章タイトル「映画「桐島、部活やめるってよ」感想」を、「はじめに」に書き換えます。
  • 校正されすぎた文章を、原文に戻します。
    • 「人気のある者」→「イケてる者」
    • 帰宅部と遊ぶとき」→「帰宅部とつるむとき」
  • 校正された結果、ニュアンスが違うと思った元の文章を、完全にリライトします。
    • 結末の「~何かを続け、少しの信念を持つことが大切だというメッセージが込められています。」の部分です。

完成した記事はこちらです。 muriwashinai.hatenablog.com

まとめ

この記事では、映画「桐島、部活やめるってよ」の感想を書く過程をCopilotを使ってどのように進めていったかを共有しました。まずは映画のあらすじを生成し、その後、自由に感想を書きました。その感想をさらに整理し、段落ごとに構成を整え、最後に文章全体の校正を行いました。

Copilotの活用により、映画のあらすじの生成から感想の整理、そして校正まで、一貫した作業をスムーズに進めることができました。

しかし、完全にAIに頼るのではなく、自分の言葉で感想を述べ、それをAIが補完するという形が、最も自然で良い結果を生むと感じました。