FLINTERS Engineer's Blog

FLINTERSのエンジニアによる技術ブログ

ChatGPT4oとNotebookLMを比較してみた

こんにちは。FLINTERS 高嶋です。

本投稿は梅雨にも負けないFLINTERSブログ祭りの記事になります。

先日Googleから発表されたNotebookLMが話題になっています。
アップロードした文章のソースガイドを見ながら自由に質問して、しかも回答にガイドを示してくれるということで非常に便利に見えますが、実際のところどれくらいの能力があるのかをChatGPT4oと比較してみたいと思います。 それぞれの利用方法に関しては詳しい記事が世の中にあふれていると思いますので、今回は割愛します。

質問に利用する文章

私自身がある程度詳しくて、あまり文量が多くなく、検証が楽なものとしてたまたまデスクトップにあった写真を撮る際に使うストロボのGodoxのTT600の日本語マニュアルを例に検証してみたいと思います。 ファイルは以下から入手できます。 https://godox.com/static/upload/file/20230818/1692345632942022.pdf

質問内容

実際の利用で僕が困った点や、スペックに関する内容を聞いていきます。
具体的には以下の内容です。
1.ストロボからチャージが完了した音がでるようになってしまったのですが、ミュートできますか?
1-2.(ブザー機能をオフにするためにはどうすればいいですか?)
2.ストロボのフロント部分の補助ライトはどのようにけせばいいですか?
3.TT600のガイドナンバーは何ですか?
4.ハイスピードシンクロは利用できますか?
5.ワイヤレス撮影は何mまでカバーできますか?
6.フルパワー発光は何回できますか?
7.ディスプレイにE2と表示されている場合、どうすればいいですか?

回答内容

NotebookLM

Q1.

NotebookLM Q1回答

Q1-2.

NotebookLM Q1-2回答

Q2.

NotebookLM Q2回答

Q3.

NotebookLM Q3回答

Q4.

NotebookLM Q4回答

Q5.

NotebookLM Q5回答

Q6.

NotebookLM Q6回答

Q7.

NotebookLM Q7回答

ChatGPT4o

Q1.

ChatGPT4o Q1回答

Q1-2.

ChatGPT4o Q1-2回答

Q2.

ChatGPT4o Q2回答

Q3.

ChatGPT4o Q3回答

Q4.

ChatGPT4o Q4回答

Q5.

ChatGPT4o Q5回答

Q6.

ChatGPT4o Q6回答

Q7.

ChatGPT4o Q7回答

感想

NotebookLMは文章のどこに根拠を書いてあるのかをたどりやすいという点が強そうです。 一方で質問1,2に関しては記載されていないという回答であり、こちら側の意図をくみ取って適切な回答を返すという点ではChatGPT4oのほうが圧倒的であると感じる一方で、具体的な操作方法に関してはNotebookLM1-2の回答が優秀であると感じます。

質問3,4,5,6に関しては説明書に書いてある通りの内容を拾ってこれるかどうかで、これはどちらも特に問題ありません。

質問7に関してはChatGPT4oは何をすればいいかを答えている一方で、その原因にまでは答えていないのでそこはNotebookLMのほうが親切かなとも思います。
付け加えると、ChatGPT4oの回答は電池を抜いて放置しておけば熱が収まるので結果としては間違っていませんが、コンデンサの放電を待っているわけではないので正確ではありません。

現状ChatGPT4oのほうがドキュメントに記載されている用語で適切に質問できないのであれば向いている、ある程度ドキュメントの内容に詳しくて正しい質問ができればNotebookLMがかなり強力といった感じの感想です。
なお、ChatGPT4oは上記の質問をし終わった時点でトークンが尽きましたが、NotebookLMは今のところ無料であるためコスト面は考えなくていいのは大きいですね。

結果

もっと長い文章であれば違った結果になる可能性もありますが、10ページ程度のマニュアルで比較した場合は以上のような結果となりました。 NotebookLMもChatGPT4oもこれからもどんどん進化していくと思いますが、NotebookLMの試みは面白いのでしばらく様子を見ていきたいです。