- 意見と決定の混同、保留事項の除外は両モデルとも正確だった
- GPT-4oは条件付きの議題をToDoと保留事項の両方に重複記載していた
- 曖昧な担当者に対し、GPT-4oは推測、Geminiは「担当者不明」で保持と対応が分かれた
議事録AIを評価するとき、多くの人は「文字起こしの精度」だけを見ます。しかし実務で本当に重要なのは、その先の「会話の中から何が決まったかを正しく拾えるか」です。文字はすべて正確に起こせていても、意見と決定を混同したり、保留になった話を決定事項に混ぜてしまえば、議事録としては失格です。
前回の検証では文字起こしそのものの精度を比較しましたが、今回はその先の工程——決定事項・ToDoの抽出——をGPT-4oとGeminiで比較しました。
検証方法:あえて難所を仕込んだテスト会議
実際の会議録音では「モデルが間違えたのか、そもそも会話が曖昧だったのか」の切り分けが難しくなります。そこで今回は、抽出の難所を意図的に盛り込んだテスト用の会議シナリオを用意しました(実在の会議ではありません)。
- 一度出た決定(A社に発注)が、後から覆る(B社に変更)
- 決定っぽく聞こえるが実際は個人の意見(「個人的にはA社の方が好き」)
- 結論を出さずに保留にした論点(イベント会場)
- 担当者が会話の流れから推測はできるが、明示的には名指しされていないToDo
- 「時間があれば」という条件付きの弱いコミットメント
- 外部承認待ちで、まだ確定していない条件付きの決定
このテキストをGPT-4oとGeminiに同じ指示文(「決定事項」「ネクストアクション」「保留事項」に分けて抽出、曖昧なものは勝手に補わない)で渡し、結果を比較しました。
結果:どちらも基本は正確、ただし細部で明確に差が出た
一致していた点
覆った決定(最終的にB社に決まったこと)、意見と決定の混同、保留事項の除外——この3点は両モデルとも正確でした。個人の意見を決定事項として誤抽出することも、覆される前の古い決定を最終結論として書いてしまうこともありませんでした。
差が出た点1:曖昧な担当者への対応
「A社への断りの連絡」という発言のあと、次の発言者が「承知しました」と応じる場面がありました。担当者は名指しされていませんが、会話の流れからは推測できる状況です。
- GPT-4o:「佐藤がA社にお断りの連絡を入れる」と、会話の流れから担当者を推測して補完しました
- Gemini:「A社に丁重にお断りの連絡を入れる。(担当者不明)」と、明示されていない担当者を補わずそのまま保持しました
どちらが正解というより、トレードオフの問題です。GPT-4oの補完は多くの場合で便利ですが、推測が外れれば誤った担当者のまま議事録が確定するリスクがあります。Geminiの「担当者不明」は安全ですが、後から人が確認して埋める手間が残ります。
差が出た点2:条件付き議題の扱いに一貫性の乱れ
「マーケティング予算の増額」は、上長の承認待ちで確定していない条件付きの議題でした。
- GPT-4o:この項目をネクストアクションと保留事項の両方に重複して記載していました。「承認が下りたら進める」という同じ内容が2箇所に出てくる形で、内部的な一貫性が乱れています
- Gemini:保留事項として1箇所にのみ、条件(承認待ち)を添えて記載していました
条件付きの議題を「これから何をするか」と「まだ決まっていないこと」のどちらに分類するかは判断が分かれるところですが、同じ項目を2箇所に重複記載するのは、そのまま議事録として配布すると読み手を混乱させる欠点です。
まとめ:抽出の「安全側への倒し方」がモデルで違う
今回の検証で見えたのは、単純な精度の差というより、曖昧な情報にどう向き合うかという設計思想の違いです。
- GPT-4oは会話の文脈から積極的に推測・補完する。便利だが、推測が外れるリスクと、条件付き項目の重複記載という一貫性の乱れが見られた
- Geminiは明示されていない情報を保持したまま無理に埋めない。安全だが、後から人が確認する手間は残る
どちらの設計が良いかは用途次第です。ただし共通して言えるのは、AIが出した決定事項・ToDoをそのまま確定として使わず、曖昧な担当者や条件付きの項目だけは目を通す、という運用が、モデルを問わず安全だということです。
あわせて読みたい:
よくある質問
議事録AIは「決まったこと」と「意見」を正しく区別できますか?
今回のテストではGPT-4o・Geminiともに正しく区別できました。会議中に出た個人的な意見(『個人的にはA社の方が好き』等)を、実際に決定した内容と混同せずに除外できています。
担当者が会話の中で明示されていないToDoは、AIはどう扱いますか?
モデルによって対応が分かれました。GPT-4oは会話の流れ(直後の返答者など)から担当者を推測して補完する傾向があり、Geminiは明示されていない場合『担当者不明』のまま保持する傾向がありました。前者は便利ですが推測が外れるリスクもあり、後者は安全ですが後から人が補う手間が残ります。
この検証はどうやって行いましたか?
実際の会議録音ではなく、決定・保留・曖昧なToDo・意見と決定の混同など、抽出の難所をあらかじめ意図して盛り込んだテスト用の会議シナリオを作成し、GPT-4oとGeminiに同じ指示文で決定事項・ToDo抽出をさせて比較しました。
議事録AIを試してみませんか?
難しい設定は不要です。いつもの会議で、録音ボタンを押すだけ。面倒な議事録作成から解放されましょう。
iOS / Android 対応