ChatGPT と大規模な言語モデルは、さまざまな用途に非常に役立ちますが、企業を代表してカスタマー サービス担当者として行動することは、これらの用途の 1 つではありません。 モデルがシボレー タホを 1 ドルで販売しているのか、運送会社に関する情報を想像しているのかにかかわらず、このテクノロジーは潜在的なリスクを念頭に置いて構築されておらず、少なくとも特定のタスクに必要なガードレールを備えていません。 エア・カナダは、カナダ裁判所による最近の判決を受けて、この教訓をつらい思いで学んだようだ。
バレンタインデーに、モファット対エア・カナダ事件に関するカナダの少額訴訟の最終判決が民事解決裁判所のウェブサイトに掲載されました。 文脈としては、2022 年 11 月にジェイク モファットさんは祖母を亡くし、葬儀に飛行機で行かなければなりませんでした。 このプロセスにより、彼らは航空運賃を買い回り、エア・カナダのウェブサイト上のチャットボットを活用し、モファット氏が「忌引運賃を遡って申請」できることを示唆した。 しかし、そうではなく、エア・カナダは忌引運賃を遡及的に適用しないことが判明した。 そのため、モファット氏は、エア・カナダは通常の航空運賃と主張されている忌引き航空券の差額である880ドルの航空券代金の一部を返金しなければならないと主張した。
Advertisement
もちろん、エア・カナダはモファット氏に対し、チャットボットが情報で誤解を与えたため、航空運賃の遡及的な払い戻しはできないと説明した。 さらにエア・カナダは、「同社の代理店、使用人、代表者のいずれか（チャットボットを含む）が提供した情報については責任を負うことはできない」と主張した。 開示の背後にいる法廷メンバー、クリストファー・C・リバーズ、 提案された 「事実上、エア・カナダはチャットボットが独自の行動に責任を負う別個の法人であることを示唆している。」
しかし、この議論は現実的には理にかなっていないため、法廷はこの件でモファット側についた。 そのため、エア・カナダはモファット氏に対し、旅行と法廷手続きに関連した損害賠償、利息、手数料を含む総額812.02ドルの支払いを命じられた。 もちろん、これはチャットボットとチャットボットが提供する情報に関して興味深い前例も作ります。 おそらく、1 ドルの車を手に入れようとする人々など、同じ性質の事例がさらに増えるだけでなく、チャットボットや大規模な言語モデルがより慎重に実装されることになるでしょう。