目次

台風で飛行機が遅れ、到着後の予定が崩れていく。レストランの予約時間を変え、空港からの車も手配し直す。東京からサンフランシスコへ帰る途中にそんな状況を経験したTwilio CEOのKhozema Shipchandler氏は、「AIエージェントが代わりに対応してくれたら助かる」と語った。

予定変更の連絡を一件ずつ済ませるのは、たしかに面倒だ。やってほしいことを伝えれば、AIが予約先や交通手段に連絡して、変更をまとめて進めてくれる。便利さは想像しやすい。一方で、予約を変える権限が本当にあるのか、希望した内容を正しく伝えたのかも気になる。

Shipchandler氏が強調したのは、AIがどれほど賢いかだけではなかった。人間が顧客対応をしても、AIが担当しても、大事なのは相手から信頼を得ることだという。

会話の相手が人間とは限らない#

Shipchandler氏は、Twilioのプラットフォームが17年間にわたって、企業と顧客などの重要なコミュニケーションを支えてきたと説明した。電話やSMS、ビデオ通話、チャットといった機能を、企業のアプリケーションに組み込むためのクラウドAPI基盤だ。

その仕組みが、AIによって新しい段階に入りつつある。企業の顧客対応で、会話の相手が人間とは限らなくなったからだ。AIエージェントが問い合わせに答えたり、手続きを進めたりするなら、顧客とのやりとりを支える基盤が要る。さらに、相手のAIが何者で、どんな操作をする権限を持つのかを確かめる仕組みも必要になる。

同氏は、IDCが2029年までに企業内のAIエージェントが10億に達する可能性を予測していると紹介した。あくまで予測だが、顧客対応を担うAIが増える未来を考えるうえで、規模の大きさを示す数字ではある。

「代わりにやってくれる」には確認が要る#

飛行機の遅延に合わせ、レストランや車の予約を変更してもらう。こうした作業は、AIエージェントの活用例としてわかりやすい。ただし、実際に任せるなら、「予約を変更して」という一言だけで済むとは限らない。

たとえば、誕生日のディナーなら、予約時間を何時まで動かせるのか、人数や店の希望は変わらないのかを確かめる必要がある。車についても、到着時刻が変わっただけで手配先や乗車場所まで変えてよいのかは別の話だ。AIが予約先に連絡する前に、どこまで本人の意図を確認するかが問われる。

信頼できる顧客対応を考えるなら、少なくとも次の点を利用者が確かめられる形にしておきたい。

  • AIが何をする権限を持っているか
  • 依頼の内容をどう理解したか
  • 変更の連絡先や変更後の条件は何か
  • 手続きが完了したか、保留中か

これはTwilioの発言をそのまま要件にしたものではなく、紹介された話から考えられる実務上の確認事項だ。予約変更のように取り消しや費用が発生する手続きでは、AIが実行する範囲を先に決めておくのが現実的だろう。情報を集めるところまでは任せ、確定前に本人へ確認を求める方法もある。

賢さに加えて、文脈をくみ取る力#

Shipchandler氏は、生成AIが登場して以来、技術者はAIそのものを賢くすることに力を注いできたと振り返った。そのうえで、AIが状況に応じた文脈を理解し、人間と密接につながることも大切だと語っている。

顧客対応では、答えを返せるだけでは足りない。遅延した便の到着時刻が変わるたびに、すでに変更した予約をもう一度動かす必要があるかもしれない。誕生日の食事を楽しみにしている事情をふまえず、空いている時間だけを提示されても、利用者の希望に沿った対応とは言いにくい。

文脈をくみ取るとは、AIが気の利いた言葉を使うことだけではない。依頼の目的や変更の影響を踏まえ、わからない点を確認し、できたこととできていないことを区別して伝えることも含まれる。間違えたときに訂正できる窓口があるかどうかも、顧客が安心して任せられるかを左右する。

信頼は、対応の流れで確かめられる#

「人間であれAIであれ、信頼を得ることが大事だ」。今回の記事で紹介されたShipchandler氏の言葉の中心はここにある。AIの導入を考える企業にとって、信頼は抽象的なスローガンではなく、問い合わせから手続き完了までの流れで確かめるものだ。

たとえば導入前には、よくある依頼を数件選び、AIにどこまで対応させるかを分けてみるとよい。

  • 情報の案内や候補の提示
  • 本人確認が済んだ後の予約変更
  • 料金やキャンセル条件が変わる手続き
  • AIだけでは判断できない例外対応

後半の手続きほど、本人への確認や人間への引き継ぎを慎重に設計する必要がある。運用を始めたら、依頼の理解違い、途中で止まった手続き、担当者への引き継ぎが必要になった件数を記録する。具体的な評価方法は企業の業務によって変わるが、対応件数だけを追うと、利用者が困った場面を見落としやすい。

今回紹介された発言だけでは、Twilioがこうした確認手順をどのように実装しているかまではわからない。実際の導入を検討するなら、自社の顧客対応でAIができる操作、本人確認の方法、誤処理時の対応を個別に確認したい。

飛行機の遅延から始まる予約変更は、AIエージェントが役立つ場面をよく表している。同時に、誰の権限で何を変更したかが曖昧なままでは、便利さが不安に変わる。まずは社内の問い合わせを一つ選び、AIに任せる範囲と人間が確認するタイミングを書き出してみよう。

出典: https://japan.zdnet.com/article/35253598/

目次