セキュリティ上の課題も？：マイクロソフト、自分の声をクローニングできるTeams向け新AI通訳機能について発表

佐々山 Tacos

2024.11.20

セキュリティ上の課題も？：マイクロソフト、自分の声をクローニングできるTeams会議向け新AI通訳機能について発表

TechCrunch – November 19, 2024

マイクロソフトは火曜、米国で開催中のイベント「Microsoft Ignite 2024」において、Microsoft Teams向けの新たなAIツール「Interpreter in Teams」を発表。これは、Teams会議出席者の声のクローン音声を、さまざまな言語で作成できるものだという。人間の通訳者を雇う手間やコストの削減に繋がる画期的な機能にも思えるが、ディープフェイク作成のために悪用される可能性が懸念されるなど、セキュリティ上の課題も指摘されている。

Interpreter in Teamsとは？

Interpreter in Teamsは、2025年初頭にリリースが計画されているAI同時通訳機能。このボイスクローニング機能により、Teamsミーティングに出席する人々の発する音声は別言語に訳され、スピーカー自身が自分の話している内容を別言語へ同時通訳しているかのような、本人の声にそっくりのクローン音声が作成される。例えば自身がスペイン語話者で、会議の相手が英語話者だった場合、この機能を使用して通訳後の言語に英語を指定すると、自分自身はスペイン語で話していながらも、相手はこちらが自然な英語を話しているかのような感覚で発言内容を聞くことができるようになる。

＜Interpreter in Teamsのデモ動画＞

＜Interpreter in Teamsの概要＞

会議中にリアルタイムの音声翻訳を提供する機能。
自らの話し声を使って、別言語で話しているかのようなシミュレートを行うことができる。
シミュレート可能な言語は以下の9つ：英語、フランス語、ドイツ語、イタリア語、日本語、韓国語、ポルトガル語、中国語（マンダリン）、スペイン語。
Microsoft 365のサブスクリプション登録者のみが使用できる予定。
このツールに生体データは保存されない。
音声に「自然に現れ出る」もの以上の感情的要素をクローン音声に追加することはない。
Teamsの設定から無効化も可能。

セキュリティ上の課題：ディープフェイクへの懸念

近年、ソーシャルメディアにはさまざまなディープフェイクが出回るようになり、偽情報と真実の見極めが困難になりつつある。今年だけでも、米バイデン大統領やテイラー・スウィフト氏、カマラ・ハリス副大統領などに見せかけたディープフェイク映像が作成され、閲覧数やシェア数は数百万件に達したという。

またディープフェイクは偽情報やプロパガンダなどの影響力行使キャンペーンだけでなく、企業や個人をターゲットとした詐欺行為にも使われることがある。例えば今年2月には、ある企業の従業員がディープフェイクを利用してビデオ会議に出席した詐欺師に騙され、送金依頼に従って2,500万米ドル以上を送金してしまった事件が報じられた。

詳しくはこちらの記事で：ディープフェイクのビデオ会議に騙された従業員が2,500万ドルを送金

現時点までに明かされている情報を踏まえれば、Interpreter in Teamsはボイスクローニングを比較的狭い範囲で採用した機能であるとみられる。しかし、だからといって悪用される恐れが排除されるわけではないとTechCrunchは指摘。例えば、悪意ある第三者がInterpreterにミスリーディングな音声（誰かが銀行口座の情報を要求している音声など）を聞かせ、ターゲットの第一言語バージョンのクローン音声を入手するということも考えられるという。

またマルウェアリサーチ集団Vx-UndergroundはXのポストの中で同機能に触れ、「サティア・ナデラ（マイクロソフト社CEO）は脅威アクターとレッドチームメンバーにとって文字通りのVIPだ」と発言。北朝鮮のアクターに悪用される可能性があることも示唆しつつ、「新機能を追加するごとに、彼ら（マイクロソフト）は企業環境（そして潜在的にはホームユーザー）における脅威ランドスケープを拡大している」とも付け加えた。

マイクロソフトといえば今年前半、AI機能「Windows Recall」を発表するもセキュリティ研究者などからプライバシーやセキュリティ上の問題点を指摘され、リリースの延期を余儀なくされていたことも記憶に新しい。今回のInterpreter in Teamsに関しても悪用の可能性を指摘する声が上がっているが、こうした懸念にマイクロソフトがどう応えるのか、今後の動向が注目される。