AIで家族の声を複製し、誘拐を装って送金させる詐欺が起きています。米カリフォルニア州の女性は、娘の声に聞こえる助けを求める音声を聞いて約5時間にわたり指示に従い、メキシコへ計5,400ドル（約85万円）を送金しました。娘はその間、職場にいました。
音声クローンは、数秒の録音から本人に似た声を作る技術です。McAfeeの研究者は、3秒の音声から元の話者との一致度が85％のクローンを生成し、複数の音声ファイルで学習させた場合は95％に達したと報告しています。
被害は高齢者に限りません。Gallupの調査では、2025年に米国の成人約1,500万人が詐欺で金銭を失い、被害額は約680億ドル（約11兆円）に上りました。調査で報告された詐欺の12％にはAIまたはディープフェイクが使われていました。
知っている声が本人確認にならない
詐欺師は、SNSなどに投稿された動画や音声から声のサンプルを集め、家族や知人を装う音声を作ります。家族が事故に遭った、誘拐されたなどと緊急事態を伝え、すぐに金を送るよう求める手口です。
シンシナティ大学の研究者キンバリー・ヒュン氏は、知人に似た声を聞くと警戒が弱まり、話の内容を信じやすくなると説明しています。声への信頼が、偽の緊急連絡で判断を急がせる要因になります。
Gallupの調査では、詐欺被害率に年齢による差は見られませんでした。2024年には香港の多国籍企業で、従業員がCFOや同僚を装ったディープフェイクのビデオ通話を信じ、約2億香港ドル（約40億円）を送金しました。
数秒の音声を手掛かりに声を合成
音声合成の一方式であるゼロショット多話者TTSは、学習時に登録されていない話者の短い音声を手掛かりに、その人に似た音声を生成します。YourTTSの研究は、VITSを基盤にしたモデルで、話者の特徴を数値化した話者埋め込みを使って音声を合成する仕組みを示しました。
このモデルでは、話者埋め込みを音声生成の複数の処理段階に反映させます。研究チームは、多言語学習向けの構成も導入し、対象言語の話者データが限られる場合の音声合成を検討しました。
同研究では、学習データにない話者の声に近づけるため、1分未満の音声でモデルを追加学習させる方法も評価しています。McAfeeの実験で3秒の録音からクローンを作れた結果は、短い音声が声の特徴を取り込む手掛かりになることを示しています。
人の聞き分けにも限界
2026年の大規模聴取研究では、1,768人が138種類の音声合成・変換システムの音声を判定し、計35,532件の回答が集まりました。参加者が偽音声を見分けた正答率は71.2％、本物の音声を正しく判定した割合は64.1％でした。
この研究では、商用システムや自己回帰型言語モデルが生成した音声の正答率は61.3〜65.9％で、従来型の系列変換モデルやフローマッチング方式の75.4〜76.8％より低くなりました。比較対象の機械学習検出器は、全条件で94.5％以上の正答率でした。
研究結果では、偽音声を見破る人の正答率は2021年調査の72.9％から2026年には71.2％へほぼ変わらなかった一方、本物の音声を本物と判定する割合は72.7％から64.1％へ下がりました。
家族間の合言葉と折り返し確認
ヒュン氏は、家族や親しい人同士で秘密の合言葉を決め、緊急連絡時に本人確認に使う方法を勧めています。聞き覚えのある声だけを根拠に本人と判断せず、合言葉を別の確認手段にできます。
知らない番号から家族の危機を告げる電話が来た場合は、通話を切って本人へ直接かけ直す方法も示されています。
音声クローン製品を対象にしたConsumer Reportsの評価では、調査した6製品のうち4製品で、公開音声を使ったクローンを容易に作れました。対象製品はElevenLabs、Speechify、PlayHT、Lovoで、利用者の同意を技術的に確認せず、権利があるとチェック欄で申告させる方式でした。
一方、DescriptとResemble AIは、同意のないクローン作成を難しくする措置を取っていました。Consumer Reportsは、話者の同意確認や生成音声への電子的な印付けなどを、事業者向けの対策として挙げています。
