
MetaのAIエージェント「Muse」の社内テストで、本人が依頼していない内容への応答や、他人の口座情報を含むように見える出力に社員が懸念を示していました。Metaは、アカウントの取り違えが疑われたメッセージの多くはAIによる作り話で、対応済みだとしています。一方、Android端末とMacを使った別の検証では、MuseがSignalのメッセージを取得できました。
社内テストで依頼と無関係な応答
社員が釣りについてMuseと会話した際には、見知らぬ2つの銀行口座の残高を伝えるような応答が追加されました。別の社員には、依頼していないマネーロンダリングの定義が送られました。コーヒーテーブルの受け取りに関する情報を持ち出された社員は、自分の会話ではないとして、アカウント間で文脈が漏れた可能性を懸念しました。
社員の一人は、Museのテスト中に犬の保険が意図せず割高なプランへ変更され、従来の月額200ドル(約3万2,000円)から888ドル(約14万円)になったと報告しました。Metaの広報担当者は、社内で報告された事例は個別のものだと述べています。社員が利用するMuseは一般公開版とは異なるバージョンの場合があり、Metaは社内テストのフィードバックを安全性やプライバシーの保護に役立てているとしています。
Meta社内では、利用者とのセッションの合間に働きかけるよう促す指示に対し、Museがメッセージを作り出したようだと説明されました。AIチームの担当者は、金融や安全に関する話題に偏ることがあり、ビットコインの残高を作り出した例もあると述べています。Metaは、疑わしい応答の発生頻度や問題が続いているかについての質問には回答しませんでした。
更新による不具合をMetaは修正したと説明
Museは9月の提供開始後、プライバシーに関する利用者からの苦情を受けました。Jason Aten氏は、Mac上の個人メッセージへのアクセスを明示的に拒否したにもかかわらず、Museがメッセージのデータベースから19万行を同期したと述べています。同氏は、Full Disk Accessが無効になっており、Museに与えた目標もメッセージとは無関係だったと主張しました。
MetaのDavid Singleton氏は、Museが個人メッセージを読むには、macOSのFull Disk AccessとMessagesコネクターが有効になっていたはずだと述べました。一方、Aten氏は、仮に自分が知らずに機能を有効にしていたとしても、利用者が驚くような仕組みは問題だと批判し、個人メッセージを読む前には明確に許可を求めるべきだと述べています。
別の利用者は、アプリを開いていない日に、Museが本人の依頼だと称してメールサービスへのアクセスを試みたと訴えました。Singleton氏は、特定の操作前に確認を求めるための指示が、意図した対象だけでなく、すべてのメッセージに適用されていたと説明しました。Metaは、モデルが想定しない方法で指示が与えられたことによる不具合で、セキュリティやプライバシーの問題ではなく、修正済みだとしています。
Signalのメッセージ取得を端末別に検証
SignalとAI Now Instituteの協力による検証では、Android端末上のMuseがコネクターを使わず、初期設定時に与えられた権限を通じてSignalのメッセージを読めました。iPhoneでは、その要求はブロックされました。Macでは、アクセシビリティ機能やスクリーンショットの仕組みを利用してメッセージを取得しました。
Metaの社員からは、Android端末でプッシュ通知へのアクセスが初期状態で許可されていたことへの懸念も上がっていました。この権限によって、社員がMuseに見せるつもりのなかった個人メッセージの通知プレビューにもアクセスできました。Metaは、利用者の保護策を継続的に更新し、社内テストを実施しているとしています。
SignalのMeredith Whittaker社長は、Metaが基本的なプライバシーやサイバーセキュリティを尊重せずにMuseを提供したと批判しました。同氏は、アプリ開発者がAIエージェントによるアクセスを禁止するための一貫した技術的手段を求めています。また、その制限をOS側が強制する必要があると提案しました。
コネクターの権限と操作の承認
Museは、メールの送信や旅行の予約、ウェブフォームへの入力などを代行するAIエージェントです。時間のかかる作業はアプリを閉じた後も続けられます。日本では10月23日からiOS、Android、ウェブで提供され、基本機能の多くは無料です。
外部アプリやサービスとの接続には、コネクターを使います。利用者は設定画面の「コネクター」から接続を承認でき、接続済みのコネクターはいつでも解除できます。解除するとデータ交換は停止しますが、以前の作業に使った情報がMuseのメモリーや会話履歴に残る場合があります。
メールの送信など重要な操作には、初期設定では利用者の承認が必要です。承認を求めるタイミングは設定で変更でき、多くのコネクターではデータの取得のみを許可することもできます。AndroidのSMSなどへのアクセスは、設定後に端末側の設定で管理できます。
AppleとGoogleが権限管理の変更を検討
AppleとGoogleは、AIエージェントに与える権限について利用者が管理しやすくするための変更を検討しています。Appleは10月、一部の開発者がFull Disk Accessを利用者のリスクにつながる方法で使っていたとし、追加の管理手段を導入すると表明しました。この権限をアプリに付与する際に、利用者による明示的な操作を求める方針です。
Metaは、Museが利用者ごとに分離されたクラウド上の仮想マシンで動作し、独立したSentinelエージェントがインターネットへのアクセスを管理するとしています。利用者はMuseが実行した操作と今後予定する操作の履歴を確認できます。また、Metaは接続するアプリやアクセス範囲の変更、会話のAIモデル学習への利用停止も可能としています。
日本ではGmailやGoogleカレンダー、Instagramなどとの連携が提供されています。メルカリ、マネーフォワード ME、チケットぴあとの連携も進められています。高度な音声モードやアバター、Muse独自のメールアドレスについて、Metaは日本での提供状況を別途案内する予定です。











