情報被害の話ではない

Apple Watch の Siri Recap、動画の話を本人の出来事のように要約

Apple Watch Series 12 / Ultra 4 の会話要約機能 Siri Recap(ベータ)を The Verge が試用。動画の内容を本人らの出来事のように要約した例と、日本での提供状況、確かめ方。

要点

  • Apple Watch の会話要約機能 Siri Recap が、動画で流れた他人の救急搬送の話を、記者本人か知人に起きたことのように要約したと伝えられている。
  • Apple 自身が、要約は「不完全または誤り」のことがあると説明している。
  • 日本では、Siri Recap は今のところ使えるとは確認できなかった。ただし、AI 要約をうのみにしない確かめ方は、ほかの機能にも使える。

何が起きたか

Siri Recap は、Apple Watch が周囲の会話を聞き、あとで思い出すための短い要約を作る機能だ。Apple Watch Series 12 と Ultra 4 向けの「Audio Intelligence」の一つで、ベータ版として提供される。

米国の The Verge の記者が、この機能を約2週間試した。その内容を GIGAZINE が11月20日に紹介している。こちらは The Verge の本文を直接は読めていない。以下の試用結果は、GIGAZINE の紹介による。

目を引くのは、動画の中の話が「本人の出来事」に化けた例だ。記者が TikTok で、敗血症により救急搬送された人の体験談を見たところ、Siri Recap の要約は、その搬送が記者自身か、記者の知人に起きたことのように読めたという。別の例では、Reddit の投稿(AITA、他人の言動の是非を問う掲示板)に意見を述べる動画が、記者自身がその話をしたかのようにまとめられた。

要約は試用中に50件以上できた。記者は、そのうち約9割は本人以外には意味が通じないはずだ、と自分の見立てを述べている。第三者が読んで確かめた結果ではない点には注意したい。

記者はほかにも、使ってみた印象を挙げている。

  • インタビューの要約では、数字や日付が拾われやすい一方、印象に残った個人的な体験や意見が落ちることがあった。
  • 友人との雑談や冗談が、堅い記録のような文面になった例がある。
  • 動作中であることを周囲に知らせる音や表示は、ないとされる。

こうした誤りが厄介なのは、要約が短く、整った文で出てくるためだ。Apple の仕様では、音声は文字にされたあとに削除され、要約も最長7日で自動削除される(保存した場合を除く)。The Verge は、音声ファイルは残らないと伝えている。一方で、インタビューの要約に Voice Memos の録音が紐づいた例にも触れているという。

日本の利用者への影響

Apple のサポート文書によると、Siri Recap は当面、英語のみで始まる。EU では当初は使えず、中国では使えない。18歳未満も対象外だ。

watchOS 27.2 で Siri AI 自体は日本語に対応したと報じられている。しかし Siri Recap が日本語で使えるとは、確認できなかった。Apple は「ほかの言語も予定」としているだけだ。

そのため、今の日本の利用者への直接の影響は小さいとみる。ただし、米国の Apple アカウントと地域設定で英語環境を作れば、ベータを試せる可能性はある。その場合も、この誤りは起こりうる。

今すぐやること

  1. 日本語で Siri Recap が提供されたかは、Apple の公式サポートページで確かめる。ベータ版は、自分で入れたのでなければ有効になっていない。
  2. 使う場合は、「いつ・どこで動かすか」を時間や場所で絞る。Apple は、Watch アプリで予定を決め、コントロールセンターからいつでも止められるとしている。
  3. 動画や音楽を流す場所では動かさない。The Verge の例では、動画の中の出来事が、本人か知人のことのように要約された。
  4. 要約に書かれた約束・病気・事故・金額などは、そのまま信じない。Apple も、大事な点は当人や別の確かな情報で確かめるよう勧めている。
  5. 他人と話す場では、使っていることを相手に伝える。周りに録音中だと分かる合図が出る仕組みは、確認できなかった。

背景

AI の要約が、元になかったことを書いてしまうことは、ほかの機能でも知られている。会話の要約では、誰が話したかを区別できないと、他人の話を本人の話にしやすい。Apple は、Siri Recap が話者を区別しないと説明している。

Apple Intelligence の要約をめぐっては、以前にも通知の要約が誤った内容を伝えたとして批判を受けた例がある。今回は、周囲の会話を長時間聞く機能で起きた点が違う。

また、EFF は Siri Recap の提供に「失望した」と述べたと PCWorld が報じている。プライバシーの面でも、議論が続いている。

今回の件で、実際の被害が出たという報告は確認できなかった。見つかったのは、ベータ版の試用での誤要約の例だ。被害の話ではないため、危険度は「情報」とした。

技術者向けの詳細
  • 対象機器: Apple Watch Series 12 / Ultra 4、iPhone 16 以降(iPhone Air、iPhone 18 Pro を含む)。Apple Intelligence と Siri AI(ベータ)が必要。
  • 提供時期: watchOS 27.3 のベータ。サーバー側の機能には1日の利用上限がある。
  • 言語・地域: 英語のみで開始。EU は当初対象外、中国は対象外、18歳未満は対象外。
  • 処理: MacStories が引く技術報告によると、音声は暗号化して Watch から iPhone に送られ、端末内で文字化・要約され、元の音声は削除される。安全性モデルが出力を選別する。検索結果では、Private Cloud Compute を使うとの説明もある。
  • 保存: 要約は最長7日で自動削除。Siri アプリで表示・編集・削除・書き出しができる。
  • 注意書き: Apple は、要約が不完全・誤りの場合があり、機密情報の除去も完全でない場合があるとしている。
  • The Verge の本文は今回取得できなかった。詳細は原文で確認してほしい。

出典

一次情報

報道

参考

記事は、運営者が生成 AI を活用して作成し、内容を確かめたうえで公開しています。 誤りに気づいたら編集方針の連絡先へ。

次に読む

同じタグの記事