元アップル社契約社員で現在は内部告発者である人物が、同社のプログラムがユーザーのSiriの録音を聞いて「評価」していることを暴露したが、この暴露に対して何の対策も取られていないことに抗議し、その情報を公表することを決めた。

アレックス・ハーン（ガーディアン紙）

トーマス・ル・ボニエック氏は、欧州のすべてのデータ保護規制当局に送った決定発表書簡の中で、「アップル（そしてもちろんアップルだけではない）が基本的人権を無視・侵害し続け、大量のデータ収集を続けていることは憂慮すべきことだ」と述べた。

「EUは世界有数の強力なデータ保護法を有しているとEU市民に説明されているにもかかわらず、大手テクノロジー企業が事実上全国民を盗聴していることを非常に懸念しています。法律を制定するだけでは不十分です。プライバシー侵害者には強制執行される必要があります。」

25歳のル・ボニエック氏は、コークにあるアップルのオフィスで下請けとして働き、ユーザーのリクエストを英語とフランス語で書き起こしていたが、仕事に対する倫理的な懸念から2019年夏に退職した。

ル・ボニエック氏とその同僚による暴露を受けて、Appleは「グレーディング」プログラムに抜本的な変更を加えると約束した。このプログラムでは、数千人の契約社員がSiriを使って録音された音声（意図的、偶発的を問わず）を聴いていた。同社は謝罪し、この作業を社内で行うこととし、グレーディングは明示的に同意したユーザーからの録音のみに行うことを約束した。

しかし、ル・ボニエック氏は、そもそも同社は長年にわたるプログラムが招く結末にまったく向き合わなかったと主張する。

MacDailyNewsの見解: Siriの内部告発者がSiriの評価プログラムを暴露したとき、私たちは次のように書きました:

Appleのプライバシーに対する姿勢は神聖視されるべきだが、品質を損なうべきではない。Siriの改善に協力するためにユーザーがオプトインできるようにするのは良い解決策だ。— MacDailyNews、2019年8月2日

それから1か月も経たないうちに、2019年8月28日にAppleは次の声明を発表しました。

Appleは、プライバシーは基本的人権であると考えています。私たちは、ユーザーの個人データを保護するために製品を設計し、その保護体制の強化に常に取り組んでいます。これは、Appleのサービスにおいても同様です。先駆的なインテリジェントアシスタントであるSiriを通して、私たちはお客様のプライバシーを厳重に守りながら、最高の体験を提供することを目指しています。

Siriの品質評価プロセス（グレーディング）の一環として、Siriの録音音声を人間が聞いているという最近の報告を受け、お客様からご懸念をいただいております。お客様の懸念を承知し、Siriへのリクエストに対する人間によるグレーディングを直ちに停止し、当社の慣行とポリシーの徹底的な見直しを開始しました。その結果、Siriにいくつかの変更を加えることを決定しました。

Siriがあなたのプライバシーを守る方法

Siriは開発当初からユーザーのプライバシー保護を重視して設計されています。Siriで収集するデータの量を最小限に抑え、デバイス上で可能な限り多くの処理を実行することに重点を置いています。Siriのデータをサーバーに保存する際、マーケティングプロファイルの作成に使用したり、第三者に販売したりすることはありません。SiriのデータはSiriの改善のみに使用し、Siriのプライバシーをさらに強化するための技術を継続的に開発しています。

Siriは、正確な結果を提供するために、できるだけ少ないデータを使用します。例えば、スポーツイベントについて質問する場合、Siriは適切な結果を提供するために大まかな位置情報を使用します。しかし、最寄りの食料品店を尋ねる場合は、より具体的な位置情報を使用します。

Siriに未読メッセージを読み上げるように頼むと、Siriはデバイスに未読メッセージを読み上げるよう指示するだけです。メッセージの内容はSiriのサーバーに送信されません。これは、リクエストを実行するために必要ではないためです。

Siriは、Apple IDや電話番号などを通してユーザーの個人情報と紐付けるのではなく、ランダムな識別子（単一のデバイスに紐付けられた長い文字と数字の文字列）を使用して、処理中のデータを追跡します。これは、現在使用されているデジタルアシスタントの中では他に類を見ないプロセスだと考えています。さらなる保護のため、6ヶ月経過すると、デバイスのデータとランダムな識別子の紐付けは解除されます。

iOS では、「設定」>「Siri と検索」>「Siri に聞く」とプライバシーについてで、Siri がアクセスするデータと、その過程で情報を保護する方法の詳細が提供されます。

あなたのデータがSiriをより良くする方法

Siriは、パーソナライズされたタスクをより正確に実行するために、デバイスから特定の情報を収集・保存します。例えば、Siriが珍しい名前に遭遇した場合、その名前を正しく認識するために連絡先に登録されている名前を使用する場合があります。

Siriは、ユーザーとのやり取りから得られるデータも活用しています。これには、リクエストの音声とコンピューターによる書き起こしが含まれます。Appleは、リクエストの音声録音と書き起こしを機械学習プロセスに利用し、Siriの機能向上を「トレーニング」することがあります。

採点を中止する前は、Siriへのリクエストから抽出した音声サンプル（0.2%未満）と、そのコンピューター生成トランスクリプトをレビューし、Siriの応答精度を測定し、信頼性を向上させていました。例えば、ユーザーはSiriを起動する意図があったか？Siriはリクエストを正確に聞き取ったか？そして、Siriはリクエストに適切に応答したか？といった点です。

私たちが行っている変更

調査の結果、私たちは高い理想を十分に実現できていないことに気づきました。その点についてお詫び申し上げます。以前お知らせした通り、Siriのグレーディングプログラムは一時停止いたしました。今秋後半にソフトウェアアップデートをユーザーにリリースした際に再開する予定ですが、その際には以下の変更を実施いたします。

• まず、Siriとのやり取りの音声録音は、デフォルトでは保存されなくなります。Siriの機能向上のため、コンピューターで生成されたトランスクリプトは引き続き使用していきます。

• 2つ目は、ユーザーがリクエストの音声サンプルを学習することでSiriの機能向上に協力できるようにすることです。Appleがユーザーのデータを尊重し、強力なプライバシー管理体制を敷いていることをご理解いただき、多くの方にSiriの機能向上にご協力いただけることを願っています。参加を希望された方は、いつでも参加を解除できます。

• 3つ目に、お客様がオプトインされた場合、Siriとのやり取りの音声サンプルをApple社員のみが聞くことができます。Siriを誤って起動させたと判断された録音は、Appleのチームが削除いたします。

Appleは、お客様をあらゆる活動の中心に据えることをお約束しており、お客様のプライバシー保護もその一環としています。Siriは、お客様のプライバシー権を損なうことなく、より速く、より簡単に物事をこなせるよう開発されました。Siriへの情熱と、Appleの継続的な改善への取り組みを支えてくださるユーザーの皆様に深く感謝申し上げます。

詳細については、Siriのプライバシーと評価をご覧ください。