Appleはまもなく、メッセージアプリの「コミュニケーションセーフティ」機能を英国とカナダで展開します。iOS 15.2と同時に米国で初めてリリースされたこの機能は、メッセージアプリで送信されたメッセージにヌードが含まれていないかスキャンします。

メッセージにおけるコミュニケーションの安全性：その役割

Appleは、12月にiOS 15.2をリリースした際に、メッセージアプリに「コミュニケーションセーフティ」機能を初めて米国で導入しました。この機能により、保護者はお子様のiPhoneに警告を表示できるようになりました。これはオプトイン機能であるため、保護者はこの機能を有効にするかどうかを選択できます。有効にすると、メッセージアプリはお子様が送受信したすべての写真にヌードが含まれていないか自動的にスキャンします。

メッセージアプリは、お子様が受信した写真にヌードが含まれていることを検出した場合、写真にぼかしを入れます。また、メッセージにはセンシティブな内容が含まれている可能性があることをお子様に警告します。同様に、お子様が送信した写真にヌードが含まれていることを検出した場合、「大人にメッセージを送信する」オプションが表示され、お子様に写真を送信しないよう促します。

メッセージにおけるコミュニケーションの安全性：その仕組み

Appleの説明によると、この機能は「デバイス内」でスキャンを行う。つまり、iPhoneが写真をデバイス外に送信して処理するのではなく、iPhone自身で写真を分析する。Appleは写真や分析結果を見ることはできない。

メッセージアプリは、画像の添付ファイルを分析し、エンドツーエンドの暗号化を維持しながら、写真にヌードが含まれているかどうかを判断します。この機能は、ヌードの検出がデバイスから一切伝わらないように設計されており、Appleはメッセージにアクセスできず、保護者やその他の誰にも通知が送られません。

一部の安全機能の導入が遅れる

Appleは米国でこの機能を利用可能にする前に、批判を受けてオプションにいくつかの変更を加えました。例えば、13歳未満の子供がヌードを含む画像を受信または送信した場合、保護者に警告を送信するように設定されていました。しかし、Appleはこの機能の最終リリースでこのオプションを削除しました。児童安全擁護団体は、このような実装は子供の安全を守るどころか、危険にさらす可能性があると指摘しました。

メッセージアプリの「コミュニケーションセーフティ」は、AppleがiOS 15で導入を計画していた3つの機能のうちの1つです。もう1つの機能は、Spotlight、Siri、Safariで児童搾取に関連する検索が見つかった場合にAppleが介入できるようにするものです。3つ目の機能は、写真をiCloudにアップロードする前にスキャンし、児童性的搾取に関連する写真があれば報告するものです。

しかし、Appleはプライバシーおよび児童安全団体との交渉を理由に、これら3つの機能のリリースを延期しました。Appleはこれまでに、メッセージにおけるコミュニケーションの安全性に関する機能を米国で提供しており、Spotlight、Siri、Safariでもこの機能を有効にしました。この機能は、児童性的虐待に関するトピックを検索するユーザーが安全に関する情報を見つけられるよう支援するものです。

The Guardianの報道によると、メッセージにおけるコミュニケーションセーフティ機能は、英国で「近日」にリリースされる予定です。巷の噂では、この機能は近い将来オーストラリアとニュージーランドにも展開されるとのこと。著名なテックブロガーの Rene Ritchie 氏も、カナダでも今後のアップデートで導入されると示唆しています。Spotlight、Siri、Safari のセーフティ機能も、他の国への展開が予定されています。