Apple、｢メッセージ｣アプリでの児童性的虐待防止機能をまもなく日本でも提供へ ｰ ヌード画像の自動検出/警告

日本経済新聞によると、Appleが「メッセージ」アプリでヌードが含まれる写真を児童らが送受信するのを制限する機能を日本でもまもなく導入することを明らかにしたことが分かりました。

同機能は米国では2021年12月より提供が開始されていたもので、機械学習機能が画像を分析し、児童らが送受信するメッセージにヌードが含まれる写真が添付されていた場合に自動的に写真をぼやかした上で警告を出し、保護者らにも知らせるといったもの。

現在は9カ国で利用可能ですが、数週間以内に日本や韓国、ブラジルなど6カ国が追加される予定。

前述した通り、同機能はデバイス上の機械学習機能が添付ファイルを分析する為、Apple側が送受信するメッセージの中身を見たり、ヌード写真を検出したかどうかを知ったりすることはありません。

・Expanded Protections for Children – Apple
・About communication safety in Messages – Apple