同意のないヌード画像を生成できると宣伝していたAIディープフェイクアプリに対する404 Mediaの調査を受けて、AppleはApp StoreからAI画像生成アプリの削除を開始したが、戦いはまだ終わっておらず、永遠に終わらないかもしれない。
PetaPixelのジェレミー・グレイ
:
これは、ユーザーが同意のないヌード画像、いわゆる「ディープフェイク」の作成を支援するアプリに関する憂慮すべき問題を浮き彫りにしています。AIの驚異的な進歩により、この種の危害を引き起こすことはかつてないほど容易になっています。
Appleの安全に関する規則や規制は予想通り厳格ですが、容易に塞ぐことのできない抜け穴が残っています。404が指摘しているように、広告されているアプリは「アート生成」アプリです。「ポルノ生成」アプリとは呼ばれていないのは、Appleの審査を通過することは決してないからです。
例えば、大手ソーシャルメディアプラットフォーム上の広告を見て、問題となっているアプリの機能をユーザーが知らなかったとしたら、おそらくApp Storeでそのアプリが利用可能であることすら知ることはないでしょう。そして、ユーザーの意に反し、本人の承諾なしにディープフェイクを作成しようとするユーザーが、支援なしにアプリを見つけることができないのであれば、Appleが見つけられる可能性はどれほどあるでしょうか?
App Storeには「AIフェイススワップ」や「AIアートジェネレーター」といったアプリが無数に存在します。おそらく全てが羊の皮をかぶった狼ではないでしょうが、中にはそうでないものもあります。開発者が別のプラットフォームで明確にそう宣言していない限り、どれがどれなのかを見分ける唯一の方法は、実際にアプリを使ってみることです。
このリンクからAmazonで買い物をすることで、MacDailyNewsを無料でサポートできます。
MacDailyNewsの
見解: Appleの従業員がすべてのアプリのあらゆる部分を手作業で試して検証しない限り、このAIディープフェイクアプリの戦いは勝ち目のない戦いになるかもしれません。将来的には、AI自身がアプリをより徹底的にテスト・検証できるようになるかもしれません。 MacDailyNewsへのご支援を
お願いいたしますここをクリックまたはタップして、私たちの独立したテクノロジーブログを応援してください。ありがとうございます!
このリンクを使用して Amazon で買い物をすると、追加費用なしで MacDailyNews をサポートできます。
AppleはiOS 26でWalletアプリのメジャーアップデートを発表し、搭乗券のエクスペリエンスを強化して航空旅行を簡素化しました…
iOS 26.1 の 2 番目のベータ版では、Apple は iPhone のアラームを再設計し、以前のバージョンと比べてアラームを解除しにくくなりました…
トロフィーを追い求め、王朝を築き、チャンピオンを決める難しい決断を下す Football Manager 26 Touch が、Apple Arcade に帰ってきます…
アップルは火曜日、「ブルースクリーン・オブ・デス」と題した新しい広告を公開した。これは昨年発生したWindowsコンピュータの重大なクラッシュを揶揄したもので…
ロンドン警察は、盗難iPhone4万台を中国に密輸した疑いのある犯罪組織を壊滅させた。これは同組織による過去最大のiPhone窃盗事件となった。