デジタル権利 - スカーレット・アライアンス

各プラットフォームは、セックスワーカー関連のコンテンツを特定・検知・削除するためにAIを過度に活用する傾向が強まっているが、このソフトウェアには、性行為と性教育、あるいは合意に基づくコンテンツと虐待の区別がつかない。

性と生殖に関する健康の促進には、解剖図やコンドームの使用実演、性行為の描写など、率直な議論や画像が含まれることがよくあります。実証研究によると、自動および人間のモデレーターは、こうしたコンテンツをポルノとして誤分類することが常態化しています。これにより、主要なプラットフォーム全体で性と生殖に関する健康情報が体系的に抑圧され、非営利団体、クリエイター、中小企業などのアカウントが停止または削除される事態が生じています。

セックスワーカーにとって、その影響はオンライン上での存在感が失われることにとどまりません。コンテンツのモデレーションシステムは、セックスワークの非犯罪化や差別禁止の保護措置といった州や準州の法律を認識していません。その結果、シャドウバンやプラットフォームからの排除が行われ、私たちの収入、メンタルヘルス、政治参加、そして互いに重要な安全情報を共有する能力が損なわれています。セックスワーカーが現実の職場での生活を保護するために闘って勝ち取った法律は、現時点では私たちのオンライン上の生活には及んでいないのです。

デジタル監視や差別的なアルゴリズムにより、銀行、金融サービス事業者、決済処理業者は、セックスワーカーが他の人々と同じサービスやプラットフォームを利用することを拒否できるようになっている。

銀行は、売春宿、エスコートエージェンシー、および個々のセックスワーカーの口座を日常的に閉鎖したり開設を拒否したりしており、その際、実際の事業運営内容ではなく、曖昧な「評判リスク」に関する方針を理由に挙げることが多い。決済代行業者も同様である。PayPalは「性的なサービス」に関連するものを自動的にフラグ付けし、Stripeも同様の理由でセックスワーク関連の口座を停止している。Airbnbは、証拠ではなくリスクに関する誤った仮定に基づいて、セックスワーカーと疑われるユーザーを特定し、排除するためにアルゴリズムを使用している。

こうした技術は、たとえ私たちの活動が合法である地域であっても、セックスワーカーを、他のあらゆる事業が依存している基本的な金融インフラから切り離してしまいます。これは意図的な差別です。

プラットフォームに対し、メッセージやファイルをスキャンして「違法」なコンテンツを探し出すよう義務付ける規制は、原則的には妥当に聞こえるかもしれません。しかし実際には、これは暗号化（オンライン上で送信・保存する情報を非公開に保つための保護手段）を破るか、あるいはコンテンツが送信される前に、テクノロジー企業がすべてのユーザーのデバイス上のコンテンツをすべてスキャンすることを意味します。

これらのシステムは、この種の権限を委ねるには精度が不十分であり、セックスワーカーは他の人々よりもその誤りの影響を受けやすい。コンテンツの誤った分類を回避したり、異議を申し立てたり、争ったりする手段は提案されておらず、その結果、セックスワーカーは不当な扱いを受ける可能性があり、プライバシー侵害のリスクにさらされている。

検閲は、包括的な性教育や実質的なオンライン安全対策の代わりにはなりません。

学校や保護者が、包括的で年齢に応じた人間関係や性に関する教育を提供できない場合、若者たちはその不足を補うためにポルノに走ってしまう可能性があります。 こうした不足に対処する代わりに、オーストラリアの「2021年オンライン安全法」は、18歳未満の者が成人向けコンテンツを閲覧できないよう、テクノロジー企業に対し「年齢確認」技術の導入を義務付けています。しかし、これらの技術は解決策としては不十分です。導入コストが高く、精度が低い場合が多く、プラットフォームによる不要なデータの収集・保存を助長し、VPNや他人のIDを使えば簡単に回避できてしまうからです。

コンプライアンスに伴うコストやリスクに直面したプラットフォームは、高額な年齢確認技術の導入や、人間によるモデレーションを伴うコンプライアンス対策への投資を行うよりも、むしろコンテンツの一括削除や大規模なアカウント停止を選択する可能性がある。

このアプローチは、セックスワーカーのデジタルプラットフォームへのアクセスを制限し、どこで、どのように働くかという選択の余地を奪うことで、私たちの権利を損なうものです。また、ユーザーを海賊版や規制の対象外となるコンテンツへと追いやる一方で、コンテンツの無断転載や同意のない性的画像の共有といった被害への対策にはほとんどなっていません。