디지털 권리 - 스칼렛 얼라이언스

플랫폼들은 성노동자 관련 콘텐츠를 표적화하고, 탐지하며, 삭제하기 위해 AI를 점점 더 과도하게 사용하고 있지만, 이 소프트웨어는 성(性)과 성교육의 차이를 구분하지 못할 뿐만 아니라, 상호 합의에 의한 콘텐츠와 학대 콘텐츠의 차이도 구분하지 못합니다.

성 및 생식 건강 증진 활동에는 종종 해부학 도식, 콘돔 사용법 시연, 성행위 묘사 등 노골적인 논의와 이미지가 포함됩니다. 실증 연구에 따르면, 자동 및 인간 운영자들은 이러한 콘텐츠를 포르노로 오분류하는 경우가 빈번합니다. 이로 인해 주요 플랫폼 전반에 걸쳐 성 및 생식 건강 정보가 체계적으로 억압되고 있으며, 비영리 단체, 콘텐츠 제작자, 소규모 사업체의 계정이 정지되거나 삭제되는 사태가 발생하고 있습니다.

성노동자들에게 있어 그 결과는 단순히 온라인에서 노출이 줄어드는 것을 훨씬 넘어섭니다. 콘텐츠 관리 시스템은 성노동 비범죄화나 차별 금지 보호 조치와 같은 주 및 준주 법률을 인정하지 않습니다. 그 결과, 섀도우배닝과 플랫폼 퇴출이 발생하며, 이는 우리의 소득, 정신 건강, 정치적 참여, 그리고 서로에게 중요한 안전 정보를 공유할 수 있는 능력을 훼손합니다. 성노동자들이 현실에서의 노동 생활을 보호하기 위해 투쟁해 온 법률들은 현재 우리의 온라인 생활까지 보호하지 못하고 있습니다.

디지털 감시 및 차별적 알고리즘으로 인해 은행, 금융 서비스 업체, 결제 처리 업체들은 성노동자들이 다른 사람들과 동등한 서비스와 플랫폼을 이용할 수 없도록 막고 있다.

은행들은 매춘업소, 에스코트 업체, 개별 성노동자들의 계좌를 일상적으로 해지하거나 개설을 거부하며, 이때 실제 사업 운영 방식과는 무관하게 모호한 ‘평판 위험’ 정책을 근거로 삼는 경우가 많습니다. 결제 대행업체들도 마찬가지입니다. 페이팔(PayPal)은 ‘성 관련’ 서비스와 연관된 모든 항목을 자동으로 의심 대상으로 표시하며, 스트라이프(Stripe)도 같은 이유로 성노동자 계정을 차단합니다. 에어비앤비(Airbnb)는 증거가 아닌 잘못된 위험 가정에 근거해, 성노동자로 의심되는 사용자를 식별하고 배제하기 위해 알고리즘을 활용합니다.

이러한 기술들은 성노동자들이 다른 모든 사업체가 의존하는 기본적인 금융 인프라에서 배제되도록 만드는데, 심지어 우리의 업무가 합법적인 지역에서도 마찬가지입니다. 이는 의도적으로 설계된 차별입니다.

플랫폼이 메시지와 파일을 스캔하여 ‘불법’ 콘텐츠를 찾아내도록 요구하는 규정은 원칙적으로는 합리적으로 들릴 수 있다. 하지만 실제로는 암호화를 해제하거나(온라인에서 전송하고 저장하는 내용을 비공개로 유지하는 보호 수단), 기술 기업들이 콘텐츠가 전송되기 전에 모든 사용자의 기기에 있는 모든 콘텐츠를 스캔해야 한다는 것을 의미한다.

이러한 시스템은 이 정도의 권한을 맡기기에는 정확도가 충분하지 않으며, 성노동자들은 다른 누구보다 이러한 시스템의 오류에 더 크게 노출되어 있습니다. 콘텐츠의 잘못된 분류를 피하거나, 이에 이의를 제기하거나, 반박할 수 있는 방안이 제시되지 않아, 성노동자들은 부당한 대우를 받을 수 있을 뿐만 아니라 사생활 침해의 위험에 처해 있습니다.

검열은 포괄적인 성교육이나 실질적인 온라인 안전을 대체할 수 없다.

학교와 학부모가 포괄적이고 연령에 적합한 관계 및 성교육을 제공하지 못할 경우, 청소년들은 그 공백을 메우기 위해 포르노에 의지할 수 있습니다. 이러한 공백을 해결하는 대신, 호주의 ‘2021년 온라인 안전법(Online Safety Act 2021)’은 기술 기업들에게 18세 미만이 성인용 콘텐츠를 접하지 못하도록 ‘연령 확인’ 기술을 도입하도록 요구하고 있습니다. 이러한 기술들은 해결책으로 기능하지 못합니다. 도입 비용이 비싸고, 종종 부정확하며, 플랫폼이 불필요한 데이터를 수집하고 저장하도록 유도할 뿐만 아니라, VPN이나 타인의 ID를 사용하여 쉽게 우회할 수 있기 때문입니다.

규정 준수에 따르는 비용과 위험에 직면한 플랫폼들은, 고가의 연령 확인 기술을 도입하거나 사람이 직접 관리하는 규정 준수 조치에 투자하기보다는 차라리 콘텐츠를 일괄 삭제하거나 대규모 계정 정지 조치를 선택할 수도 있다.

이러한 접근 방식은 성노동자들의 디지털 플랫폼 접근을 제한할 뿐만 아니라, 우리가 어디서 어떻게 일할지 선택할 수 있는 권리를 박탈함으로써 우리의 권리를 침해합니다. 또한 이는 이용자들을 불법 복제되거나 규제를 받지 않는 콘텐츠로 몰아갈 뿐이며, 콘텐츠 무단 수집이나 동의 없는 사적인 이미지 유포와 같은 피해를 해결하는 데는 거의 도움이 되지 않습니다.