Quyền kỹ thuật số - Liên minh Scarlet

Các nền tảng khác nhau đang ngày càng lạm dụng trí tuệ nhân tạo (AI) để xác định mục tiêu, phát hiện và xóa các nội dung liên quan đến những người làm việc trong ngành dịch vụ tình dục. Tuy nhiên, phần mềm này không thể phân biệt được sự khác biệt giữa nội dung khiêu dâm và giáo dục về giới tính, cũng như giữa nội dung xuất phát từ sự đồng thuận và nội dung liên quan đến lạm dụng.

Việc thúc đẩy sức khỏe tình dục và sức khỏe sinh sản thường bao gồm các cuộc trò chuyện thẳng thắn và các hình ảnh khác nhau, chẳng hạn như sơ đồ giải phẫu cơ thể, hướng dẫn cách sử dụng bao cao su và hình ảnh minh họa quan hệ tình dục. Các nghiên cứu thực nghiệm cho thấy cả hệ thống kiểm duyệt tự động lẫn nhân viên kiểm duyệt thường phân loại các nội dung này là nội dung khiêu dâm.Điều này dẫn đến việc hạn chế thông tin về sức khỏe tình dục và sức khỏe sinh sản một cách có hệ thống trên các nền tảng chính, bao gồmviệc đình chỉ hoặc xóa tài khoản của các tổ chức phi lợi nhuận, người sáng tạo nội dung và các doanh nghiệp nhỏ

Đối với những người làm việc trong ngành dịch vụ tình dục, hậu quả không chỉ dừng lại ở việc mất sự hiện diện trực tuyến. Hệ thống kiểm soát nội dung không tuân thủ các quy định pháp luật của các bang và khu vực khác nhau, chẳng hạn như việc bãi bỏ các hình phạt hình sự đối với hoạt động trong ngành dịch vụ tình dục và các biện pháp bảo vệ chống lại sự bất bình đẳng. Hậu quả là việc bị cấm ngầm (shadowbanning) và bị loại khỏi nền tảng, từ đó làm suy yếu thu nhập, sức khỏe tinh thần, sự tham gia chính trị và khả năng chia sẻ thông tin an toàn quan trọng giữa chúng ta. Các quy định pháp lý mà những người lao động trong ngành dịch vụ tình dục đã đấu tranh để bảo vệ cuộc sống lao động thực tế của chúng ta vẫn chưa bao quát được cuộc sống trực tuyến của chúng ta hiện nay

Hệ thống giám sát kỹ thuật số và các thuật toán phân biệt đối xử đang khiến các ngân hàng, tổ chức tài chính và nhà cung cấp dịch vụ thanh toán có thể từ chối không cho những người làm việc trong ngành dịch vụ tình dục tiếp cận các dịch vụ và nền tảng tương tự như những người bình thường.

Các ngân hàng thường đóng hoặc từ chối mở tài khoản cho các nhà chứa, dịch vụ hộ tống và những người cung cấp dịch vụ tình dục cá nhân,thường viện dẫn chính sách “rủi ro danh tiếng” mơ hồ thay vì xem xétcách thứckinh doanh thực tế. Các nhà cung cấp dịch vụ xử lý thanh toán cũng làm tương tự: PayPal sẽ tự động gắn nhãn mọi nội dung liên quan đến dịch vụ “có nội dung khiêu dâm”, còn Stripe cũng đóng tài khoản của các nhà cung cấp dịch vụ tình dục với lý do tương tự.Airbnb sử dụng thuật toán để xác định và loại trừ những người dùngbị nghi ngờ là nhà cung cấp dịch vụ tình dục, dựa trên những giả định sai lầm về rủi ro thay vì dựa trên bằng chứng.

Các công nghệ này khiến những người lao động trong ngành dịch vụ tình dục bị tách khỏi cơ sở hạ tầng tài chính cơ bản – thứ mà mọi ngành kinh doanh khác đều phụ thuộc vào – ngay cả ở những nơi mà công việc của chúng tôi là hợp pháp.Đây là một hình thức phân biệt đối xử được thiết kế một cách có chủ đích.

Quy định bắt buộc các nền tảng phải kiểm tra tin nhắn và tệp tin để tìm kiếm nội dung “vi phạm pháp luật” có thể nghe có vẻ hợp lý về mặt lý thuyết, nhưng trên thực tế, điều này đồng nghĩa với việc phải vi phạm mã hóa (hệ thống bảo vệ đảm bảo tính riêng tư của dữ liệu mà bạn gửi và lưu trữ trực tuyến) hoặc buộc các công ty công nghệ phải kiểm tra toàn bộ nội dung trên thiết bị của mọi người dùng trước khi nội dung đó được gửi đi.

Các hệ thống này không đủ chính xác để có thể tin cậy khi xử lý các vấn đề ở cấp độ này, và những người làm việc trong ngành dịch vụ tình dục phải đối mặt với những sai sót của hệ thống nhiều hơn so với phần lớn mọi người. Không có phương pháp nào được đề xuất để tránh việc kháng cáo hoặc phản đối việc phân loại nội dung sai sót – điều này khiến những người làm việc trong ngành dịch vụ tình dục phải đối mặt với những hành vi bất công và có nguy cơ bị xâm phạm quyền riêng tư.

Việc kiểm duyệt không thể thay thế cho việc giáo dục giới tính toàn diện hay các biện pháp bảo đảm an toàn trực tuyến hữu ích.

Khi các trường học và phụ huynh không thể tổ chức các chương trình giáo dục về quan hệ và giáo dục giới tính đầy đủ và phù hợp với lứa tuổi, thanh thiếu niên có thể tìm đến các nội dung khiêu dâm để lấp đầy những khoảng trống đó, thay vì khắc phục những khoảng trống này. Tuy nhiên,Luật An toàn Trực tuyến năm 2021 của Úc lại quyđịnhcác công ty công nghệphải áp dụng công nghệ ‘xác minh độ tuổi’ để ngăn chặn những người dưới 18 tuổi truy cập nội dung dành cho người lớn. Những công nghệ này không thể được coi là giải pháp – việc triển khai tốn kém, thường không chính xác, khuyến khích các nền tảng thu thập và lưu trữ dữ liệu không cần thiết, và có thể dễ dàng bị vượt qua bằng VPN hoặc sử dụng thông tin nhận dạng của người khác

Khi phải đối mặt với chi phí và rủi ro phát sinh từ việc tuân thủ quy định, các nền tảng có thể chọn xóa nội dung một cách không phân biệt và tạm ngưng tài khoản của một số lượng lớn người dùng, thay vì áp dụng công nghệ kiểm soát độ tuổi tốn kém hoặc đầu tư vào các biện pháp tuân thủ quy định được kiểm tra bởi con người.

Phương pháp này hạn chế quyền truy cập vào các nền tảng kỹ thuật số của những người cung cấp dịch vụ tình dục và vi phạm quyền của chúng tôi bằng cách tước đi quyền lựa chọn nơi làm việc và cách thức làm việc. Hơn nữa, nó còn thúc đẩy người dùng chuyển sang sử dụng nội dung vi phạm bản quyền hoặc nội dung không được giám sát, đồng thời hầu như không góp phần giải quyết các vấn đề khác như việc thu thập dữ liệu nội dung trái phép và chia sẻ hình ảnh cá nhân mà không có sự đồng ý.