Ser uma mulher na internet é uma experiência assustadora. Assim como na vida real, as mulheres e pessoas de gêneros marginalizados sofrem com assédio e abuso diariamente, tanto no mundo digital quanto no mundo físico.
A situação ocorrida com Taylor Swift nesta semana é um exemplo perturbador e assustador. As imagens pornográficas criadas por inteligência artificial e envolvendo Swift se tornaram viral, principalmente no Twitter, com uma postagem em particular alcançando mais de 45 milhões de visualizações. Fãs indignados agiram rapidamente, inundando a plataforma com mensagens positivas e imagens da cantora relacionadas a termos de busca como “Taylor Swift IA” e “Taylor Swift deepfake”. A base de fãs leais de Swift também tem utilizado a hashtag #ProtectTaylorSwift, com milhares de publicações condenando as imagens não consentidas.
O incidente definitivamente não é único. Swift, uma das personalidades mais famosas do mundo, é a mais recente a se proteger contra isso. Isso ocorreu com estrelas do K-pop, criadores do TikTok, jornalistas e adolescentes do ensino médio.
Eu entendo que você esteja se referindo à expressão “pornografia difusa”.
O pornô Deepfake é produzido artificialmente usando imagens ou vídeos gerados por um tipo específico de inteligência artificial. Essas representações visuais sintéticas retratam pessoas sobrepostas em atos sexuais sem o seu consentimento. O ato de compartilhar essas imagens é uma forma de abuso sexual baseado em imagem e foi criminalizado em alguns países. Similar à pornografia de vingança, a disseminação desse tipo de pornografia tem causado danos psicológicos, pessoais e profissionais para aqueles que são retratados.
De acordo com uma pesquisa realizada em 2023 pela Home Security Heroes, uma empresa especializada em roubo de identidade e danos digitais, foi constatado que a maioria esmagadora (98%) dos vídeos de fachada profunda encontrados na internet são de natureza pornográfica. Além disso, foi observado que 99% das vítimas de difamação profunda são mulheres.
Onde se encontra a legislação referente à pornografia e difamação?
Alguns países ao redor do mundo têm ou estão promulgando leis para garantir a proteção de vítimas quando se trata de divulgação não consensual de imagens explícitas.
Desde junho de 2023, na Inglaterra e no País de Gales, foi implementada uma lei que torna crime o ato de compartilhar pornografia sem consentimento. O governo do Reino Unido está empenhado em combater indivíduos que abusam, se aproveitam ou compartilham imagens íntimas online sem o consentimento das pessoas envolvidas.
Nos Estados Unidos, quase todos os estados, exceto dois, e o Distrito de Columbia possuem legislações contra a divulgação de pornografia como forma de vingança. Alguns estados estão revisando suas leis para abranger também a pornografia de realidade falsa, como Illinois, Virginia, Nova York e Califórnia. Porém, as regulamentações variam de acordo com o estado e, como observado por alguns, certas leis não abordam de forma adequada a urgente questão do papel da tecnologia na criação e disseminação dessas imagens e vídeos.
No entanto, há uma falta de ação por parte de muitos governos para solucionar o problema. De acordo com a campanha #MyImageMyChoice, que busca dar voz às vítimas de abuso sexual relacionado a imagens, a maioria dos governos não está tomando medidas adequadas. Muitos países não possuem leis específicas ou suas leis contêm falhas. Além disso, a maioria dos países não possui uma estrutura clara para responsabilizar o policiamento dos espaços online.
De que forma as grandes empresas de tecnologia lidaram com esse problema?
No X, há uma proibição clara de compartilhar imagens de Swift que tenham sido manipuladas ou retiradas de contexto. Isso inclui conteúdo enganoso que tem a intenção de enganar as pessoas ou afirmar falsamente representar a realidade. A empresa segue uma política de tolerância zero para esse tipo de conteúdo, conforme declarado em um post de sua conta oficial de segurança.
Outras plataformas, como o Reddit, também possuem regras que proíbem o compartilhamento de conteúdo íntimo ou sexualmente explícito sem o consentimento da pessoa envolvida.
As redes sociais e as grandes empresas de tecnologia têm enfrentado desafios ao detectar e prevenir problemas graves, apesar de suas políticas. Em 2021, o Meta implementou uma nova ferramenta em parceria com a plataforma StopNCII.org da UK Revenge Porn Helpline para lidar com essas questões. Recentemente, a empresa-mãe do Facebook e Instagram anunciou uma política que exige a rotulação de imagens digitalmente alteradas relacionadas a questões sociais, eleitorais e políticas, com o objetivo de proteger as próximas eleições em algumas das maiores democracias do mundo.
- A internet foi enganada em cinco ocasiões pela IA em 2023.
- Chatters, a meta é tornar sua equipe de IA responsável.
- É necessário cessar a fixação nas preferências sexuais das celebridades.
- O Google implementa mudanças em suas políticas referentes à divulgação de conteúdo sexual não consentido nos resultados de busca.
Diversas plataformas enfrentam dificuldades para controlar esse tipo de conteúdo. As fotos de Swift, em particular, foram geradas e compartilhadas em um chat de grupo no Telegram, conforme descoberto pela 404Media. O Telegram não conseguiu evitar esse tipo de conteúdo anteriormente. Outros também não conseguiram: neste mês, a NBC News descobriu que pornografia deepfake não-consensual com a aparência de celebridades femininas está aparecendo nos principais mecanismos de busca, como o Google e o Microsoft Bing.
A verdadeira questão é como isso continua a acontecer? A situação alarmante é que as imagens criadas por IA estão se tornando mais comuns e apresentando novos perigos para aqueles que as produzem. Complicando ainda mais esse problema está a falta de clareza legal, as plataformas de mídia social que não conseguiram implementar medidas eficazes de proteção e o contínuo avanço da inteligência artificial. A organização internacional de direitos das mulheres, Igualdade Agora, detalha esses fatores em um relatório de janeiro de 2024, solicitando “respostas urgentes e abrangentes da inovação tecnológica, reforma legal e conscientização social” para lidar com o crescente problema da pornografia falsa.
A situação que envolve o caso de Swift ressalta o fato de que isso pode ocorrer com qualquer pessoa – e antes que essa crise digital se agrave, é necessário promover uma mudança.
Se você tem passado por abuso sexual e está nos Estados Unidos, entre em contato com a linha direta nacional e confidencial de Assistência a Vítimas de Abuso Sexual pelo número 1-800-656-HOPE (4673), ou acesse ajuda online 24 horas por dia, 7 dias por semana, no site online.rainn.org. Se você teve suas imagens íntimas compartilhadas sem o seu consentimento, ligue para a linha de atendimento 24 horas por dia, 7 dias por semana, da Iniciativa de Direitos Civis Cibernéticos pelo número 844-878-2274 para suporte gratuito e confidencial. O site da CCRI também oferece informações úteis e uma lista de recursos internacionais.
Se você está localizado no Reino Unido e tem sido vítima de abuso de imagens íntimas, também conhecido como vingança pornô, você pode contatar o Revenge Porn Helpline através do número de telefone 0345 6000 459. Caso tenha sofrido violência sexual e esteja no Reino Unido, você pode ligar para a linha de ajuda da Crise de Estupro pelo número 0808 802 9999.
O Twitter é uma plataforma de mídia social que permite aos usuários compartilhar mensagens curtas, chamadas de tweets, com seus seguidores.
Mais histórias
Netflix está experimentando a cobrança de um valor adicional pela parte mais premium de seu serviço.
Netflix vai parar de oferecer seus serviços de transmissão de vídeos na Rússia.
Como participar da transmissão do evento de performance da Apple em 8 de março.