Apple e Google Sob Fogo por Apps de Deepfakes Sexuais com Classificação Inadequada
Um novo relatório do Tech Transparency Project (TTP) gerou preocupação ao revelar que as lojas da Apple e do Google estão promovendo aplicativos que geram deepfakes sexuais, muitos dos quais possuem classificação etária "para todos". Essa situação levanta sérias questões sobre a segurança e a responsabilidade dessas plataformas em relação ao conteúdo disponível para usuários mais jovens.
O estudo, divulgado na quarta-feira (15/04), identificou 18 aplicativos na App Store e 20 na Google Play que utilizam inteligência artificial para criar imagens sexualmente explícitas de indivíduos. Alarmantemente, cerca de 40% dos dez aplicativos mais baixados na pesquisa eram capazes de gerar conteúdos pornográficos ou imagens de nudez.
Apps Problemáticos em Destaque
Os pesquisadores do TTP descobriram que, ao buscar termos como "nudify" (nudificar) e "undress" (despir), os usuários eram apresentados a diversos aplicativos que transformam fotos de pessoas em conteúdos sexualmente sugestivos. Além disso, as lojas frequentemente sugeriam termos adicionais relacionados a essas buscas, expondo ainda mais os usuários a esse tipo de conteúdo.
Entre os 38 aplicativos analisados, 31 estavam classificados como adequados para menores de idade. Essa classificação inadequada é motivo de preocupação, especialmente em um momento em que o uso de deepfakes sexuais contra adolescentes tem aumentado nas escolas.
Reações das Empresas
A Apple afirmou ter removido 15 dos aplicativos apontados no relatório, enquanto o Google declarou ter suspendido vários deles. Ambas as empresas possuem políticas que proíbem a presença de materiais sexuais e pornográficos em suas plataformas, com o Google adotando regras específicas contra aplicativos que geram nudez não consensual.
O TTP estima que esses aplicativos problemáticos foram baixados cerca de 483 milhões de vezes, gerando uma receita de aproximadamente US$ 122 milhões (cerca de R$ 611 milhões).
Conclusão
A questão dos deepfakes sexuais e sua acessibilidade em plataformas populares como a App Store e a Google Play é um assunto que exige atenção urgente. As medidas tomadas pelas empresas são um passo em direção à proteção dos usuários, mas a necessidade de uma vigilância contínua e de políticas mais rigorosas permanece evidente.
Fonte: Link original
