App Store
Apple aperta as regras da App Store contra apps que usam IA para criar imagens íntimas falsas de pessoas reais
As apps que deixam criar ou partilhar imagens íntimas sem consentimento, incluindo as feitas com IA, passam a ter de as impedir e apagar ativamente. A Apple também fecha a porta às apps que mostram uma coisa na revisão e outra depois de aprovadas. Na União Europeia, as regras chegam às lojas alternativas.
A Apple reforçou as regras que as aplicações têm de cumprir para entrar na App Store, com o alvo apontado às apps que usam inteligência artificial para "despir" pessoas em fotografias. A nova versão das diretrizes de revisão foi publicada a 16 de outubro no site para programadores da empresa. A Apple lembra que a pornografia sempre esteve proibida na loja, incluindo as apps que geram imagens sexuais de pessoas reais sem o seu consentimento. Segundo o TecheNet, a mudança surge depois de várias investigações terem encontrado apps deste tipo à venda na App Store, apesar da proibição.
O que muda nas regras
A primeira alteração está na secção 1.2, dedicada às apps em que os utilizadores criam ou partilham conteúdos, como redes sociais ou geradores de imagens. Estas passam a ter de impedir e retirar de forma ativa as imagens íntimas não consentidas, e o texto diz explicitamente que isso inclui as que são criadas com ferramentas de IA. Já antes eram obrigadas a filtrar material ofensivo, a deixar denunciar conteúdos e a bloquear contas abusivas. Agora, quem não tiver proteções adequadas, ou não corrigir o problema depois de avisado, arrisca-se a ser expulso da loja.
A segunda mudança é uma regra nova, a 2.5.19, contra as apps que escondem funções. É uma tática conhecida: a app passa a revisão da Apple com um aspeto inofensivo e, depois de aprovada, liga funções que não tinham sido mostradas, como a criação de nudez falsa. A Apple diz que esta proibição já existia e que agora fica clara. Quem for apanhado é retirado da App Store e pode perder a conta no programa de programadores.
O que significa para quem usa iPhone em Portugal
A terceira alteração, na secção 5, toca diretamente a União Europeia. As apps que facilitem o tráfico de pessoas ou a exploração de crianças, incluindo material de abuso sexual infantil, são removidas da App Store e também bloqueadas na distribuição alternativa. É por essa via que, na UE, se instalam apps em iPhone e iPad a partir de lojas de terceiros autorizadas pela Apple, uma possibilidade que a Apple abriu na União Europeia. Nos casos mais graves, as regras preveem que as autoridades sejam avisadas.
Para quem usa as apps, a mudança não exige nada: as regras aplicam-se a quem as cria. Na prática, uma app que deixe gerar ou circular este tipo de imagens passa a ter uma obrigação escrita de as travar e de as apagar. A Apple afirma que, no ano passado, impediu que mais de 150 mil apps com problemas de segurança chegassem aos utilizadores e encerrou mais de 193 mil contas de programadores por fraude e abuso, números que não foram verificados de forma independente.
A mesma atualização mexe ainda noutras regras, como as ligações para compras fora da loja e os materiais promocionais das apps. A Apple diz que as traduções das novas diretrizes ficam disponíveis no site para programadores no prazo de um mês.
