China criminaliza publicação de notícias falsas produzidas com alta tecnologia

A partir de 1 de Janeiro, tanto provedores como os utilizadores de internet estão proibidos de utilizar tecnologias como o Deep Learning ou a Realidade Virtual para criar, distribuir ou transmitir notícias falsas.

Exemplo de 'deepfake' criado com a aplicação Zao

Numa altura em que a discussão sobre as notícias falsas e as deepfakes tem como principais personagens as redes sociais e os seus gestores — nomeadamente o Facebook e o Twitter pelas suas posições opostas quanto à publicação de informação por parte dos políticos — da China chega uma história substancialmente diferente. É o próprio governo chinês a tomar as rédeas legislativas e a criminalizar a publicação e distribuição inadvertida deste tipo de conteúdo.

A medida que entrará em vigor a 1 de Janeiro de 2020 é resultado de um acordo entre três entidades governamentais, entre elas o regulador responsável pela Internet — a Adminstração do Ciberespaço na China. Sem mencionar directamente o termo deepfakes, estipula que tanto provedores como os utilizadores de internet estão proibidos de utilizar tecnologias como o Deep Learning ou a Realidade Virtual para criar, distribuir ou transmitir notícias falsas.

A entidade reguladora do ciberespaço, ouvida por um media local, referiu que a medida visa combater a utilização deste tipo de tecnologias com o objectivo de alterar a ordem social, violar o interesse das pessoas, criar situações políticas de risco, pôr em causa a segurança nacional ou a estabilidade social. Neste sentido, importa referir esta não é a primeira iniciativa legislativa neste matéria, apesar de ser a mais abrangente. No princípio de Outubro e no arranque das campanhas para as eleições nos Estados Unidos da América, o governador da Califórnia aprovou uma lei semelhante mas que se limita aos 60 dias antes das eleições.

Os deepfakes ou as notícias geradas por sistemas de inteligência artificial e automaticamente disseminadas em sites falsos têm sido um novo elemento no complexo arsenal de informação e desinformação especialmente com objectivos políticos – com o avanço da tecnologia a tornar estas técnicas cada vez mais acessíveis. Se nos Estados Unidos da América, foi um vídeo de Nancy Pelosi que o Facebook se recusou a travar que trouxe os deepfakes para os holofotes, na China foi a disseminação de uma aplicação para Smartphone que de modo muito convincente permitia trocar a cara de personagens de filmes ou séries para a dos utilizadores que despertou a atenção. Em dois dias, a aplicação Zao subiu ao número 1 da App Store da Apple.

No cômputo geral, também o Congresso Norte Americano tem mostrado vontade de legislar esta realidade, para além da pressão exercida sobre as plataformas para que assumam responsabilidade pela sua disseminação. Em estudo está, entre outras propostas, uma análoga à que entrará em vigor na China e que prevê que os conteúdos criados com estes sistemas tenham uma marca de água visível ou um aviso concreto.

Tanto a iniciativa de um lado como de outro são importantes pistas sobre a forma como os governos estão a reagir ao manancial de complexidade que as novas tecnologias criaram nas formas de criação de discurso, abrindo a porta à criação de novas leis e à criminalização da disseminação deste tipo de conteúdos. A definição do que é uma notícia falsa — e a forma como esta categorização pode servir para abarcar outro tipo de conteúdos — é uma importante discussão que com certeza marcará a próxima década.