GUSTAVO ZEITEL
S\u00c3O PAULO, SP (FOLHAPRESS) – Letras garrafais na tela anunciam um “encontro de dois bandidos”. Ao primeiro estrondo da vinheta do Jornal Nacional, se segue a voz de William Bonner, repetindo o dizer do v\u00eddeo. Nesse momento, o candidato a presidente Luiz In\u00e1cio Lula da Silva, do PT, cumprimenta o vice, Geraldo Alckmin, do PSB. “Perd\u00e3o, imagem errada. A imagem seria de outro ladr\u00e3o, digo, de um ladr\u00e3o de verdade”, disse Bonner, como se constrangido por uma gafe.<\/p>\n
n<\/p>\n
n<\/p>\n
Publicado no TikTok h\u00e1 dois meses, o v\u00eddeo de 14 segundos se alastrou por todas as m\u00eddias sociais, compartilhando o conte\u00fado falso. O jornalista nunca enunciou aquelas palavras e tampouco existiu uma edi\u00e7\u00e3o do telejornal com a mesma montagem. Se h\u00e1 quatro anos os eleitores descobriram o perigo das fake news, a manipula\u00e7\u00e3o em imagem e som do Jornal Nacional prenunciou o uso dos deepfakes nestas elei\u00e7\u00f5es.<\/p>\n
n<\/p>\n
Forma mais engenhosa de falsear not\u00edcias e enganar pessoas, “deepfake” significa em portugu\u00eas “mentira profunda”. A palavra surgiu h\u00e1 cinco anos, num f\u00f3rum da rede social Reddit. Nela, um usu\u00e1rio de nome Deepfakes produziu montagens em que atrizes de Hollywood, como Gal Gadot, a Mulher-Maravilha, surgiam em cenas de sexo expl\u00edcito.<\/p>\n
n<\/p>\n
Em linhas gerais, intelig\u00eancia artificial \u00e9 usada para mostrar pessoas fazendo coisas que jamais fizeram. A t\u00e9cnica empregada pelo usu\u00e1rio an\u00f4nimo consistia em criar um algoritmo \u2013um conjunto de regras e padr\u00f5es l\u00f3gicos\u2013 para treinar uma rede neural \u2013isto \u00e9, modelos computacionais inspirados no c\u00e9rebro humano\u2013 a sobrep\u00f4r voz e imagem da v\u00edtima escolhida ao rosto da pessoa do v\u00eddeo original.<\/p>\n
n<\/p>\n
Nos programas que executam as montagens, as redes neurais mapeiam o rosto a ser copiado, ajustando a movimenta\u00e7\u00e3o de l\u00e1bios e olhos. O escaneamento do modelo se repete, at\u00e9 que a sobreposi\u00e7\u00e3o se torne a mais realista poss\u00edvel. A pornografia ainda responde por boa parte das edi\u00e7\u00f5es, mas os deepfakes t\u00eam uma est\u00e9tica particular. Com os anos, a t\u00e9cnica se tornou a um s\u00f3 tempo fonte de desinforma\u00e7\u00e3o, debates pol\u00edticos e inspira\u00e7\u00e3o art\u00edstica.<\/p>\n
n<\/p>\n
Diretor do Instituto de Computa\u00e7\u00e3o da Universidade Estadual de Campinas, a Unicamp, Anderson de Rezende Rocha afirma que os deepfakes mais realistas s\u00e3o feitos com poderosas GPUs \u2013as unidades de processamento gr\u00e1fico do computador.<\/p>\n
n<\/p>\n
Al\u00e9m de investir dias na elabora\u00e7\u00e3o dos v\u00eddeos, a produ\u00e7\u00e3o de um deepfake demanda uma boa quantidade de dados da v\u00edtima. Por isso, \u00e9 t\u00e3o mais comum encontrar montagens de pessoas famosas. Afinal, William Bonner tem muito mais imagens na internet do que um an\u00f4nimo.<\/p>\n
n<\/p>\n
“Estamos acompanhando o surgimento das realidades sint\u00e9ticas”, diz Rocha. Alguns aplicativos para telefone geram deepfakes em alguns minutos, mas a qualidade da manipula\u00e7\u00e3o \u00e9 bem inferior aos v\u00eddeos feitos com poderosas placas de v\u00eddeo.<\/p>\n
n<\/p>\n
Segundo Rocha, as montagens podem ser detectadas na qualidade da imagem, em sua borda e textura, ou na fluidez do v\u00eddeo, se \u00e9 tr\u00eamulo ou tem arroubos entre os quadros. Nas elei\u00e7\u00f5es, as redes sofrem com uma enxurrada de v\u00eddeos manipulados, mas nem todos s\u00e3o deepfakes.
“\u00c0s vezes o autor combina intelig\u00eancia artificial com programas de edi\u00e7\u00e3o, ent\u00e3o fica dif\u00edcil identificar o deepfake”, ele afirma. “Est\u00e1 uma confus\u00e3o muito grande.”<\/p>\n
n<\/p>\n
Quando faltavam duas semanas para o primeiro turno, o Jornal Nacional voltou a ser alvo de edi\u00e7\u00f5es audiovisuais. Num v\u00eddeo compartilhado no Twitter, no WhatsApp e no YouTube, a apresentadora Renata Vasconcellos mostrava uma pesquisa do Ipec em que o candidato Jair Bolsonaro, do PL, aparecia liderando a corrida eleitoral, com 44% dos votos contra 32% de Lula.<\/p>\n
n<\/p>\n
No dia 19 de setembro, os apresentadores do telejornal tiveram de rebater as informa\u00e7\u00f5es falsas. Bolsonaro nunca esteve \u00e0 frente nas pesquisas, e a realidade indicava justamente o oposto \u2013o petista com 44%, seguido por Bolsonaro, com 32%.<\/p>\n
n<\/p>\n
Na ocasi\u00e3o, os apresentadores classificaram o v\u00eddeo como mais um deepfake, mas especialistas esclareceram que a montagem havia sido feita em programas de edi\u00e7\u00e3o tradicionais. Do mesmo modo, outro v\u00eddeo falso surgiu pouco tempo depois. Nele, a dupla de apresentadores mostrava uma suposta pesquisa que indicava a lideran\u00e7a do atual presidente por 51% contra 43% de Lula.<\/p>\n
n<\/p>\n
Segundo Ester Borges, coordenadora da \u00e1rea de informa\u00e7\u00e3o e pol\u00edtica do InternetLab, um centro de pesquisa independente, pouco importa se o v\u00eddeo \u00e9 um deepfake ou n\u00e3o. As montagens enganam os eleitores, num contexto de guerra informacional em que os v\u00eddeos t\u00eam primazia entre as formas de comunica\u00e7\u00e3o.<\/p>\n
n<\/p>\n
A adultera\u00e7\u00e3o de imagem e \u00e1udio, por\u00e9m, representa um desafio ainda maior no combate \u00e0 desinforma\u00e7\u00e3o. “\u00c9 mais dif\u00edcil que as pessoas busquem a checagem de fatos, com t\u00e9cnicas mais aprumadas de manipula\u00e7\u00e3o dos v\u00eddeos”, diz ela.<\/p>\n
n<\/p>\n
Monitorando as redes, Borges percebeu que, no primeiro turno, a maior parte das fake news lan\u00e7ava d\u00favidas sobre a lisura das urnas. No segundo turno, ela conta que o debate se voltou \u00e0s pautas de costumes \u2013os apoiadores de Bolsonaro afirmam que Lula tem pacto com o Diabo, enquanto surgem informa\u00e7\u00f5es falsas sobre ma\u00e7onaria, tentando atingir o candidato \u00e0 reelei\u00e7\u00e3o.<\/p>\n
n<\/p>\n
Se em 2018 o disparo de mensagens em massa no WhatsApp foi uma das t\u00e1ticas mais usadas entre os bolsonaristas, agora os eleitores parecem evitar grupos com muitos integrantes. O estudo “Os Vetores da Comunica\u00e7\u00e3o Pol\u00edtica em Aplicativos de Mensagens: H\u00e1bitos e Percep\u00e7\u00f5es do Brasileiro”, realizado pelo InternetLab em parceria com a Rede Conhecimento Social, aponta um crescimento de 12 pontos percentuais para o Telegram, usado por 43% dos entrevistados. J\u00e1 o TikTok, segundo Borges, tamb\u00e9m \u00e9 bastante acessado, mas sobretudo pelos jovens.<\/p>\n
n<\/p>\n
Camilo Aggio, que d\u00e1 aulas de comunica\u00e7\u00e3o social na Universidade Federal de Minas Gerais, a UFMG, pensa que os deepfakes ainda n\u00e3o causaram danos \u00e0 democracia, tal como alardeado h\u00e1 cinco anos.
“O deepfake causa um desnorteio em muitas pessoas, aumentando a cacofonia nas redes”, ele diz. “Mas um v\u00eddeo n\u00e3o vai mudar o voto de um bolsonarista ou de um lulista, as pessoas tendem a repassar as fake news que ativam suas convic\u00e7\u00f5es.”<\/p>\n
n<\/p>\n
Segundo Aggio, atribuir exclusivamente \u00e0 imprensa a responsabilidade de controlar a massa de desinforma\u00e7\u00e3o nas redes \u00e9 uma injusti\u00e7a. “N\u00e3o que o jornalismo n\u00e3o deva cumprir seu papel, mas as redes sociais precisam ser responsabilizadas pelo conte\u00fado que gerenciam”, afirma.<\/p>\n
n<\/p>\n
Na tarde do dia 14 de outubro, Bruno Sartori, de 33 anos, passou horas a fio em seu quarto, cumprindo a agenda de reuni\u00f5es com seus novos clientes. Usando dois monitores e um potente computador, ele se transformou num “deepfaker” profissional, conciliando as demandas do mercado publicit\u00e1rio e os deveres de influenciador digital.<\/p>\n
n<\/p>\n
Nascido em Una\u00ed, no interior de Minas Gerais, Sartori primeiro trabalhou como chargista do jornal da cidade, onde publicava s\u00e1tiras dos pol\u00edticos locais. Pouco a pouco, fundiu o desenho com a tecnologia, publicando v\u00eddeos humor\u00edsticos em que trocava o rosto dos personagens. Descobriu o deepfake quando a tecnologia surgiu e, na pandemia, seus v\u00eddeos se espalharam pela internet, chamando a aten\u00e7\u00e3o do mercado.<\/p>\n
n<\/p>\n
Agora empres\u00e1rio, Sartori tem pouco tempo para brincar nas redes sociais. Apesar de ter sofrido amea\u00e7as de morte, o autointitulado “bruxo dos v\u00eddeos” fez quest\u00e3o de se mostrar engajado. S\u00f3 de cuequinha, ele exibiu o dorso nu e, rebolativo, anunciou que seu desejo de votar em Lula \u00e9 tamanho, que parece o desespero dos bolsonaristas.
Segundo Sartori, a tecnologia em si n\u00e3o \u00e9 nociva. Ele mesmo a usa para criar pe\u00e7as de entretenimento nas redes sociais, como o v\u00eddeo em que Silvio Santos apresenta o Jornal Nacional. Na Holanda, ele lembra, a ferramenta ajudou at\u00e9 a investiga\u00e7\u00e3o de um caso de assassinato sem solu\u00e7\u00e3o h\u00e1 quase 20 anos.<\/p>\n
n<\/p>\n
Em maio, a pol\u00edcia de Roterd\u00e3 criou um comercial para televis\u00e3o e internet, usando o deepfake de Sedar Soares, jovem de 13 anos morto em 2003. A pol\u00edcia pedia informa\u00e7\u00f5es que pudessem elucidar o crime.
Sartori afirma, contudo, que o perigo da manipula\u00e7\u00e3o de v\u00eddeos vai aumentar, tanto mais com o aprimoramento dos aplicativos. “Temos que nos preparar com campanhas educacionais para a popula\u00e7\u00e3o, o que n\u00e3o vai acontecer se a extrema direita for reeleita”, diz.<\/p>\n
n<\/p>\n
Enquanto isso, os deepfakes provocam dores de cabe\u00e7a nos artistas. Em julho deste ano, por exemplo, correu no WhatsApp um v\u00eddeo de Anitta praticando uma inesperada fela\u00e7\u00e3o. A assessoria da cantora logo classificou a montagem como uma a\u00e7\u00e3o criminosa.<\/p>\n
n<\/p>\n
No exterior, uma onda de deepfakes atormenta Hollywood. O ator Nicolas Cage aparece no TikTok em produ\u00e7\u00f5es que jamais atuou, como o seriado de com\u00e9dia “Friends” e os filmes “Os Vingadores” e “Matrix”.
Na mesma rede social, Robert Pattinson, o vampirinho da saga “Crep\u00fasculo”, soma 660 mil seguidores. O conte\u00fado ali publicado \u00e9 todo falso. S\u00f3 o primeiro v\u00eddeo da p\u00e1gina alcan\u00e7ou 20 milh\u00f5es de visualiza\u00e7\u00f5es.<\/p>\n
n<\/p>\n
J\u00e1 a conta falsa de Tom Cruise, com 3,6 milh\u00f5es de seguidores, mostra o suposto cotidiano do ator. Cruise cortando o cabelo, se arrumando para uma festa ou descansando no parque. Como as montagens s\u00e3o feitas sem o consentimento das pessoas, os deepfakes levantam d\u00favidas sobre a legalidade de alguns dos usos desse tipo de tecnologia. Segundo a legisla\u00e7\u00e3o brasileira, os crimes variam conforme o conte\u00fado do v\u00eddeo.<\/p>\n
n<\/p>\n
No atual contexto pol\u00edtico, montagens que ofendam a honra de candidatos devem ser discutidas no \u00e2mbito da Justi\u00e7a Eleitoral, respons\u00e1vel por avaliar a exist\u00eancia de crimes previstos em seu respectivo c\u00f3digo. \u00c9 o caso do deepfake intitulado “encontro de bandidos”, sobre Lula e Alckmin, que poderia ser enquadrado como cal\u00fania ou difama\u00e7\u00e3o.<\/p>\n
n<\/p>\n
Fora das elei\u00e7\u00f5es, deepfakes podem percorrer todo o espectro do C\u00f3digo Penal. No caso de Anitta, o artigo 218C disp\u00f5e sobre o crime de divulga\u00e7\u00e3o de material pornogr\u00e1fico sem o consentimento da v\u00edtima.
“As leis atuam de maneira gen\u00e9rica, n\u00e3o podemos criar um artigo para cada tecnologia que surge”, diz M\u00e1rcio Stival, especialista em direito da internet. “Para casos como o de Anitta, devemos endurecer as penas, porque est\u00e1 f\u00e1cil cometer crime.”<\/p>\n
n<\/p>\n
Do lado das redes sociais, s\u00e3o incipientes os esfor\u00e7os para combater a desinforma\u00e7\u00e3o. As plataformas da Meta, como Facebook ou Instagram, adotam a pol\u00edtica de remo\u00e7\u00e3o das fake news. J\u00e1 o Twitter acrescenta um r\u00f3tulo \u00e0s postagens com conte\u00fados falsos. O TikTok permite par\u00f3dias, caso sejam identificadas ao p\u00fablico.<\/p>\n
n<\/p>\n
Para Christian Perrone, do Instituto de Tecnologia e Sociedade, a situa\u00e7\u00e3o n\u00e3o \u00e9 t\u00e3o f\u00e1cil para a atua\u00e7\u00e3o proativa das m\u00eddias. “O caminho \u00e9 descobrir quem financia as campanhas de desinforma\u00e7\u00e3o, mas precisamos decidir o que desejamos que as redes fa\u00e7am”, diz. “Uma atua\u00e7\u00e3o rigorosa pode restringir deepfakes positivos.”<\/p>\n
n<\/p>\n
Nesse jogo entre criador e criatura, a arte dita as novas utiliza\u00e7\u00f5es dos deepfakes. A intelig\u00eancia artificial estabelece uma nova verdade, negando aquela da metaf\u00edsica ou da realidade factual. Ao contr\u00e1rio, a verdade do deepfake se apoia na cren\u00e7a da semelhan\u00e7a das imagens, despertando uma controv\u00e9rsia que s\u00f3 agu\u00e7a o interesse art\u00edstico.<\/p>\n
n<\/p>\n
“Toda tecnologia pode ter um uso funcional ou criativo. O artista \u00e9 aquele que subverte a ferramenta, inventando outras formas para sua utiliza\u00e7\u00e3o”, afirma a pesquisadora Giselle Beiguelman, autora do livro “Pol\u00edticas da Imagem: Vigil\u00e2ncia e Resist\u00eancia na Dadosfera”.<\/p>\n
n<\/p>\n
No ano passado, o artista pl\u00e1stico Guilherme Bretas usou deepfakes para criar o “\u00c1lbum Afirmativo da Cidade de S\u00e3o Paulo”. O projeto partiu do comp\u00eandio de imagens feito pelo fot\u00f3grafo carioca Milit\u00e3o Augusto de Azevedo que, no s\u00e9culo 19, documentou a participa\u00e7\u00e3o de negros no processo de forma\u00e7\u00e3o da met\u00f3pole.<\/p>\n
n<\/p>\n
Bretas pediu que integrantes do coletivo Malungo, da escola de arquitetura da USP, reagissem \u00e0s imagens de Azevedo, sendo filmados pela equipe do Preta Lab, plataforma que conecta mulheres negras \u00e0 internet. Como resultado, o artista fundiu as emo\u00e7\u00f5es dos jovens aos registros do s\u00e9culo 19, propondo uma nova interpreta\u00e7\u00e3o da hist\u00f3ria do pa\u00eds.<\/p>\n
n<\/p>\n
A interven\u00e7\u00e3o em imagens, portanto, se insere no esp\u00edrito revisionista que a arte contempor\u00e2nea decidiu encarnar. Em 2019, os artistas Francesca Panetta e Halsey Burgung alertaram que os deepfakes podem reescrever o passado de maneira enganosa. A videoinstala\u00e7\u00e3o “In the Event of the Moon” traz um discurso do presidente americano Richard Nixon, feito no Sal\u00e3o Oval, na Casa Branca, em 1969.<\/p>\n
n<\/p>\n
Escrito por William Safire, o texto seria lido em caso de acidente envolvendo o Apolo 11 em sua miss\u00e3o lunar. Os artistas usaram v\u00e1rios discursos presidenciais, fundindo as express\u00f5es de Nixon a um clone, at\u00e9 fazer um v\u00eddeo in\u00e9dito e hiper-realista.<\/p>\n
n<\/p>\n
No cinema, o impacto dos deepfakes ser\u00e1 ainda maior. Tr\u00eas anos atr\u00e1s, o filme “Projeto Gemini” usou a t\u00e9cnica para gerar um clone do ator Will Smith. Naquele ano, a t\u00e9cnica tamb\u00e9m foi usada em “O Irland\u00eas”, filme de Martin Scorsese, para rejuvenescer o ator Robert De Niro. A intelig\u00eancia artificial poupar\u00e1 faustas quantias de Hollywood, um mercado que anda combalido.<\/p>\n
n<\/p>\n
Segundo a pesquisadora Giselle Beiguelman, a arte n\u00e3o sofre um processo de desumaniza\u00e7\u00e3o, mas a intelig\u00eancia artificial indaga que tipo de historicidade as imagens podem sugerir. “Se a vis\u00e3o \u00e9 um atributo biol\u00f3gico, o olhar \u00e9 cultural”, ela diz.<\/p>\n
n<\/p>\n
As redes neurais tamb\u00e9m buscam reconstituir a hist\u00f3ria da m\u00fasica. Em 2019, a empresa chinesa Huawei usou princ\u00edpios similares aos dos v\u00eddeos para completar a sinfonia inacabada de Franz Schubert. Cientistas se serviram de um algoritmo para analisar 90 pe\u00e7as do compositor austr\u00edaco. Ap\u00f3s descobrirem um padr\u00e3o, sugeriram o que seria os terceiro e quarto movimentos da obra.<\/p>\n
n<\/p>\n
J\u00e1 o Instituto Karajan, de Salzburgo, na \u00c1ustria, desenvolveu um modelo computacional para descobrir o que teria sido a d\u00e9cima sinfonia de Ludwig van Beethoven. A obra estreou no festival BeethovenFest, em Bonn, na Alemanha, em 2021. O trabalho foi realizado a partir de alguns rascunhos da partitura.<\/p>\n
n<\/p>\n
No futuro, Sartori, o influenciador, acredita que a tecnologia nos levar\u00e1 \u00e0 customiza\u00e7\u00e3o do conte\u00fado. O assinante de uma plataforma de streaming escolher\u00e1 quem deve atuar nos filmes ou ouviremos um disco na voz de quem desejarmos \u2013outros artistas, a sogra, o melhor amigo.<\/p>\n
n<\/p>\n
No plano pol\u00edtico, Sartori diz temer um novo governo de Jair Bolsonaro, pensando tamb\u00e9m nas elei\u00e7\u00f5es de 2026. “Se Bolsonaro vencer, ser\u00e1 s\u00f3 ladeira abaixo. Seu governo beneficia a desinforma\u00e7\u00e3o. N\u00f3s ainda n\u00e3o vimos 5% do que os deepfakes s\u00e3o capazes de fazer.”<\/p>\n","protected":false},"excerpt":{"rendered":"
GUSTAVO ZEITELS\u00c3O PAULO, SP (FOLHAPRESS) – Letras garrafais na tela anunciam um “encontro de dois…<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[20062],"tags":[],"class_list":["post-1495361","post","type-post","status-publish","format-standard","hentry","category-tech"],"_links":{"self":[{"href":"https:\/\/bocudo.com\/index.php?rest_route=\/wp\/v2\/posts\/1495361","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bocudo.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bocudo.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bocudo.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bocudo.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1495361"}],"version-history":[{"count":0,"href":"https:\/\/bocudo.com\/index.php?rest_route=\/wp\/v2\/posts\/1495361\/revisions"}],"wp:attachment":[{"href":"https:\/\/bocudo.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1495361"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bocudo.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1495361"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bocudo.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1495361"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}