Desde o fim do s\u00e9culo XVIII, o ser humano tenta usar a tecnologia para replicar a voz. O exemplo mais antigo de que se tem not\u00edcia \u00e9 o dispositivo criado por Wolfgang von Kempelen, oficial da corte austr\u00edaca e inventor amador. A m\u00e1quina falante de Kempelen, como ficou conhecida, usava um fole, tubos, peda\u00e7os de madeira e uma caixa de resson\u00e2ncia para replicar a emiss\u00e3o vocal a partir da circula\u00e7\u00e3o de ar \u2014 \u00e9 mais ou menos o mesmo processo do corpo humano. O sistema, embora primitivo, era capaz de emitir alguns fonemas e at\u00e9 palavras simples, como \u201cmama\u201d e \u201cpapa\u201d. Duzentos e cinquenta anos depois da inven\u00e7\u00e3o de Kempelen, a tecnologia de reprodu\u00e7\u00e3o da voz humana avan\u00e7ou tanto que, agora, \u00e9 quase imposs\u00edvel para um leigo diferenciar um discurso real, feito por uma pessoa de carne, osso e cordas vocais, de outro criado em computador.<\/p>\n
O not\u00e1vel desenvolvimento de vozes sint\u00e9ticas deu origem, por sinal, a um mercado bilion\u00e1rio \u2014 e perigoso. De acordo com dados do instituto de pesquisa MarketsandMarkets, o setor movimentou 8,3 bilh\u00f5es de d\u00f3lares em 2021 e dever\u00e1 alcan\u00e7ar 22 bilh\u00f5es de d\u00f3lares at\u00e9 2026. \u00c9 uma \u00e1rea que inclui assistentes virtuais como Siri e Alexa, sistemas de atendimento virtual de bancos e at\u00e9 celebridades que emprestam a voz para aplicativos. O\u00a0perigo reside na possibilidade de replicar vozes reais para, por exemplo, fins pol\u00edticos, fraudes ou ataques a reputa\u00e7\u00f5es.<\/p>\n
VAL KILMER \u2013 Recuperado: sua voz, prejudicada pelo c\u00e2ncer, foi recriada \u2013EuropaNewswire\/Gado\/Getty Images<\/span><\/p>\n O document\u00e1rio Road\u00adrunner<\/em>, sobre o chef Anthony Bourdain, suscitou debates sobre o tema. Nele, o diretor Morgan Neville usou intelig\u00eancia artificial para transformar frases que Bourdain escreveu, mas nunca falou, em narra\u00e7\u00f5es em off. Sem especificar o que era original e o que era fake<\/em>, Neville foi acusado de enganar o p\u00fablico. Embora tenha dito que a fam\u00edlia deu a autoriza\u00e7\u00e3o necess\u00e1ria, a pol\u00eamica persiste.<\/p>\n No vale-tudo da arena pol\u00edtica, as vozes sint\u00e9ticas podem causar enormes estragos. O\u00a0cineasta Jordan Peele, do aclamado Corra!<\/em>, criou um v\u00eddeo do ex-presidente americano Barack Obama usando a tecnologia deepfake<\/em>, que mescla imagens reais com falas falsas, para alertar sobre os riscos. \u201cEstamos entrando em uma era em que nossos inimigos podem fazer com que qualquer um pare\u00e7a dizer qualquer coisa\u201d, disse a voz fake<\/em> de Obama.<\/p>\n Nesse contexto, plataformas como Whats\u00adApp e Telegram, nas quais mensagens de \u00e1udio s\u00e3o amplamente usadas, representam um perigo adicional. No Brasil, nunca \u00e9 demais lembrar, h\u00e1 uma elei\u00e7\u00e3o presidencial no horizonte e provavelmente o artif\u00edcio das vozes fake<\/em> ser\u00e1 usado por pol\u00edticos mal-intencionados. \u201cToda elei\u00e7\u00e3o \u00e9 impactada por a\u00e7\u00f5es de guerrilha\u201d, diz Marcelo Vitorino, professor de marketing pol\u00edtico da ESPM. \u201c\u00c9 preciso ter em mente que quem usa esse tipo de a\u00e7\u00e3o pretende uma coisa: asfixiar o debate pol\u00edtico real, que \u00e9 o que interessa ao eleitor.\u201d Ele lembra que, ao contr\u00e1rio dos v\u00eddeos, em que (ainda) \u00e9 poss\u00edvel identificar as altera\u00e7\u00f5es, no caso das vozes a tarefa requer a an\u00e1lise minuciosa de peritos.<\/p>\n\n Alheio \u00e0 pol\u00eamica, o mercado est\u00e1 em alta. Empresas como a Speech Morphing, com sede em San Jose, na Calif\u00f3rnia, oferecem servi\u00e7os de cria\u00e7\u00e3o de clones vocais. O cliente grava centenas de frases, algumas delas sem sentido em uma conversa normal, mas que ajudam a treinar a m\u00e1quina. A\u00a0partir dessas grava\u00e7\u00f5es, a intelig\u00eancia artificial reconhece padr\u00f5es e particularidades de cada discurso, criando uma vers\u00e3o sint\u00e9tica capaz de dizer qualquer coisa, com entona\u00e7\u00f5es diferentes. O n\u00edvel de sofistica\u00e7\u00e3o, de fato, impressiona. \u00c9 poss\u00edvel escolher sonoridades mais ou menos humanas, a depender dos objetivos. Um eletrodom\u00e9stico inteligente pode ter uma voz mais rob\u00f3tica, enquanto um assistente voltado para idosos ou crian\u00e7as emite sons que confortam. At\u00e9 a respira\u00e7\u00e3o pode ser replicada, se for necess\u00e1ria para oferecer mais realismo.<\/p>\n A tecnologia tem sido explorada tamb\u00e9m na \u00e1rea da sa\u00fade. O ator Val Kilmer, conhecido por interpretar Batman no cinema, foi diagnosticado com c\u00e2ncer na garganta em 2015. Ap\u00f3s anos de tratamento, se curou da doen\u00e7a, mas ficou com sequelas. Al\u00e9m de usar uma sonda para se alimentar, sua voz desapareceu. Foi gra\u00e7as aos avan\u00e7os na cria\u00e7\u00e3o de vozes sint\u00e9ticas que ele recuperou parte da capacidade de se expressar. A\u00a0partir de grava\u00e7\u00f5es antigas, incluindo falas de filmes, os algoritmos produziram quarenta modelos diferentes da voz de Kilmer, at\u00e9 que ele escolheu aquela que mais se aproximava do real. A semelhan\u00e7a \u00e9 extraordin\u00e1ria. As novas tecnologias, vale ressaltar, s\u00e3o capazes de realizar feitos \u00fanicos \u2014 e positivos. O que n\u00e3o \u00e9 certo \u00e9 us\u00e1-las para propagar mentiras. Cada vez mais ser\u00e1 preciso manter os ouvidos bem atentos.<\/p>\n