Avanços na inteligência artificial significam que áudio e vídeos falsos estão se tornando mais convincentes. Leia isto para se manter um passo à frente.
Imagine que você está realizando uma videoconferência com um colega ou parceiro de negócios em outra cidade. Você está discutindo assuntos delicados, como o lançamento de um novo produto ou os últimos relatórios financeiros não publicados. Parece que tudo está indo bem e você sabe com quem está falando. Talvez você já os tenha conhecido antes. A aparência e a voz deles são as que você esperava, e eles parecem estar bem familiarizados com seus empregos e sua empresa.
Pode soar como uma ligação de negócios de rotina, mas e se a pessoa com quem você pensou que estava falando for na verdade outra pessoa? Eles podem parecer genuínos, mas por trás das imagens e áudio familiares está um golpista de engenharia social com a intenção de induzi-lo a entregar informações corporativas confidenciais. Em suma, este é o mundo perturbador dos deepfakes, onde a inteligência artificial é a nova arma preferida no arsenal do golpista.
O que exatamente são deepfakes?
Entre as palavras mais recentes no bloco de tecnologia, ‘deepfake’ é uma mala de viagem de ‘deep learning’ e ‘fake’. O termo já existe há dois anos, quando apareceu pela primeira vez em uma comunidade do Reddit com o mesmo nome. A tecnologia usa inteligência artificial para sobrepor e combinar imagens, vídeos e áudio reais e gerados por IA para torná-los quase indistinguíveis da coisa real. A aparente autenticidade dos resultados está atingindo níveis perturbadores rapidamente.
Um dos deepfakes mais famosos de todos foi criado pelo ator e comediante Jordan Peele, que fez este vídeo de Obama entregando um PSA sobre notícias falsas . Embora este tenha sido feito por uma questão de humor e para aumentar a conscientização sobre essa tendência emergente, a tecnologia deepfake tem, sem surpresa, sido utilizada indevidamente desde o início. Suas implicações para a credibilidade e autenticidade colocaram-no diretamente no centro das atenções.
As consequências preocupantes dos deepfakes
Onde quer que haja inovação tecnológica, quase sempre há pornografia, então não é nenhuma surpresa que os primeiros deepfakes a fazer barulho no Reddit foram vídeos que foram manipulados para substituir os rostos das atrizes originais pelos de outra pessoa – tipicamente uma celebridade conhecida. O Reddit, junto com muitas outras redes, proibiu a prática desde então. No entanto, como a atriz Scarlett Johansson disse sobre a pornografia falsa , enquanto as celebridades são amplamente protegidas por sua fama, a tendência representa uma grave ameaça para as pessoas de menor destaque. Em outras palavras, aqueles que não tomam medidas para proteger suas identidades podem acabar enfrentando um colapso de reputação.
Isso me leva às consequências políticas das falsificações profundas. Até agora, as tentativas de se disfarçar de políticos conhecidos foram realizadas principalmente em nome da pesquisa ou da comédia. Mas está chegando o momento em que os deepfakes podem se tornar realistas o suficiente para causar uma agitação social generalizada. Não seremos mais capazes de confiar em nossos olhos e ouvidos para um relato em primeira mão dos eventos. Imagine, por exemplo, ver um vídeo realista de um líder mundial discutindo planos para realizar assassinatos em estados rivais. Em um mundo preparado para a violência, as implicações da tecnologia deepfake podem ter consequências devastadoras.
Os fornecedores de notícias falsas que buscam causar um impacto político são apenas um lado da história. A outra é a forma de engenharia social com a qual os líderes empresariais estão bem familiarizados. Como ilustra o exemplo da videoconferência, os deepfakes são uma nova arma para os cibercriminosos. E não é tão longe quanto você pode pensar: o primeiro ataque deepfake do mundo contra uma corporação foi relatado em agosto de 2019 , quando uma empresa de energia do Reino Unido foi enganada por uma pessoa disfarçada de chefe de sua empresa controladora alemã. O golpista supostamente usou IA para personificar o sotaque e os padrões de voz do CEO deste último, alguém com quem a vítima estava familiarizada, por meio de um telefonema. A vítima não suspeitou de nada e foi enganada em US $ 243.000.
Esses usos de tecnologia deepfake podem parecer rebuscados, mas é importante lembrar que os golpistas de engenharia social têm se feito passar por pessoas muito antes do surgimento das tecnologias digitais. Os criminosos não precisam mais ir tão longe quanto estudar os alvos em grande profundidade e até mesmo contratar maquiadores para se disfarçar ; agora eles têm tecnologias emergentes do seu lado, como as empresas fazem para fins legítimos. Anteriormente, personificar um VIP com sucesso era muito mais difícil. Agora, a capacidade de criar fantoches falsos de pessoas reais usando fotos publicamente disponíveis, gravações de vídeo e áudio está ao alcance de todos.
Você pode proteger sua empresa de deepfakes?
O equívoco comum, de que a personificação sintética nunca pode ser tão convincente quanto a coisa real, é o maior perigo de todos. Vivemos em um mundo onde é cada vez mais difícil distinguir o fato da ficção. Das centenas de milhões de perfis falsos de mídia social à propagação preocupante de notícias falsas e ao aumento constante de ataques de phishing – nunca foi tão importante pensar duas vezes sobre o que você vê.
Afinal de contas, talvez haja um motivo para o retorno das reuniões face a face a portas fechadas ao discutir assuntos de negócios importantes. Felizmente, existem outras maneiras de preparar sua empresa para o aumento inevitável de deepfakes sem colocar enormes barreiras no caminho da inovação.
Para começar, ‘ver para acreditar’ é um conceito que você deseja evitar cada vez mais quando se trata de assistir a vídeos ou ouvir áudio, incluindo transmissões ao vivo. Para olhos não treinados, os deepfakes estão ficando mais difíceis de distinguir da coisa real, mas existem, e provavelmente sempre haverá, alguns sinais devido à forma fundamental como os algoritmos de IA funcionam. Quando um algoritmo deepfake gera novas faces, elas são transformadas geometricamente com rotação, redimensionamento e outras distorções. É um processo que inevitavelmente deixa para trás alguns artefatos gráficos.
Embora esses artefatos se tornem mais difíceis de identificar apenas à vista, a própria IA também pode ser usada como uma força para o bem – ela pode detectar se um vídeo ou stream é autêntico ou não. A ciência da defesa contra os deepfakes é uma batalha de vontades: conforme os deepfakes aumentam em credibilidade, os profissionais de segurança cibernética precisam investir mais na busca da verdade.
Uma equipe de pesquisadores na China publicou recentemente um método para usar a própria IA para expor falsificações profundas em tempo real. Outro artigo publicado pela mesma equipe descobriu uma maneira de proteger proativamente fotos e vídeos digitais de serem desviados por algoritmos deepfake adicionando ruído digital, invisível ao olho humano. À medida que a ameaça de deepfakes se aproxima cada vez mais, podemos esperar que mais contramedidas sigam o exemplo.
Publicado originalmente em https://www.kaspersky.com/blog/secure-futures-magazine/deepfakes-2019/28954/#
