Deepfakes avançam e levantam preocupações sobre fraude e desinformação

Startupi

Deepfakes avançam e levantam preocupações sobre fraude e desinformação

A tecnologia de deepfakes, que utiliza inteligência artificial para criar vídeos falsos realistas, tem apresentado avanços significativos, resultando em conteúdos cada vez mais convincentes. Recentemente, a ByteDance introduziu o sistema OmniHuman-1, capaz de gerar vídeos falsificados com alto grau de realismo.

As deepfakes surgiram em 1997, com o programa Video Rewrite, que modificava vídeos existentes para sincronizar os lábios de uma pessoa com um áudio diferente. Desde então, a tecnologia evoluiu, permitindo a criação de vídeos onde indivíduos parecem dizer ou fazer coisas que nunca ocorreram.

Atualmente, a criação de deepfakes tornou-se mais acessível, com ferramentas disponíveis ao público. Aplicativos como o Reface permitem que usuários substituam rostos em vídeos de forma simples, popularizando o uso dessa tecnologia.

Entretanto, a disseminação de deepfakes levanta preocupações significativas. Um dos principais problemas é a criação de pornografia não consensual, onde rostos de indivíduos são inseridos em conteúdos explícitos sem autorização. Na Coreia do Sul, por exemplo, mulheres têm enfrentado uma crise de pornografia deepfake, com a proliferação de vídeos que utilizam seus rostos sem consentimento.

Além disso, deepfakes têm sido utilizadas em esquemas fraudulentos. Criminosos empregam essa tecnologia para se passar por executivos ou figuras públicas, enganando vítimas e causando prejuízos financeiros. Casos de fraude envolvendo deepfakes aumentaram dez vezes entre 2022 e 2023, segundo o Cyberpeace Institute.

A manipulação de vídeos para disseminar desinformação é outra preocupação. Em 2018, um vídeo falso do ex-presidente Barack Obama foi criado para alertar sobre os perigos das deepfakes na propagação de informações enganosas.

A indústria de “AI pimping” também tem ganhado destaque, com a criação de influenciadores gerados por inteligência artificial que utilizam deepfakes para substituir rostos em vídeos roubados de modelos reais. Essas contas monetizam o conteúdo, impactando negativamente os influenciadores humanos.

Para combater os efeitos negativos das deepfakes, empresas estão desenvolvendo ferramentas de detecção e prevenção. A Meta, por exemplo, lançou uma ferramenta para marca d’água em vídeos gerados por IA, visando identificar conteúdos falsificados.

No entanto, a regulação dessa tecnologia ainda enfrenta desafios. Embora leis tenham sido implementadas para criminalizar a produção e distribuição de deepfakes, a aplicação efetiva é complexa. Ativistas argumentam que é necessário um esforço cultural para abordar as causas profundas desse problema, como a misoginia sistêmica e a falta de conscientização sobre igualdade de gênero.

A evolução das deepfakes também levanta questões éticas e de privacidade. A criação de clones digitais de indivíduos, vivos ou falecidos, para interações ou entretenimento, suscita debates sobre consentimento e os limites da representação digital.

Aproveite e junte-se ao nosso canal no WhatsApp para receber conteúdos exclusivos em primeira mão. Clique aqui para participar. Startupi | Jornalismo para quem lidera inovação!

O post Deepfakes avançam e levantam preocupações sobre fraude e desinformação aparece primeiro em Startupi e foi escrito por Tiago Souza