Deepfakes estão chegando no setor financeiro

Empresas que usam fotos ou áudio para verificar a identidade dos clientes estão se preparando para que pessoas mal-intencionadas manipulem o sistema com inteligência artificial generativa

Deepfakes há muito tempo têm levantado preocupações nas redes sociais, eleições e no setor público. Mas agora, com avanços tecnológicos tornando as vozes e imagens habilitadas por inteligência artificial mais realistas do que nunca, pessoas mal-intencionadas armadas com deepfakes estão mirando nas empresas.

“Sempre aconteceram chamadas fraudulentas. Mas a capacidade desses modelos de IA agora imitarem os padrões de voz reais de um indivíduo dando instruções a alguém pelo telefone para fazer algo – esses tipos de riscos são totalmente novos”, afirmou Bill Cassidy, diretor de informações da New York Life.

Bancos e provedores de serviços financeiros estão entre as primeiras empresas a serem alvo. “Este espaço está evoluindo muito rápido”, refletiu Kyle Kappel, líder de Cibersegurança da KPMG nos EUA.

A rapidez foi demonstrada no início deste mês, quando a OpenAI apresentou uma tecnologia que pode recriar uma voz humana a partir de um clipe de 15 segundos. A OpenAI afirmou que não lançará a tecnologia publicamente até saber mais sobre os possíveis riscos de uso indevido.

Entre as preocupações está o fato de que pessoas mal-intencionadas poderiam usar áudio gerado por IA para burlar softwares de autenticação de voz usados por empresas de serviços financeiros para verificar clientes e conceder-lhes acesso às suas contas.

O Chase Bank foi recentemente enganado por uma voz gerada por IA durante um experimento. O banco afirmou que, para concluir transações e outras solicitações financeiras, os clientes devem fornecer informações adicionais.

Os incidentes de deepfake no setor de fintech aumentaram 700% em 2023 em relação ao ano anterior, de acordo com um relatório recente da plataforma de verificação de identidade Sumsub.

As empresas afirmam que estão trabalhando para estabelecer mais medidas de proteção para se preparar para uma onda iminente de ataques impulsionados por inteligência artificial generativa. Por exemplo, Cassidy disse que está trabalhando com o grupo de capital de risco da New York Life para identificar startups e tecnologias emergentes projetadas para combater deepfakes.

“Em muitos casos, a melhor defesa contra essa ameaça de inteligência artificial generativa é alguma forma de inteligência artificial generativa do outro lado”, apontou ele.

Pessoas mal-intencionadas também podem usar a IA para gerar fotos de carteiras de motorista falsas para criar contas online, portanto, Alex Carriles, diretor digital do Simmons Bank, destacou que está alterando alguns protocolos de verificação de identidade.

Anteriormente, uma etapa na abertura de uma conta online no banco envolvia os clientes fazerem upload de fotos de suas carteiras de motorista. Agora que imagens de carteiras de motorista podem ser facilmente geradas com IA, o banco está trabalhando com o fornecedor de segurança IDScan.net para melhorar o processo.

Em vez de fazer upload de uma foto existente, Carriles explicou que os clientes agora devem fotografar suas carteiras de motorista através do aplicativo do banco e depois tirar selfies.

Para evitar uma situação em que eles segurem câmeras para cima de uma tela com uma visualização gerada por IA do rosto de outra pessoa, o aplicativo instrui os usuários a olhar para a esquerda, direita, para cima ou para baixo, já que um deepfake genérico de IA não estará necessariamente preparado para fazer o mesmo.

Pode ser difícil equilibrar a oferta de uma boa experiência aos usuários e tornar o processo tão fluido que os ataques possam passar despercebidos, disse Carriles.

Nem todos os bancos estão acionando o alarme ainda. A CIO do KeyBank, Amy Brady, pontuou que o banco estava atrasado em termos de tecnologia ao adotar software de autenticação de voz. Agora, Brady disse que considera que teve sorte dada a ameaça de deepfakes.

Brady afirmou que não pretende mais implementar software de autenticação de voz até que haja melhores ferramentas para desmascarar as imitações. “Às vezes, ser atrasado compensa”, concluiu ela.

(Com The Wall Street Journal; título original: Deepfakes Are Coming for the Financial Sector; tradução feita com auxílio de IA)