4 USOS PREOCUPANTES QUE CRIMINOSOS PODEM FAZER DA INTELIGÊNCIA ARTIFICIAL

  

Apesar de facilitar muitos processos, infelizmente, essa tecnologia pode ser utilizada para fins criminosos — Foto: Reprodução/Freepik

4 usos preocupantes que criminosos podem fazer da inteligência artificial

Apesar de oferecer benefícios significativos para a sociedade, tecnologia também exige um certo ceticismo a fim de proteger seus dados (e sua vida)

Por Daniel Prince* | The Conversation

03/07/2023 14h37  Atualizado há 6 meses

Os avisos sobre inteligência artificial (IA) são onipresentes atualmente. Eles incluem mensagens temerosas sobre o potencial dessa tecnologia de causar a extinção dos seres humanos, usando como exemplo imagens de filmes como O Exterminador do Futuro. O primeiro-ministro do Reino Unido, Rishi Sunak, chegou até a criar uma cúpula para discutir a segurança da IA.

No entanto, estamos usando ferramentas de IA há muito tempo — desde os algoritmos usados para recomendar produtos relevantes em sites de compras até carros com tecnologia que reconhece sinais de trânsito e fornece posicionamento de pista. A IA é uma ferramenta para aumentar a eficiência, processar e classificar grandes volumes de dados e aliviar a tomada de decisões.

Contudo, essas ferramentas estão abertas a todos, inclusive aos criminosos. E já podemos ver o resultado disso. Por exemplo, hoje a tecnologia deepfake tem sido usada para gerar vídeos pornográficos de vingança.

A tecnologia aumenta a eficiência da atividade criminosa. Ela permite que os infratores atinjam um número maior de pessoas e os ajuda a serem mais plausíveis. Observar como os criminosos se adaptaram e adotaram os avanços tecnológicos no passado pode fornecer algumas pistas sobre como eles podem usar a IA.

1. Um gancho de phishing melhor

Ferramentas de IA como o ChatGPT e o Bard, do Google, fornecem suporte de redação, permitindo que escritores inexperientes criem mensagens de marketing eficazes, por exemplo. No entanto, essa tecnologia também pode ajudar os criminosos a parecerem mais críveis ao entrar em contato com possíveis vítimas.

Pense em todos aqueles e-mails e textos de phishing — técnica que visa obter seus dados pessoais como número da identidade, senhas bancárias, número de cartão de crédito — enviadas em forma de spam que são mal escritos e facilmente detectados. Com a ajuda dessas ferramentas é possível escrever um texto mais crível, o que é a chave para obter informações de uma vítima.

Os criminosos podem criar uma versão deepfake de você que pode interagir com membros da família por telefone, texto e e-mail — Foto: Jonas Leupe/Unsplash

O phishing, por exemplo, é um jogo de números: estima-se que 3,4 bilhões de e-mails de spam sejam enviados todos os dias. Meus próprios cálculos mostram que, se os criminosos conseguissem melhorar suas mensagens para que apenas 0,000005% delas convencesse alguém a revelar informações, isso resultaria em 6,2 milhões de vítimas de phishing a mais por ano.

2. Interações automatizadas

Um dos primeiros usos das ferramentas de IA foi automatizar as interações entre clientes e serviços por meio de texto, mensagens de bate-papo e telefone. Isso permitiu uma resposta mais rápida aos clientes e uma eficiência empresarial otimizada. Seu primeiro contato com uma organização provavelmente será com um sistema de IA, antes de falar com um humano.

Os criminosos podem usar as mesmas ferramentas para criar interações automatizadas com um grande número de vítimas em potencial, em uma escala que não seria possível se fosse realizada apenas por humanos. Eles podem se passar por serviços legítimos, como bancos, por telefone e e-mail, na tentativa de obter informações que lhes permitam roubar seu dinheiro.

3. Deepfakes

A IA é muito boa em gerar modelos matemáticos que podem ser "treinados" em grandes quantidades de dados do mundo real, tornando esses modelos melhores em uma determinada tarefa. A tecnologia deepfake em vídeo e áudio é um exemplo disso. Um ato de deepfake chamado Metaphysic demonstrou recentemente o potencial da tecnologia ao revelar um vídeo de Simon Cowell cantando ópera no programa de televisão America's Got Talent.

Essa tecnologia está além do alcance da maioria dos criminosos, mas a capacidade de usar IA para imitar a maneira como uma pessoa responderia a mensagens de texto, escreveria e-mails, deixaria mensagens de voz ou faria chamadas telefônicas está disponível gratuitamente usando essa tecnologia. Assim como os dados para treiná-lo, que podem ser coletados em vídeos nas redes sociais, por exemplo.

A mídia social sempre foi uma fonte rica para os criminosos que extraem informações sobre alvos em potencial. Agora, existe a possibilidade da IA ser usada para criar uma versão deepfake de você. Esse deepfake pode ser explorado para interagir com amigos e familiares, convencendo-os a fornecer aos criminosos informações sobre você. Obter uma visão melhor de sua vida facilita a adivinhação de senhas ou pins.

4. Força bruta

Outra técnica usada por criminosos chamada “força bruta” também pode se beneficiar da IA. É aqui que muitas combinações de caracteres e símbolos são testadas sucessivamente para ver se correspondem às suas senhas.

É por isso que senhas longas e complexas são mais seguras; elas são mais difíceis de adivinhar por esse método. A força bruta exige muitos recursos, mas é mais fácil se você souber algo sobre a pessoa. Por exemplo, isso permite que listas de possíveis senhas sejam ordenadas de acordo com a prioridade – aumentando a eficiência do processo. Eles podem começar com combinações relacionadas aos nomes de membros da família ou animais de estimação.

Algoritmos treinados em seus dados podem ser usados ​​para ajudar a criar essas listas priorizadas com mais precisão e direcionar muitas pessoas ao mesmo tempo – portanto, menos recursos são necessários. Ferramentas específicas de IA podem ser desenvolvidas para coletar seus dados online e, em seguida, analisar tudo para criar um perfil seu.

Se, por exemplo, você publica com frequência nas redes sociais sobre Taylor Swift, revisar manualmente suas postagens em busca de pistas de senha seria um trabalho árduo. Ferramentas automatizadas fazem isso de forma rápida e eficiente. Todas essas informações seriam usadas para criar o perfil, tornando mais fácil adivinhar senhas e pinos.

Ceticismo saudável

Não devemos ter medo da IA, pois ela pode trazer benefícios reais para a sociedade. Mas, como acontece com qualquer nova tecnologia, a sociedade precisa se adaptar e entendê-la. Embora hoje consideremos os smartphones algo natural, a sociedade teve que se ajustar à presença deles em nossa vida. Em grande parte, eles foram benéficos, mas ainda há incertezas, como a quantidade de tempo de tela para as crianças.

Como indivíduos, devemos ser proativos em nossas tentativas de entender a IA, e não complacentes. Devemos desenvolver nossas próprias abordagens para ela, mantendo um senso saudável de ceticismo. Precisaremos considerar como verificar a validade do que estamos lendo, ouvindo ou vendo. Esses atos simples ajudarão a sociedade a colher os benefícios da IA, garantindo que possamos nos proteger de possíveis danos.

*Daniel Prince é professor de Segurança Cibernética na Universidade de Lancaster, no Reino Unido.

Este artigo foi originalmente publicado em inglês no site The Conversation

Fonte:https://revistagalileu.globo.com/tecnologia/noticia/2023/07/4-usos-preocupantes-que-criminosos-podem-fazer-da-inteligencia-artificial.ghtml