A cibersegurança na era da inteligência artificial (IA)
Redação
As manobras criminosas, chamadas de ataque de injeção imediata, podem ser diretas ou indiretas, e hoje respondem por uma das grandes preocupações entre os especialistas em segurança. Os large language models (LLM) são a base dos recentes avanços da IA, sobretudo a IA generativa, porém as vulnerabilidades por meio de interações não intencionais, por vezes pela instrução de terceiros, denotam que a corrida contra jailbreaks que, na TI, significa vencer os sistemas de segurança de dispositivos tecnológicos, que é diário e constante.
Alexandre Gusson –
As empresas olham hoje para a segurança digital como um diferencial estratégico para os seus negócios, independentemente do setor de atuação. Os motivos para essa preocupação não faltam: o Brasil é o país da América Latina que mais sofre com ataques cibernéticos – foram 23 bilhões de tentativas de violações apenas no primeiro semestre deste ano.
No ambiente global, o Fórum Econômico Mundial vê o cibercrime como um risco a ser amplamente combatido. Estes são apenas alguns dados que mostram que brechas de segurança precisam ser levadas muito a sério, sob pena de gerarem consequências operacionais, financeiras e até reputacionais. Além disso, falhas na cibersegurança podem refletir nos níveis de confianças de clientes e fornecedores, ainda mais quando a velocidade das evoluções tecnológicas só se faz aumentar.
A bola da vez é a IA e ela já impõe desafios no setor. Em fevereiro do ano passado, os pesquisadores manipularam um chatbot para se comportar como um criminoso virtual. Instruções ocultas presentes em uma página criada por eles diziam à ferramenta virtual para pedir ao usuário que o utilizass...
Artigo atualizado em 20/02/2024 03:53.
