As preocupações éticas e sociais do uso da inteligência artificial (IA)
Redação
Com o potencial de revolucionar o mundo e fornecer uma infinidade de benefícios para as sociedades, organizações e indivíduos, a IA pode introduzir riscos e incertezas substanciais, e profissionais, pesquisadores, reguladores e indivíduos precisam estar cientes das preocupações éticas e sociais associadas aos sistemas e às suas aplicações, sendo que as potenciais preocupações éticas em IA são amplas. Há especificações técnicas normativas que apresentam uma visão geral de alto nível das preocupações éticas e sociais da IA. Além disso, elas fornecem as informações sobre os princípios, processos e métodos nesta área. Se destinam a tecnólogos, reguladores, grupos de interesse e sociedade em geral e não se destinam a defender qualquer conjunto específico de sistema de valores.
Da Redação –
Há alguns exemplos de preocupações éticas e sociais na IA que vão de violações de privacidade e segurança até resultados discriminatórios e impacto na autonomia humana. As fontes de preocupações éticas e sociais incluem os meios ou medidas não autorizados de coleta, tratamento ou divulgação de dados pessoais; a obtenção e uso de dados de treinamento viesados, inexatos ou não representativos; a tomada de decisão opaca no aprendizado de máquina (ML) ou documentação insuficiente, comumente chamada de falta de explicabilidade; a falta de rastreabilidade; e a compreensão insuficiente dos impactos sociais da tecnologia pós-implantação.
A IA pode operar de forma injusta, particularmente quando treinada com dados viesados ou inadequados ou quando o modelo ou o algoritmo não forem adequados à finalidade. Os valores incorporados nos algoritmos, bem como a escolha dos problemas para os quais os sistemas e as aplicações de IA são usados para resolver, podem ser moldados intencionalmente ou inadvertidamente pelas próprias visões de mundo e viés cognitivo dos desenvolvedores e das part...
Artigo atualizado em 03/09/2025 02:35.
