Implementando um sistema de gestão de inteligência artificial na empresa
Redação
A inteligência artificial (IA) é cada vez mais aplicada em todos os setores que utilizam a tecnologia da informação e se espera que seja um dos principais motores da economia. Uma consequência desta tendência é que determinadas aplicações podem dar origem a desafios sociais nos próximos anos. Um sistema de gestão de IA pode ajudar as empresas a desempenhar de forma responsável o seu papel no que diz respeito aos sistemas de IA, como, por exemplo, para utilizar, desenvolver, monitorar ou fornecer produtos ou serviços que utilizem a IA). Ela, potencialmente, suscita considerações específicas com as descritas a seguir. O uso de IA para tomada de decisão automática, às vezes de forma opaca e inexplicável, pode exigir uma gestão específica além dos sistemas de gestão clássicos de TI. O uso de análise de dados, insight e aprendizado de máquina, em vez de lógica codificada por humanos para projetar sistemas, aumenta as oportunidades de aplicação para sistemas de IA e muda a maneira como tais sistemas são desenvolvidos, justificados e implantados. Os sistemas de IA que realizam aprendizado contínuo mudam seu comportamento durante o uso. Eles exigem consideração especial para garantir que seu uso responsável continue mesmo com essas mudanças comportamentais constantes.
Da Redação –
Normalmente, a avaliação de impacto do sistema de IA é um processo formal e documentado pelo qual os impactos para indivíduos (e grupos de indivíduos) e sociedades são identificados, avaliados e tratados por uma organização que desenvolva, forneça ou use produtos ou serviços utilizando inteligência artificial. Por isso, a empresa precisa definir um processo para avaliar as potenciais consequências para os indivíduos ou grupos de indivíduos, ou ambos, e para sociedades, que possam ser resultantes do desenvolvimento, fornecimento ou uso de sistemas de IA.
A avaliação de impacto do sistema de IA deve determinar as potenciais consequências que a implantação de um sistema de IA tem com seu uso pretendido, assim como um mau uso previsível sobre indivíduos, grupos de indivíduos, ou ambos, e sobre as sociedades. A avaliação de impacto deve considerar os contextos técnicos e sociais específicos em que o sistema de IA estiver implantado e as jurisdições aplicáveis.
O resultado da avaliação de impacto do sistema de IA deve ser documentado. Onde for apropriado, o resultado da avaliação de impacto pode ser disponi...
Artigo atualizado em 04/06/2024 11:27.
