A regulamentação da inteligência artificial no Brasil deve ser baseada nas normas técnicas
Redação
O legislador deve seguir como base as normas técnicas (NBR) que tratam do assunto, principalmente a: NBR ISO/IEC 38507 - COMENTADA+IA de 10/2023 - Implicações de governança do uso de inteligência artificial pelas organizações - Versão comentada. Depois que a Europa aprovou o AI Act que define as regras sobre o fornecimento e uso de inteligência artificial (IA) e regula como ela pode ser usada, todos os países começaram a se movimentar também para esse processo. O AI Act se aplica a vários participantes do ciclo de vida da IA, como ao fornecedor, usuário, representante autorizado, fabricante, distribuidor e importador. O texto ainda passará por revisões de escrita e entrará em vigor no prazo de 20 dias contado da sua publicação. A implementação do AI Act ocorrerá de forma gradual. Enquanto os artigos referentes às práticas proibidas de AI entrarão em vigor em seis meses, o texto geral só será implementado após 24 meses. Entre os principais pontos do texto está que a IA é definida de maneira genérica e dá margem para interpretações abrangentes. Há várias obrigações para as empresas que desenvolvem modelos de AI e devem cumprir requisitos técnicos rigorosos, considerando questões regulatórias desde o início da criação dos modelos. O Brasil igualmente não ficará de fora, pois existem muitos projetos na Câmara Federal para regulamentar a IA. O Projeto de Lei nº 2.338/23 define a IA de forma abrangente, de modo que as definições podem abarcar tanto sistemas que possuem total autonomia quanto aqueles que operam a partir de orientação/input de um humano.
Mauricio Ferraz de Paiva -
A implementação de sistemas de inteligência artificial (IA) em organizações é uma jornada que atravessa novos territórios de inovação, ética e governança. A : NBR ISO/IEC 38507 - COMENTADA+IA de 10/2023 - Implicações de governança do uso de inteligência artificial pelas organizações - Versão comentada é um farol que guia essa jornada, oferecendo princípios e estruturas que asseguram uma integração de IA responsável e alinhada com os objetivos estratégicos das organizações.
No entanto, as diretrizes muitas vezes se apresentam em uma linguagem técnica e conceitual que pode distanciar-se da realidade prática das empresas e dos indivíduos que as compõem. Nesse contexto, surge a necessidade de uma versão comentada da norma, uma interpretação enriquecida que não só esclarece, mas também contextualiza, as prescrições normativas em um formato palpável e diretamente aplicável ao mundo empresarial.
Esta norma comentada é um esforço para desmistificar o texto original, fornecendo, além do texto da norma, comentários elucidativos e exemplos práticos que ilustram as implicações e aplicações de cada artigo e seção. Com mais de 30 comentários, tanto em texto quanto em vídeo enriquecidos com tecnologia (IA), ela serve como uma ponte entre a teoria e a prática, entre a estrutura normativa e as operações do dia a dia daqueles que estão no comando.
O objetivo é oferecer aos líderes e profissionais uma ferramenta dinâmica e didática, assegurando que a adoção da IA pelas organizações seja feita de maneira consciente, estratégica e, acima de tudo, alinhada aos mais altos padrões de excelência operacional e integridade. A IA abrange uma família de tecnologias que reúnem poder computacional, escalabilidade, rede, dispositivos e interfaces conectados, juntamente com grandes volumes de dados.
A referência à IA nas normas técnicas destina-se a ser entendida como referindo-se a toda uma família de tecnologias e métodos, e não a qualquer tecnologia, método ou aplicação específica.
Assim, o uso da IA pode ser definido no sentido mais amplo, como o desenvolvimento ou a aplicação de um sistema de IA por meio de qualquer parte de seu ciclo de vida para cumprir objetivos e criar valor para a organização. Isso inclui relacionamentos com qualquer parte que forneça ou use estes sistemas. O escopo diz respeito às implicações para uma organização do uso da IA. Como acontece com qualquer ferramenta poderosa, o uso da IA traz novos riscos e responsabilidades que convém que sejam abordados pelas organizações que a utilizam. A IA não é inerentemente boa ou má, justa ou viesada, ética ou antiética, embora seu uso possa ser ou possa parecer como tal.
O propósito, a ética e outras diretrizes da organização são refletidos, formal ou informalmente, em suas políticas. As normas examinam a aplicação das políticas organizacionais e de governança, e fornece orientação para adaptá-las ao uso da IA. Os aspectos operacionais das políticas são implementados por meio da direção.
A : NBR ISO/IEC 38507 - COMENTADA+IA de 10/2023 - Implicações de governança do uso de inteligência artificial pelas organizações - Versão comentada é uma norma que provê orientações estratégicas para órgãos de direção de organizações que estão utilizando ou considerando o uso de IA. O propósito principal é estabelecer uma estrutura de governança que sustente o uso ético e responsável dessas tecnologias. A norma reconhece a IA não como uma tecnologia singular, mas como uma família de tecnologias que compartilham a capacidade de processamento de dados, aprendizado e tomada de decisões de forma autônoma ou assistida.
Essa orientação é crucial, pois a IA, com sua capacidade de escalabilidade e processamento de grandes volumes de dados, oferece oportunidades significativas para a melhoria de processos e criação de valor nas organizações. No entanto, essas oportunidades vêm acompanhadas de riscos e responsabilidades que devem ser geridos de forma consciente e estruturada. A norma destaca a importância da governança da IA, que é fundamentalmente uma governança feita por seres humanos sobre a utilização de IA.
Este aspecto envolve a compreensão das tecnologias de IA e suas implicações, abordando não apenas as oportunidades, mas também os riscos e as responsabilidades inerentes ao seu uso. As organizações devem se esforçar para adotar normas apropriadas que promovam o uso ético e responsável da IA, garantindo que as decisões tomadas por sistemas automatizados sejam justas, imparciais e transparentes.
A norma também reconhece que a IA por si só não é inerentemente boa ou má, mas sim o seu uso que determina o impacto ético. Por isso, é incentivado que as organizações abordem e reflitam sobre questões éticas, de justiça e de viés na utilização de sistemas de IA. A governança responsável da IA requer uma análise cuidadosa dos sistemas de IA em uso, bem como a criação de políticas que orientem sua implementação e gestão contínua.
Finalmente, a norma aborda a necessidade de operacionalizar a governança de IA. Isso inclui a implementação de políticas e procedimentos que garantam a conformidade com diretrizes éticas, responsabilidades legais e compromissos com a gestão de riscos e qualidade. A norma reconhece a necessidade de uma abordagem multidisciplinar para gerenciar os aspectos de compliance, enfatizando a importância de compreender e gerenciar os riscos associados ao uso de IA.
Além disso, a norma sublinha a relevância de adaptar as práticas organizacionais ao uso de IA visando não apenas o cumprimento de normas existentes, mas também a promoção de inovação responsável. Isso envolve a criação de um ambiente onde a IA possa ser utilizada de forma que alinhe os objetivos organizacionais com os princípios de ética e responsabilidade social. Em suma, a : NBR ISO/IEC 38507 - COMENTADA+IA de 10/2023 - Tecnologia da informação — Governança de TI — Implicações de governança do uso de inteligência artificial pelas organizações - Versão comentada é um guia vital para o entendimento e a implementação consciente e ética de sistemas de IA nas organizações. Ela serve como um lembrete da necessidade de um olhar criterioso sobre as tecnologias emergentes e suas implicações sociais e organizacionais.
Mauricio Ferraz de Paiva é engenheiro eletricista, especialista em desenvolvimento em sistemas, presidente do Instituto Tecnológico de Estudos para a Normalização e Avaliação de Conformidade (Itenac) e presidente da Target Engenharia e Consultoria.
mauricio.paiva@target.com.br
Artigo atualizado em 10/04/2024 10:05.
