Senado cria regras para uso de IA na Casa, mas sem obrigação para gabinetes dos parlamentares

Senadores durante votação do projeto que mantém isenção de IR para quem ganha até R$ 2 mil
Reprodução/TV Senado
O Senado Federal publicou na terça-feira (12) um normativo definindo regras para o uso de sistemas de inteligência artificial na casa, que não precisarão ser seguidos pelos gabinetes parlamentares que não concordarem.

O normativo já está valendo para toda a estrutura de funcionamento do Senado, de secretarias, a comissões e setores administrativos e aqueles gabinetes que expressarem sua adesão.

De acordo com o normativo, assinado pela diretora-geral da casa, Ilana Trombka, o uso e desenvolvimento de inteligência artificial deverá obedecer os seguintes fundamentos:

– respeito aos direitos fundamentais, à democracia e à centralidade da pessoa humana;

– promoção do bem-estar social e da eficiência na prestação de serviços públicos;

– fomento à inovação, com cooperação entre instituições, respeitada sua autonomia;

– supervisão humana em todas as etapas do ciclo da IA, inclusive no apoio à decisão;

– promoção da igualdade, da diversidade e da justiça nas decisões automatizadas;

– formulação de soluções seguras, com gestão de riscos sistêmicos;

– proteção de dados pessoais, garantia do acesso à informação e respeito a sigilos legais;

– uso de dados confiáveis, auditáveis e preferencialmente públicos no treinamento de sistemas;

– capacitação contínua dos usuários sobre o uso, funcionamento e riscos da IA;

– segurança da informação e cibernética;

– Transparência sobre auditorias, impactos e monitoramentos relacionados à IA.

O regulamento ainda define que os sistemas de inteligência artificial devem ser usados de forma “ética” e “responsável”, proíbe o uso de dados protegidos ou pessoais e sempre deixando claro quando as ferramentas estão sendo usadas nos processos.

Além disso, estipula que todas as decisões automatizadas tomadas pelas IAs devem ser revisados e validadas por um servidor da casa.
Os aplicativos mais conhecidos de IA até têm alguns filtros e proíbem fake nudes, ou nudes falsos. Mas existem muitas ferramentas onde tudo é permitido.
Jornal Nacional

Desenvolvimento de IA

O texto ainda define como devem ser os critérios que serão seguidos para o desenvolvimento de sistemas de inteligência artificial no Senado Federal.

Entre elas, está a necessidade de mitigar vieses discriminatórias ou abusivos dos algoritmos. Bem como precisará proteger os dados dos usuários que o utilizarem.

“A utilização de dados para o desenvolvimento de projetos de IA deve observar as melhores práticas de governança de dados, considerando qualidade, integridade e segurança dos dados, de acordo com as normas e legislação vigentes”, justificou o texto.

Além disso, todo o processo de criação do sistema deverá ser documentado “com clareza” e abrangendo, no mínimo, “a descrição das etapas do ciclo de vida dos sistemas de IA, os critérios para seleção e tratamento dos dados, as decisões relativas à escolha dos modelos adotados, as técnicas de treinamento e validação utilizadas, bem como os eventuais riscos identificados e respectivas medidas mitigatórias a serem adotadas”.