Senadores durante votação do projeto que mantém isenção de IR para quem ganha até R$ 2 mil
Reprodução/TV Senado
O Senado Federal publicou na terça-feira (12) um normativo definindo regras para o uso de sistemas de inteligência artificial na casa, que não precisarão ser seguidos pelos gabinetes parlamentares que não concordarem.
O normativo já está valendo para toda a estrutura de funcionamento do Senado, de secretarias, a comissões e setores administrativos e aqueles gabinetes que expressarem sua adesão.
De acordo com o normativo, assinado pela diretora-geral da casa, Ilana Trombka, o uso e desenvolvimento de inteligência artificial deverá obedecer os seguintes fundamentos:
– respeito aos direitos fundamentais, à democracia e à centralidade da pessoa humana;
– promoção do bem-estar social e da eficiência na prestação de serviços públicos;
– fomento à inovação, com cooperação entre instituições, respeitada sua autonomia;
– supervisão humana em todas as etapas do ciclo da IA, inclusive no apoio à decisão;
– promoção da igualdade, da diversidade e da justiça nas decisões automatizadas;
– formulação de soluções seguras, com gestão de riscos sistêmicos;
– proteção de dados pessoais, garantia do acesso à informação e respeito a sigilos legais;
– uso de dados confiáveis, auditáveis e preferencialmente públicos no treinamento de sistemas;
– capacitação contínua dos usuários sobre o uso, funcionamento e riscos da IA;
– segurança da informação e cibernética;
– Transparência sobre auditorias, impactos e monitoramentos relacionados à IA.
O regulamento ainda define que os sistemas de inteligência artificial devem ser usados de forma “ética” e “responsável”, proíbe o uso de dados protegidos ou pessoais e sempre deixando claro quando as ferramentas estão sendo usadas nos processos.
Além disso, estipula que todas as decisões automatizadas tomadas pelas IAs devem ser revisados e validadas por um servidor da casa.
Os aplicativos mais conhecidos de IA até têm alguns filtros e proíbem fake nudes, ou nudes falsos. Mas existem muitas ferramentas onde tudo é permitido.
Jornal Nacional
Desenvolvimento de IA
O texto ainda define como devem ser os critérios que serão seguidos para o desenvolvimento de sistemas de inteligência artificial no Senado Federal.
Entre elas, está a necessidade de mitigar vieses discriminatórias ou abusivos dos algoritmos. Bem como precisará proteger os dados dos usuários que o utilizarem.
“A utilização de dados para o desenvolvimento de projetos de IA deve observar as melhores práticas de governança de dados, considerando qualidade, integridade e segurança dos dados, de acordo com as normas e legislação vigentes”, justificou o texto.
Além disso, todo o processo de criação do sistema deverá ser documentado “com clareza” e abrangendo, no mínimo, “a descrição das etapas do ciclo de vida dos sistemas de IA, os critérios para seleção e tratamento dos dados, as decisões relativas à escolha dos modelos adotados, as técnicas de treinamento e validação utilizadas, bem como os eventuais riscos identificados e respectivas medidas mitigatórias a serem adotadas”.
