15/05/2025 – 11:26
GettyImages
Sistemas de inteligência artificial devem ser classificados quanto aos níveis de risco
A Câmara dos Deputados analisa o Projeto de Lei 2338/23, do Senado, que regulamenta o uso da inteligência artificial (IA) no Brasil. A proposta classifica os sistemas de inteligência artificial quanto aos níveis de risco para a vida humana e de ameaça aos direitos fundamentais. Também divide as aplicações em duas categorias: inteligência artificial; e inteligência artificial generativa.
O texto define como inteligência artificial o sistema baseado em máquina capaz de, a partir de um conjunto de dados ou informações recebidos, gerar resultados como previsão, conteúdo, recomendação ou decisão que possa influenciar o ambiente virtual, físico ou real.
Já a inteligência artificial generativa é definida como modelo de IA especificamente destinado a gerar ou modificar significativamente texto, imagens, áudio, vídeo ou código de software.
A proposta estabelece que apenas os sistemas de inteligência artificial generativa e de propósito geral (GPT, por exemplo) deverão ter avaliação preliminar de risco. Para os demais casos, a avaliação prévia será facultativa.
O objetivo dessa avaliação é determinar o grau de risco do sistema, que dependerá de suas finalidades e do seu impacto. A análise deve ser realizada pelos próprios desenvolvedores, fornecedores ou aplicadores do sistema antes da chegada do produto ao mercado.
Proteção a direitos fundamentaisPela proposta, sistemas considerados de risco excessivo ficam proibidos. Entre eles, estão os chamados sistemas de armas autônomas, que podem selecionar e atacar alvos sem intervenção humana. Além disso, o texto veta sistemas que tenham o objetivo de produzir e disseminar material que represente abuso ou exploração sexual de crianças e adolescentes. A avaliação de traços de personalidade e de comportamento para prever crimes também fica proibida.
O uso de câmeras para identificar pessoas em espaços públicos só será permitido em casos específicos, como busca de vítimas de crimes ou pessoas desaparecidas e para recapturar fugitivos. As câmeras apenas poderão ser utilizadas nos casos de delitos com pena de prisão superior a dois anos, com autorização do juiz e quando não houver outro meio de prova.
Direitos autoraisO projeto do Senado também trata de direitos autorais no desenvolvimento de sistemas de inteligência artificial. Pelo texto, conteúdos protegidos poderão ser utilizados livremente somente por instituições de pesquisa, de jornalismo, museus, arquivos, bibliotecas e organizações educacionais. Ainda assim, o material precisa ser obtido de forma legítima e a aplicação não pode ter fins comerciais.
Nos demais casos, o titular de direitos autorais poderá proibir o uso dos conteúdos protegidos. Caso obras sejam utilizadas no desenvolvimento de sistemas de inteligência artificial comerciais, o titular terá direito a remuneração.
TramitaçãoO projeto será analisado inicialmente por uma comissão especial. O texto já foi aprovado pelo Senado e, para virar lei, precisa ser aprovado pela Câmara dos Deputados.
Da Redação – RL Edição – Marcelo Oliveira