Os professores Diana e Júlio responde as perguntas mais relevantes associadas ao tema Uso da IA Generativa nas Contratações de Bens e Serviços de TI, envolvendo:
- IA generativa em contratações de TI
- Automação de processos licitatórios
- Governança de IA em serviços públicos
- Mitigação de riscos em licitações
- Eficiência operacional com IA
O IBGP recomenda uma visita à página do Curso Aplicação da Inteligência Artificial Generativa nas Contratações de Bens e Serviços de TI dos Professores clicando da imagem abaixo.
O que é Inteligência Artificial Generativa e como ela pode ser aplicada nas contratações públicas?
A Inteligência Artificial Generativa (IAG) é um ramo da inteligência artificial voltado para a criação automática de novos conteúdos, como textos, imagens e dados estruturados, sem programação direta pelo usuário. No contexto das contratações públicas, a IAG pode auxiliar a elaboração de artefatos essenciais, como Termos de Referência (TR), Estudos Técnicos Preliminares (ETP) e Documentos de Formalização da Demanda (DFD). Sua utilização proporciona ganho de celeridade, aumento da precisão na definição de escopos e melhoria na qualidade dos documentos produzidos. Entretanto, a adoção da IAG exige governança robusta, revisões humanas críticas e conformidade com legislações como a LGPD, de modo a garantir a ética e a segurança nos processos de contratação.
Quais benefícios a utilização da IA Generativa traz para a gestão de contratações públicas de TI?
A adoção da IA Generativa nas contratações públicas de TI traz benefícios como o aumento da produtividade, a celeridade na produção de artefatos contratuais e a padronização de documentos, reduzindo inconsistências e erros. A IAG também amplia a capacidade analítica dos servidores, permitindo a identificação mais rápida de requisitos técnicos e o mapeamento de riscos associados às contratações. Outro benefício importante é a economia de recursos, tanto financeiros quanto humanos, além da possibilidade de revisões automatizadas, que favorecem a rastreabilidade e a transparência dos processos.
Quais são os principais riscos no uso de IA nas contratações públicas?
Entre os principais riscos estão: a exposição de dados sensíveis, o vazamento de informações, o uso indevido de dados pessoais, a falta de transparência nos processos automatizados e a geração de documentos contendo vieses ou inconsistências. A ausência de governança adequada pode agravar esses riscos, resultando em violações à LGPD, compromissos éticos e questionamentos jurídicos. Por isso, a implementação de políticas internas, treinamento contínuo dos servidores e revisão crítica dos resultados gerados por IA são práticas indispensáveis.
Como a LGPD impacta o uso da IA nas contratações públicas?
A Lei Geral de Proteção de Dados (LGPD) impõe diretrizes para o tratamento de dados pessoais no Brasil, afetando diretamente o uso da IA em contratações públicas. Ferramentas de IA que coletam, armazenam ou processam informações pessoais devem garantir princípios como finalidade, necessidade, transparência e segurança. Isso implica que órgãos públicos precisam assegurar que dados sensíveis não sejam inseridos ou manipulados de forma inadequada em sistemas de IA. A conformidade com a LGPD exige, ainda, a avaliação das plataformas utilizadas e a implementação de medidas de segurança cibernética para proteger as informações processadas.
O que é governança de IA e por que ela é essencial no setor público?
Governança de IA refere-se ao conjunto de princípios, políticas e práticas destinados a orientar o uso responsável, ético e seguro de soluções de inteligência artificial. No setor público, a governança de IA é essencial para assegurar que o uso dessas tecnologias esteja alinhado aos valores de transparência, responsabilidade administrativa, eficiência e respeito aos direitos fundamentais. A ausência de governança pode resultar em decisões arbitrárias, riscos jurídicos e prejuízos à imagem institucional. Uma governança efetiva estabelece diretrizes para aquisição, utilização, auditoria e prestação de contas sobre o uso de IA nos processos públicos.
Quais cuidados devem ser tomados ao inserir dados em ferramentas de IA generativa?
É imprescindível evitar o fornecimento de informações pessoais sensíveis, dados estratégicos, documentos sigilosos ou dados protegidos por lei. Toda interação deve ser precedida de uma análise crítica sobre os termos de uso e as políticas de privacidade da ferramenta utilizada. A adoção de versões corporativas com contratos específicos, a criptografia de dados e a anonimização de informações são práticas recomendadas para garantir a segurança e evitar violações legais.
De que maneira a engenharia de prompts pode melhorar os resultados da IA?
A engenharia de prompts é a prática de construir comandos detalhados e contextualmente ricos para otimizar as respostas geradas por modelos de IA generativa. No contexto das contratações públicas, uma boa engenharia de prompts permite que servidores obtenham textos mais precisos, relevantes e alinhados às normas institucionais. Essa prática reduz ambiguidades, minimiza o risco de erros e potencializa a eficiência no desenvolvimento de artefatos como DFD, ETP e TR. A competência na criação de prompts é, portanto, uma habilidade estratégica para o uso inteligente da IA no setor público.
Por que a revisão humana é indispensável no uso da IA generativa?
Apesar dos avanços, a Inteligência Artificial generativa ainda apresenta limitações, como a possibilidade de 'alucinações' (respostas inverídicas ou imprecisas) e vieses incorporados nos dados de treinamento. No setor público, onde a precisão e a confiabilidade são imperativos, a revisão humana torna-se indispensável. Servidores públicos devem validar criticamente todas as respostas geradas, checar fontes, ajustar redações e assegurar a conformidade com normas técnicas e jurídicas. A revisão humana é o elo que garante a qualidade, a responsabilidade e a segurança na aplicação da IA generativa em processos públicos.
Quais são os principais desafios éticos associados ao uso da IA em contratações públicas?
O uso da IA em contratações públicas envolve desafios éticos como a proteção de dados pessoais, a prevenção de vieses discriminatórios, a manutenção da transparência decisória e a responsabilidade pelas informações geradas. Outro desafio reside na opacidade dos algoritmos, dificultando a compreensão de como determinadas respostas são formuladas. A ausência de accountability nas decisões apoiadas por IA pode comprometer a confiança pública. Por isso, a implementação de diretrizes éticas claras e a capacitação dos servidores são fundamentais para assegurar o uso responsável da tecnologia.
Como a IA pode contribuir para a mitigação de riscos em contratações públicas?
A IA pode ser uma aliada poderosa na mitigação de riscos nas contratações públicas, ao permitir a análise rápida e ampla de informações, a identificação de padrões de riscos recorrentes e a produção de mapas de risco mais precisos. Modelos de IA treinados para lidar com dados normativos e jurisprudenciais podem auxiliar na identificação de cláusulas frágeis, inconsistências contratuais e riscos de não conformidade. A utilização estratégica da IA, aliada à revisão humana qualificada, fortalece os processos de controle interno e auditoria, promovendo maior segurança nas decisões de contratação.
Qual a importância da rastreabilidade no uso da IA nas contratações?
A rastreabilidade refere-se à capacidade de documentar e reproduzir os processos que levaram a uma decisão ou resultado, algo crucial no uso de IA no setor público. Em contratações públicas, manter registros de prompts utilizados, resultados gerados, versões de ferramentas aplicadas e revisões humanas efetuadas é essencial para garantir a transparência, a responsabilização e a defesa das decisões perante órgãos de controle. A ausência de rastreabilidade pode inviabilizar a prestação de contas e comprometer a segurança jurídica dos atos administrativos.
Como a escolha da ferramenta de IA impacta a qualidade dos processos de contratação?
A escolha adequada da ferramenta de IA impacta diretamente a qualidade, a segurança e a conformidade dos processos de contratação. Ferramentas que oferecem maior precisão, segurança de dados e customização para o setor público tendem a produzir resultados mais confiáveis e alinhados às exigências normativas. Isto porque existem ferramentas mais criativas e outras mais factíveis. Optar por soluções com certificações de segurança, transparência nos algoritmos e suporte jurídico sólido minimiza riscos de não conformidade e reforça a eficiência dos processos. Avaliar criticamente as opções disponíveis é um passo estratégico para gestores e técnicos públicos.
De que forma a capacitação dos servidores influencia o sucesso do uso da IA no setor público?
A capacitação dos servidores é o fator determinante para o sucesso na implementação de IA no setor público. Mesmo com tecnologias avançadas, é o conhecimento humano que orienta a correta utilização, interpretação crítica e aplicação ética dos resultados gerados. Capacitações que abordem aspectos técnicos (engenharia de prompts), normativos (LGPD, governança de IA) e éticos (transparência, responsabilidade) são fundamentais. Investir na formação contínua das equipes públicas assegura que a IA seja empregada como um instrumento de modernização e não como um risco à integridade institucional.
