O entusiasmo em torno das aplicações da Inteligência Artificial Generativa nas contratações públicas não pode obscurecer os desafios críticos associados à segurança e à conformidade. O compartilhamento inadvertido de informações sensíveis em plataformas de IA, sem devida análise de segurança, pode gerar exposições indesejadas e comprometer a integridade dos processos administrativos.
A Lei Geral de Proteção de Dados (LGPD) estabelece diretrizes claras sobre a coleta, o uso e o compartilhamento de dados pessoais. Entretanto, a aplicabilidade desses princípios no contexto da utilização de IA ainda enfrenta lacunas práticas, sobretudo no que tange à contratação de soluções tecnológicas de terceiros.
Classificar as ferramentas de IA quanto ao nível de segurança pode auxiliar a avaliar o grau de aderência das soluções às exigências legais e éticas. Adicionalmente, recomenda-se cautela no input de dados sensíveis, treinamento crítico dos servidores públicos e utilização preferencial de ferramentas que ofereçam garantias contratuais explícitas sobre proteção de dados.
A conformidade não é apenas uma obrigação legal, mas um pilar fundamental para a preservação da credibilidade institucional e da confiança da sociedade. A utilização segura da IA deve ser encarada como parte estratégica das políticas de governança e de gestão de riscos da Administração Pública.
Deixe seu Comentário: Quais práticas de segurança e compliance sua instituição já adota para garantir o uso ético e protegido da IA nas contratações públicas?
Professora Diana Leite dos Santos
Mestra em Gestão do Conhecimento e Tecnologia da Informação pela Universidade Católica de Brasília. É coautora dos livros “Inovação: Estratégia, Gestão e Cultura” e “Anuário de Governança de TI na Administração Pública Federal”. Entusiasta da transformação digital, das metodologias ágeis e da criatividade e inovação sistêmicas, é servidora efetiva do MPU desde 2003, na área de Tecnologia da Informação, com forte atuação na área de Governança de TI e Gestão de Projetos. Possui as certificações TOGAF 9 Certified, COBIT 5 Foundation, ITIL v3 2011 Foundation e Project Management Professional (PMP). Participou do Capítulo Brasília da ISACA, passando pela diretoria de comunicação e marketing à vice-presidência em 2021. Acredita na educação como fator essencial de crescimento humano e organizacional por isso atua desde 2001 em instrutoria e facilitação. Foi assessora-chefe do InovaEscola – Laboratório de Transformação da Escola Superior do Ministério Público da União em 2021 e atualmente integra a equipe do Núcleo de Ciência de Dados da Secretaria de Gestão Estratégica do Conselho Nacional do Ministério Público.
Cursos da Professora
Técnicas de Elaboração e Acompanhamento de PDTIC – Com ênfase na prática
Desenvolvendo o PDTIC com foco na Transformação Digital e Agilidade
Práticas da Gestão e Governança de TI – Como evitar e apagar incêndios
Professor Júlio Bomfim
Oficial do Exército Brasileiro, possui experiência em capacitação atuando desde 2014 em cursos como: Utilização de Inteligência Artificial na Administração Pública, Plano de Logística Sustentável, Formação de Agentes de Contratação e IA nas Contratações Públicas. É mestrando em Governança e Desenvolvimento, pela Escola Nacional de Administração Pública. Atuou como Comandante de Pelotão e Chefe de Setor de Aquisições, Chefe da Seção de Treinamento de Unidade de Controle Interno e atualmente é Subcomandante de Unidade de Controle Interno.