Um projeto nacional desenvolve metodologias para garantir a segurança, eficácia e conformidade da inteligência artificial aplicada à saúde, em linha com a nova regulação europeia.
Validação de IA entra na agenda regulatória europeia
O projeto MedAIVeritas surge num contexto de transformação profunda do setor da saúde digital. Além disso, responde às exigências emergentes da União Europeia em matéria de regulação da inteligência artificial.
A iniciativa foca-se no desenvolvimento de processos de validação que assegurem que sistemas de IA cumprem requisitos de segurança, eficácia e conformidade ética.
Portanto, pretende criar metodologias robustas que permitam avaliar modelos clínicos antes da sua utilização em ambiente real.
Segurança, transparência e ética no centro do desenvolvimento
O projeto estrutura-se em torno de cinco áreas metodológicas principais. Estas incluem transparência, segurança cibernética, ética de dados, robustez e conformidade regulatória.
Consequentemente, os processos desenvolvidos procuram cobrir pelo menos 80% dos requisitos regulatórios aplicáveis a sistemas de IA em saúde.
Além disso, os modelos serão testados com dados clínicos e aplicados a sistemas baseados em linguagem e imagem.
O objetivo é claro: reduzir riscos associados à utilização não regulamentada de IA, como ciberataques, enviesamentos algorítmicos ou falhas de integridade de dados.
Soluções digitais para hospitais e fabricantes
Os resultados do projeto irão sustentar duas novas soluções digitais. Estas ferramentas vão apoiar fabricantes e hospitais na gestão da conformidade de sistemas de IA como dispositivos médicos.
Desta forma, será possível realizar auditorias automáticas e avaliar continuamente a conformidade regulatória das soluções.
Assim, o projeto contribui para acelerar a adoção segura de inteligência artificial no setor da saúde.
Um consórcio multidisciplinar com ambição internacional
O MedAIVeritas reúne um consórcio de sete entidades, entre empresas e instituições do sistema científico e tecnológico.
Esta articulação permite combinar investigação avançada com aplicação prática em contexto clínico.
Segundo Mariana de Oliveira, investigadora na Complear e coordenadora do projeto, “esta iniciativa visa desenvolver métodos para garantir a conformidade de aplicações de Inteligência Artificial em saúde”.
A responsável acrescenta ainda que o principal contributo passa pela “criação de métricas e benchmarks para assegurar que os modelos de IA clínicos são seguros, robustos, transparentes e éticos”.
Sobre o papel do financiamento europeu, sublinha que “o COMPETE 2030 permitiu à Complear criar e liderar um consórcio extremamente competitivo, que junta parceiros da Indústria e Academia numa colaboração sem paralelo”.
Preparar a IA médica para o futuro regulatório
A inovação do MedAIVeritas posiciona-se na fronteira entre tecnologia e regulação. Além disso, procura antecipar as exigências do AI Act europeu e do Regulamento de Dispositivos Médicos.
Por isso, o projeto assume-se como uma base estruturante para o futuro da IA em saúde.
Em última análise, o objetivo passa por garantir que a inovação tecnológica evolui com segurança, ética e confiança para profissionais e cidadãos.
