OMS publica o primeiro relatório global sobre Inteligência Artificial na saúde

A Organização Mundial da Saúde (OMS) publicou o primeiro relatório global sobre Inteligência Artificial (IA) na saúde contendo, dentre outros, seis princípios orientadores para a sua concepção e uso, uma vez que o uso crescente de IA para a saúde apresenta aos governos, provedores e comunidades grandes oportunidades, mas também desafios.

Sabe-se que a IA é uma grande promessa para melhorar a prestação de cuidados de saúde em todo o mundo, mas isso se dá apenas se a ética e os direitos humanos forem colocados no centro de seu design, implantação e uso, de acordo com as novas orientações publicadas pela OMS.

Tais orientações estão presentes no relatório chamado “Ethics and governance of artificial intelligence for health” (Ética e governança da inteligência artificial para a saúde), o qual é o produto de dezoito meses de deliberação entre os principais especialistas em ética, tecnologia digital, direito, direitos humanos, bem como especialistas de Ministérios da Saúde de vários países.

Ele identifica os desafios e riscos éticos com o uso da inteligência artificial da saúde, contendo um conjunto de recomendações que visam garantir que a governança da inteligência artificial para a saúde maximize a promessa da tecnologia e mantenha todas as partes interessadas – no setor público e privado – responsáveis e responsivos aos profissionais de saúde que contarão com essas tecnologias e às comunidades e indivíduos cuja saúde poderá ser afetada pelo seu uso.

A IA possui um enorme potencial para melhorar a saúde de milhões de pessoas em todo o mundo, contudo, como toda tecnologia, também pode ser mal utilizada e causar danos. Desta forma, um dos objetivos deste relatório é fornecer um guia valioso para os países sobre como maximizar os benefícios da IA minimizando seus riscos e evitando suas armadilhas.

Em alguns países de alta renda, a IA já está sendo utilizada para vários fins, como melhorar a velocidade e a precisão do diagnóstico e da triagem de doenças, auxiliar no atendimento clínico, fortalecer a pesquisa em saúde e o desenvolvimento de medicamentos, e apoiar diversas intervenções de saúde pública, como a vigilância de doenças, respostas a surtos e ainda gestão de sistemas de saúde.

Leia também: O que é inovação em saúde?

Ela também tem seu papel na capacitação de pacientes, podendo auxiliá-los a ter maior controle de seus próprios cuidados de saúde e a compreender melhor suas necessidades. O uso desta ainda poderia permitir que países com poucos recursos, em locais onde os pacientes frequentemente têm acesso restrito aos serviços e profissionais de saúde, diminuam suas lacunas de assistência.

No entanto, o novo relatório da OMS adverte contra superestimar os benefícios da IA para a saúde. Ele também aponta que as oportunidades estão ligadas a desafios e riscos, incluindo coleta e uso antiético de dados de saúde, preconceitos codificados em algoritmos e os riscos da IA para a segurança do paciente, cibersegurança e meio ambiente.

Por exemplo, embora o investimento do setor público e privado no desenvolvimento e implantação da IA seja fundamental, o uso não regulamentado da IA poderia subordinar os direitos e interesses dos pacientes e das comunidades aos poderosos interesses comerciais de empresas de tecnologia ou aos interesses dos governos em vigilância e controle social.

Assim, o relatório orienta que os sistemas de IA devem, portanto, ser cuidadosamente projetados para refletir a diversidade de ambientes socioeconômicos e de saúde. Devem ser acompanhados por treinamento em habilidades digitais, envolvimento da comunidade e conscientização, especialmente para milhões de profissionais de saúde que precisarão de alfabetização digital ou retreinamento se suas funções forem automatizadas, visto que lidar com máquinas que pode desafiar a tomada de decisão e a autonomia de prestadores e pacientes.

Segue, abaixo, os seis princípios definidos pela OMS para servir como base para regulamentações e garantir que a IA funcione para o interesse público, limitando os riscos e maximizando as oportunidades intrínsecas ao seu uso:

1. Proteger a autonomia humana: no contexto dos cuidados de saúde, isso significa que os humanos devem permanecer no controle dos sistemas de saúde e das decisões médicas; privacidade e confidencialidade devem ser protegidas, e os pacientes devem dar consentimento informado válido por meio de estruturas legais apropriadas para proteção de dados.
2. Promover o bem-estar e a segurança humana e o interesse público: os projetistas de tecnologias de IA devem atender aos requisitos regulamentares de segurança, precisão e eficácia para casos de uso ou indicações bem definidos. Devem estar disponíveis medidas de controle de qualidade na prática e melhoria da qualidade no uso de IA.
3. Garantir transparência, explicabilidade e inteligibilidade: a transparência requer que informações suficientes sejam publicadas ou documentadas antes do projeto, ou implantação de uma tecnologia de IA. Essas informações devem ser facilmente acessíveis e facilitar a consulta pública significativa e o debate sobre como a tecnologia é projetada e como deve ou não ser utilizada.
4. Promover responsabilidade e prestação de contas: embora as tecnologias de IA executem tarefas específicas, é responsabilidade dos interessados garantir que sejam usadas em condições apropriadas e por pessoas devidamente treinadas. Mecanismos eficazes devem estar disponíveis para questionamento e reparação de indivíduos e grupos que são adversamente afetados por decisões baseadas em algoritmos.
5. Garantir inclusão e equidade: a inclusão requer que a IA para a saúde seja projetada para encorajar o uso e acesso equitativos mais amplos possíveis, independentemente de idade, sexo, gênero, renda, raça, etnia, orientação sexual, capacidade ou outras características protegidas por códigos de direitos humanos.
6. Promover IA que seja responsiva e sustentável: ‘designers’, desenvolvedores e usuários devem avaliar de forma contínua e transparente os aplicativos de IA durante o uso real para determinar se a IA responde de forma adequada e apropriada às expectativas e requisitos. Os sistemas de IA também devem ser projetados para minimizar suas consequências ambientais e aumentar a eficiência energética. Governos e empresas devem abordar as interrupções previstas no local de trabalho, incluindo treinamento para profissionais de saúde para se adaptarem ao uso de sistemas de IA e possíveis perdas de empregos devido ao uso de sistemas automatizados.

Para acessar o relatório da OMS na íntegra, clique aqui.

Jenifer Lopes
Avaliadora do Staff Operacional do Grupo IBES