A Organização Mundial da Saúde (OMS) possui seu próprio chatbot conversacional. O organismo dependente das Nações Unidas No início deste mês, lançou o SARAH, um “defensor da saúde digital” disponível 24 horas por dia, 7 dias por semana, em oito idiomas.
“Use a IA generativa para ajudá-lo a levar uma vida mais saudável”, afirma a OMS na página de apresentação da sua mais recente inovação digital. Contudo, tal como relata a Bloomberg, estamos perante um protótipo ultrapassado que, por vezes, pode acabar por alucinar.
SARAH, o chatbot de IA da OMS
A missão da SARAH é oferecer aconselhamento e informação sobre uma ampla gama de problemas de saúde. Podemos perguntar-lhe como lidar com o estresse ou como comer melhor. Neste último caso, também temos a possibilidade de adicionar contexto para receber uma resposta mais precisa.
Na página do chatbot podemos ler que foi treinado “com as informações mais recentes da Organização Mundial da Saúde e de parceiros de confiança”. No entanto, abaixo e em letras pequenas, a OMS observa que as suas respostas não representam a sua opinião.
Certamente, confiar no que um chatbot de IA diz não é uma boa ideia, ainda mais quando se trata de temas de saúde. No estado atual da tecnologia, essas soluções baseado em algoritmos Eles tendem a ter alucinações, mesmo depois de receberem treinamento de qualidade.
Mas a verdade é que SARAH parece não estar tão atualizada como prometido. O referido meio de comunicação americano destaca que a ferramenta é baseada no ChatGPT-3.5 e que seus dados de treinamento chegam a setembro de 2021.
Isso significa que o chatbot não possui informações recentes sobre advertências médicas ou eventos importantes recentes. Em nossos testes pudemos verificar isso. Perguntamos quando foi declarado o fim da emergência sanitária da COVID-19.
Para SARAH, o mencionado nunca aconteceu, embora tenha ocorrido no dia 5 de maio de 2023. Também perguntamos a ela sobre mortes por acidentes de trânsito no último ano. O chatbot deu-nos as suas estatísticas, mas o seu conhecimento indica que o último ano foi 2020.
Ao nível da privacidade, esta solução desenvolvida pela Digital People Soul Machines Limited promete manter cada visita anonimamenteNo entanto, são coletados dados aleatórios não vinculados a um endereço IP. Também não é necessária uma conta para usar o serviço.
Curiosamente, SARAH obriga os usuários a conceder permissão à câmera e ao microfone para funcionar. Embora o acesso a esses recursos esteja vinculado a uma “melhoria na experiência de conversação”, ele poderia ser realizado apenas por meio de texto.
Neste sentido, em tempos em que valorizamos cada vez mais a privacidade e as permissões que concedemos, seria ideal tem a possibilidade de escolher se quisermos permitir que o microfone e a câmera conversem naturalmente por voz com o chatbot AI.
A OMS pretende criar uma experiência de ponta, por isso o sistema também é alimentado pelas expressões faciais dos utilizadores (por isso pede acesso à câmara). Os vídeos, segundo a organização, são excluídos após 30 segundos.
Como dizemos, é um projeto em pleno desenvolvimento. Aliás, a própria OMS afirma estar aberta a receber comentários sobre o funcionamento do SARAH. Os usuários podem encontrar um botão dedicado para isso no canto superior esquerdo.
O projeto procura explorar os benefícios da IA para a saúde pública, bem como compreender os seus desafios. AI, reflete a OMS, “levanta importantes preocupações éticascomo igualdade de acesso, privacidade, segurança e precisão, proteção de dados e preconceito.”
Imagens | QUEM
Em Xataka | Empresas dos EUA e da China unem as mãos por um bom motivo: para criar o primeiro padrão global para IA generativa