Você está com dor de cabeça ou é sinusite? Qual é a aparência de uma fratura por estresse? Você deveria se preocupar com a dor no peito? Se você pesquisar essas perguntas agora no Google, as respostas poderão ser escritas por inteligência artificial.
Em maio, o Google lançou um novo recurso chamado AI Overviews que usa IA generativa, um tipo de tecnologia de aprendizado de máquina que é treinada com base em informações da Internet e produz respostas conversacionais para algumas perguntas de pesquisa em segundos.
Nas semanas desde o lançamento da ferramenta, os usuários encontraram uma ampla gama de imprecisões e respostas bizarras sobre diversos tópicos. Posteriormente, a empresa pareceu reverter o recurso para algumas pesquisas, na tentativa de reduzir esses erros.
Quando se trata de respostas de IA a questões de saúde, os especialistas afirmam que os riscos são particularmente elevados. Esta tecnologia pode orientar as pessoas para hábitos saudáveis ou cuidados médicos necessários, mas também tem o potencial de fornecer informações imprecisas. A inteligência artificial às vezes pode inventar fatos. Se as suas respostas forem moldadas por websites sem base científica, poderão fornecer conselhos que contradizem os conselhos médicos ou representam um risco para a saúde de uma pessoa.
Já foi demonstrado que o sistema produz respostas pobres que parecem basear-se em fontes erradas. Quando questionados sobre “Quantas pedras devo comer”, por exemplo, o AI Overviews pediu a alguns usuários que comessem pelo menos uma pedra por dia para obter vitaminas e minerais. (Conselho copiado de Cebolassite satírico.)
“Você não pode confiar em tudo que lê”, disse o Dr. Karandeep Singh, diretor de IA de saúde da UC San Diego Health. Na saúde, disse ele, sua fonte de informação é essencial.
As pesquisas de saúde têm “proteções adicionais”, disse Hema Buddaraju, diretora de gerenciamento de produtos do Google que está ajudando a liderar o trabalho na visão geral da IA, mas se recusou a descrevê-las em detalhes. Pesquisas consideradas sérias ou explícitas, ou que indiquem que alguém está em situação vulnerável, como automutilação, não acionam resumos de IA, disse ela.
O Google se recusou a fornecer uma lista detalhada de sites que suportam as informações nas visões gerais de IA, mas disse que a ferramenta funciona em conjunto com… Gráfico de conhecimento do Googleum sistema de informação existente que extraiu bilhões de fatos de centenas de fontes.
Novas respostas de investigação identificam algumas fontes; Para questões de saúde, geralmente são sites como a Clínica Mayo, WebMD, a Organização Mundial da Saúde e o centro de pesquisa científica PubMed. Mas não é uma lista exaustiva: a ferramenta também pode ser extraída da Wikipedia, postagens de blogs, Reddit e sites de comércio eletrônico. Ele não informa aos usuários quais fatos vieram de quais fontes.
Usando um resultado de pesquisa padrão, muitos usuários serão capazes de perceber imediatamente a diferença entre um site médico confiável e uma empresa de doces. Mas um único bloco de texto que combina informações de múltiplas fontes pode causar confusão.
“Isso se as pessoas estiverem olhando para a fonte”, disse a Dra. Seema Yasmin, diretora da Health Communications Initiative da Universidade de Stanford. “Não sei se as pessoas estão olhando ou se realmente as instruímos o suficiente”. Para olhar”, disse ela Sua própria pesquisa Por causa da desinformação, tornou-se pessimista quanto ao interesse do usuário médio em ir além da resposta rápida.
Quanto à precisão da resposta sobre o chocolate, o Dr. Dariush Mozaffarian, cardiologista e professor de medicina na Universidade Tufts, disse que ela contém alguns fatos que são em sua maioria corretos e que resume a pesquisa sobre os benefícios do chocolate para a saúde. Mas ele disse que não distingue entre evidências fortes fornecidas por ensaios randomizados e evidências mais fracas de estudos observacionais, nem faz quaisquer advertências sobre as evidências.
Dr. Mozaffarian disse: É verdade que o chocolate contém antioxidantes. Mas a afirmação de que o consumo de chocolate pode ajudar a prevenir a perda de memória? Isto não foi claramente comprovado, disse ele, e “precisa de muitos avisos”. Listar essas afirmações lado a lado dá a impressão de que algumas são mais bem fundamentadas do que realmente são.
As respostas também podem mudar à medida que a própria IA evolui, mesmo que a ciência por trás de uma resposta específica não mude.
Um porta-voz do Google disse em comunicado que a empresa tem trabalhado para exibir isenções de responsabilidade nas respostas quando necessário, incluindo notas de que as informações não devem ser tratadas como aconselhamento médico.
Não está claro como exatamente o AI Overviews avalia a força das evidências, ou se leva em consideração resultados de pesquisas contraditórias, como aquelas sobre se o café é bom para você. “A ciência não é um conjunto de fatos fixos”, disse Yasmin. Ela e outros especialistas também se perguntaram se a ferramenta se basearia em descobertas científicas antigas que já foram refutadas, ou se não captaria a compreensão mais recente de um problema.
“Ser capaz de tomar uma decisão crítica – para diferenciar a qualidade das fontes – é o que os humanos fazem o tempo todo, e é o que os médicos fazem”, disse a Dra. Danielle Peterman, médica e cientista de inteligência artificial do Dana-Farber Cancer Institute e Brigham. E hospital feminino. “Eles analisam as evidências.”
Se quisermos que ferramentas como as visões gerais de IA desempenhem esse papel, disse ela, “precisamos entender melhor como navegar por diferentes fontes e como aplicar uma lente crítica para chegar a um resumo”.
Estas incógnitas são preocupantes, dizem os especialistas, uma vez que o novo sistema gera uma resposta geral da IA em links individuais para sites médicos respeitáveis, como os da Clínica Mayo e da Clínica Cleveland. Esses sites historicamente alcançaram o topo de muitas pesquisas sobre saúde.
Um porta-voz do Google disse que as visões gerais da IA combinarão ou resumirão as informações que aparecem nos principais resultados de pesquisa, mas não foram projetadas para substituir esse conteúdo. Em vez disso, disse o porta-voz, eles são projetados para ajudar as pessoas a navegar pelas informações disponíveis.
A Clínica Mayo não quis comentar as novas respostas. Um representante da Cleveland Clinic disse que as pessoas que buscam informações sobre saúde devem “procurar diretamente em fontes conhecidas e confiáveis” e entrar em contato com seu médico se apresentarem algum sintoma.
Um representante da Scripps Health, um sistema de saúde com sede na Califórnia citado em alguns resumos da AI Overview, disse em um comunicado que “as citações nas respostas geradas pela IA do Google podem ser benéficas porque tornam a Scripps Health uma fonte confiável de informações de saúde”. .
No entanto, o representante acrescentou: “Temos preocupações de que não podemos garantir o conteúdo produzido pela IA da mesma forma que podemos garantir o nosso próprio conteúdo, que é examinado pelos nossos profissionais médicos”.
Especialistas afirmam que, para questões médicas, não é apenas a precisão da resposta que importa, mas como ela é apresentada aos usuários. Faça a pergunta “Estou tendo um ataque cardíaco?” A resposta da IA teve um resumo útil dos sintomas, disse o Dr. Richard Gumina, diretor de medicina cardiovascular do Centro Médico Wexner da Universidade Estadual de Ohio.
Mas ele acrescentou que teve que ler uma longa lista de sintomas antes que a mensagem de texto o aconselhasse a ligar para o 911. O Dr. Gumina também pesquisou “Estou tendo um derrame?” Para ver se a ferramenta poderia produzir uma resposta mais urgente – o que aconteceu, pedindo aos usuários na primeira linha que ligassem para o 911. Ele disse que aconselharia imediatamente os pacientes com sintomas de ataque cardíaco ou derrame a procurarem ajuda.
Os especialistas encorajaram as pessoas que procuram informações sobre saúde a tratar as novas respostas com cautela. Essencialmente, disseram eles, os usuários devem observar os detalhes mais sutis em algumas respostas gerais da IA: “Isso é apenas para fins informativos. Para aconselhamento médico ou diagnóstico, consulte um profissional. A IA generativa é experimental.”
Danny Bloom Contribuiu para relatórios.
“Introvert. Communicator. TV fanatic. Typical coffee advocate. Proud music expert. Annoyingly humble student.”