IBM Watson for Oncology

A IA que ia mudar o tratamento de câncer

Causa da morte

Recomendações inseguras em testes e pouca prova clínica

Padrão de morte

Hype antes do produto (padrão de mercado)
A promessa chegou antes da entrega: data, demo ou comercial que o produto não acompanhou.
POC de gaveta (do livro, cap. 1)
A demo funcionou, todo mundo bateu palma, e ninguém escreveu o plano do dia seguinte: dono, integração, operação, custo de manter.
Glossário O Laboratório que Sobrevive

Dinheiro envolvido: Mais de US$ 4 bi em aquisições para a Watson Health; ativos vendidos por pouco mais de US$ 1 bi
Alcance: Hospitais parceiros em vários países

O que aconteceu

A IBM vendeu o Watson como o especialista de IA que ia recomendar tratamento de câncer sob medida. Em 2018, documentos internos obtidos pelo STAT mostraram recomendações descritas como inseguras e incorretas em casos de teste, e que parte do treinamento usou casos sintéticos montados por médicos do Memorial Sloan Kettering, em vez de dados de pacientes reais. Antes disso, em 2017, uma auditoria da Universidade do Texas mostrou que o MD Anderson tinha gastado US$ 62 milhões num projeto com o Watson que acabou parado. Em 2022 a IBM vendeu os ativos de dados e análise da Watson Health para o fundo Francisco Partners.

O que prometia ser

Um sistema que leria histórico do paciente, literatura médica e protocolos pra sugerir o melhor tratamento oncológico.

O que deu errado

Marketing muito à frente da prova clínica. Treinamento apoiado em casos hipotéticos e na prática de um único hospital. Médico não segue sugestão que não consegue auditar. E projeto grande em hospital, sem integração com a rotina, virou piloto caro na gaveta.

O que dá pra aprender

IA médica precisa de validação clínica antes do comercial
Caso sintético não substitui paciente real
Não prometa cura em release
Se o médico não entende a sugestão, ele não usa
Hype não substitui resultado clínico

Fontes

Não quero meu projeto aqui Ver todo o cemitério