Produto
DeepMind Health
Fevereiro 2016 a Novembro 2018
“Queria salvar rins. Esqueceu de pedir licença.”
Produto, de Fevereiro 2016 a Novembro 2018
DeepMind Health
IA médica que começou pelo dado e tropeçou na confiança
Causa da morte
Dados de pacientes sem base legal clara e confiança perdida
Padrão de morte
Risco, regulação e confiança (padrão de mercado)
Dano real, viés, privacidade ou segurança. Regulador, tribunal ou opinião pública fecharam a porta.
Engolido por plataforma (padrão de mercado)
Quem é dono do sistema, do canal ou do talento decidiu o jogo: absorveu, contratou o time ou tirou o espaço.
- Dinheiro envolvido
- Não divulgado (parte da DeepMind)
- Alcance
- Hospitais do NHS no Reino Unido
O que aconteceu
A DeepMind criou o Streams, app que alertava médicos do Royal Free, em Londres, sobre risco de lesão renal aguda. Para o teste, o hospital repassou dados de cerca de 1,6 milhão de pacientes. Em julho de 2017 o ICO, regulador de dados britânico, concluiu que o Royal Free não cumpriu a lei de proteção de dados nesse repasse. Em novembro de 2018 a equipe de saúde da DeepMind foi absorvida pelo Google Health, o que reacendeu críticas sobre privacidade. Em 2021 o Google anunciou o fim do Streams.
O que prometia ser
A divisão de saúde da DeepMind, focada em alerta clínico precoce e apoio ao médico.
O que deu errado
O teste começou antes de a base legal estar resolvida. O regulador cobrou o hospital, mas a desconfiança caiu na conta da DeepMind. Depois, a absorção pelo Google trocou o dono da relação com os hospitais, e o produto não sobreviveu à reorganização.
O que dá pra aprender
- Base legal vem antes do primeiro dado
- Consentimento não é detalhe de jurídico
- Confiança em saúde leva anos pra construir e um título pra perder
- Reorganização mata produto que depende de relação
- Transparência sobre quem acessa o dado é parte do produto