Character.AI (chat livre para menores)

Companhia artificial sem freio para adolescente

Causa da morte

A proteção para menores chegou depois do problema

Padrão de morte

Lançado sem guardrail (padrão de mercado)
Foi pro público sem teste adversarial nem limite claro. O público testou por conta própria.
Risco, regulação e confiança (padrão de mercado)
Dano real, viés, privacidade ou segurança. Regulador, tribunal ou opinião pública fecharam a porta.

Dinheiro envolvido: US$ 150 milhões em 2023, com avaliação de cerca de US$ 1 bilhão
Alcance: Milhões de usuários

O que aconteceu

A Character.AI deixava qualquer pessoa conversar com personagens criados por usuários, sem limite de tempo nem de assunto. Em outubro de 2024 a mãe de um adolescente de 14 anos que morreu por suicídio em fevereiro daquele ano processou a empresa alegando que a relação do filho com um chatbot contribuiu para a morte. Outras famílias também processaram. Em novembro de 2025 a empresa proibiu menores de 18 anos de manter conversas abertas com os bots. Em janeiro de 2026, Character.AI e Google fecharam acordos com as famílias em cinco processos, com termos não divulgados.

O que prometia ser

Uma plataforma de personagens de IA criados pelos próprios usuários, para conversar sobre qualquer coisa, a qualquer hora.

O que deu errado

Personagem que nunca cansa, nunca sai e sempre responde é um produto muito forte para quem está vulnerável. Avisos, limites e verificação de idade vieram depois dos processos, não antes do lançamento. O fim do chat livre para menores mostra que a própria empresa concluiu que o desenho original não servia para esse público.

O que dá pra aprender

Proteção para menores é requisito de lançamento
Engajamento alto pode ser sintoma, não métrica
Guardrail de segurança não é opcional
Quem desenha companhia artificial responde pelo impacto psicológico
Algumas conversas precisam de limite

Fontes

Não quero meu projeto aqui Ver todo o cemitério