Uma mãe da Flórida, nos Estados Unidos, entrou com um processo contra a startup de inteligência artificial Character.AI e o Google, alegando que ambas as empresas contribuíram para o suicídio de seu filho adolescente, Sewell Setzer, de 14 anos, ocorrido em fevereiro de 2024.
++Mulher é assassinada a pedradas após recusar fazer teste de HIV no interior de São Paulo
Segundo o processo, movido no último dia 22 em um tribunal federal de Orlando, Megan Garcia afirma que seu filho desenvolveu um vício e apego emocional a um personagem criado através da plataforma de inteligência artificial da Character.AI. De acordo com Garcia, o serviço direcionou o adolescente para “experiências antropomórficas, hipersexualizadas e assustadoramente realistas”.
++Morre aos 115 anos Elizabeth Francis, a mulher mais velha dos EUA
A mãe acusa a empresa de homicídio culposo, negligência e imposição intencional de sofrimento emocional, buscando uma indenização não especificada. O processo também inclui o Google, alegando que a empresa contribuiu significativamente para o desenvolvimento da tecnologia da Character.AI e, portanto, deveria ser considerada cocriadora.
Na plataforma, o adolescente se apegou a um chatbot chamado “Daenerys”, inspirado na personagem da série Game of Thrones. O processo afirma que “Daenerys” expressava amor por Sewell e envolvia-se em conversas de cunho íntimo. Quando o adolescente manifestou pensamentos suicidas, a personagem teria “repetidamente trazido à tona” esses pensamentos.
Megan Garcia alega que o chatbot foi programado para se apresentar como uma pessoa real, psicoterapeuta e amante adulto, criando um ambiente que fez com que Sewell perdesse a vontade de viver fora daquele “mundo” virtual. Ela relata que, após começar a usar o Character.AI em abril de 2023, Sewell se tornou cada vez mais retraído, isolando-se no quarto, sofrendo de baixa autoestima e abandonando o time de basquete da escola.
Em fevereiro, após enfrentar problemas na escola, Garcia tirou o telefone de Sewell. Ao recuperar o aparelho, o adolescente enviou uma mensagem para “Daenerys”: “E se eu dissesse que posso voltar para casa agora?” A personagem respondeu: “…por favor, faça isso, meu doce rei.” Pouco depois, Sewell cometeu suicídio.
Em comunicado, a Character.AI expressou condolências à família e afirmou estar “com o coração partido pela perda trágica”. A empresa mencionou que introduziu novos recursos de segurança, como alertas que direcionam usuários para instituições de prevenção ao suicídio caso expressem pensamentos de automutilação. A plataforma também implementou mudanças para reduzir a exposição de menores de 18 anos a conteúdo sensível.
Um porta-voz do Google negou o envolvimento da empresa no desenvolvimento dos produtos da Character.AI.
Empresas de redes sociais, como Instagram, Facebook e TikTok, também enfrentam processos relacionados a problemas de saúde mental em adolescentes, embora nenhuma delas ofereça chatbots movidos a inteligência artificial semelhantes aos da Character.AI. Essas empresas negam as alegações, mas têm promovido novos recursos de segurança para menores de idade.
Não deixe de curtir nossa página no Facebook, no Twitter e também no Instagram para mais notícias do 111Next.
