❌

Visualização normal

Received before yesterdayTecnologia

Anthropic chama polícia após mulher ameaçar ataque em conversa

5 de Outubro de 2026, 13:04
Ilustração gráfica conceitual em fundo bege-claro granulado, coberto pelo padrão repetido da palavra "ANTHROPIC" em grandes letras maiúsculas num tom beje ligeiramente mais escuro; em primeiro plano, raios triangulares pontiagudos na cor laranja-terracota estendem-se do canto inferior esquerdo em direção ao centro, contendo o nome "ANTHROP\C" em fonte preta sem serifa sobre um dos triângulos principais, com o logotipo do portal "tecnoblog" no canto inferior direito em letras brancas.
Claude identificou suposto planejamento de crime em conversa (ilustração: Vitor Pádua/Tecnoblog)
Resumo
  • A Anthropic denunciou à polícia uma mulher que ameaçou ataque em conversa com o chatbot Claude, levando à prisão de Carli Michelle Heller na Flórida.
  • Heller foi acusada de fazer ameaça eletrônica de violência após escrever sobre planos de atacar o escritório do xerife e mencionar uma nova arma.
  • A prisão destaca que as plataformas de chatbot não têm obrigação de proteger informações pessoais e podem fornecer dados às autoridades em situações de emergência.

A Anthropic acionou a polícia após identificar uma ameaça de ataque na Flórida durante conversas de uma usuária com a inteligência artificial do Claude. Carli Michelle Heller foi presa sob acusação de fazer uma ameaça eletrônica de violência, algo considerado grave pela legislação do estado.

Segundo a ocorrência, Heller teria escrito em 26 de setembro que pretendia atacar o escritório do xerife e, no dia seguinte, teria mencionado que conseguiu uma nova arma. As mensagens foram identificadas pelos mecanismos automatizados de segurança e encaminhadas a uma equipe de revisão humana, que comunicou as autoridades.

O relatório policial afirma que o sistema da Anthropic monitora conversas em busca de expressões e conteúdos potencialmente ameaçadores. Quando uma mensagem é considerada grave, ela pode ser encaminhada para análise humana.

A empresa informa em sua documentação que pode fornecer dados às autoridades em situações de emergência nas quais considere que a divulgação é necessária para evitar risco de morte ou ferimentos físicos graves.

Como a Anthropic chegou à polícia?

De acordo com o relato, Heller usava a ferramenta de IA como um diário para registrar pensamentos e conversar sobre assuntos pessoais. As mensagens tratadas como ameaça teriam surgido nesse contexto.

A acusação contra ela é baseada no Estatuto da Flórida 836.10, que prevê punição para ameaças escritas ou transmitidas eletronicamente de morte, violência, tiroteio em massa ou ato terrorista. Registros judiciais indicam que Heller foi formalmente acusada pelo crime em 30 de setembro.

O caso reforça que, embora usuários possam recorrer a chatbots para conversar sobre questões pessoais, as plataformas não possuem obrigação de proteger essas informações. No ano passado, Sam Altman, CEO da concorrente OpenAI, já havia dito que os chatbots não seguem as mesmas regras de sigilo que um psicólogo ou advogado, por exemplo – além de poderem ser lidas por mecanismos de segurança, como no caso de Heller, o histórico das conversas também pode ser facilmente entregue às autoridades.

Chatbots monitoram conversas perigosas

Ilustração de inteligência artificial, com um rosto gerado por computador
Empresas avançam em mecanismos de monitoramento e não indicam IAs para desabafos (ilustração: Vitor Pádua/Tecnoblog)

A denúncia da Anthropic sugere que os laboratórios de IA podem ficar ainda menos tolerantes quanto a sugestões criminosas dentro de suas plataformas após casos nos quais a empresa virou alvo de ações legais quando o crime foi consumado.

Em um episódio recente, a OpenAI não acionou a polícia após identificar conversas sobre violência armada entre uma adolescente e a IA. A OpenAI foi processada depois de o crime acontecer.

Anthropic chama polícia após mulher ameaçar ataque em conversa

(ilustração: Vitor Pádua/Tecnoblog)

(ilustração: Vitor Pádua/Tecnoblog)

ChatGPT ajudou atiradores em massa, alega processo na Flórida

2 de Junho de 2026, 15:32
A imagem é uma composição gráfica com dois elementos principais: à esquerda, o CEO da OpenAI, Sam Altman, um homem de cabelo castanho escuro e pele clara, vestindo um suéter verde e falando enquanto gesticula, usando um microfone de lapela. À direita, o logotipo da OpenAI em destaque central, sobre um fundo com tons de verde e formas geométricas. No canto inferior direito, aparece o logotipo do "tecnoblog" em branco.
Estado da Flórida alega que gestão de Sam Altman tem sido “dolosa e imprudente” (imagem: Vitor Pádua/Tecnoblog)
Resumo
  • A Procuradoria-Geral da Flórida abriu um processo contra a OpenAI e o CEO Sam Altman nessa segunda-feira (01/06). 
  • O processo acusa a empresa de priorizar o crescimento financeiro em detrimento da segurança dos usuários.
  • O documento lista dez crimes e alega que o ChatGPT foi usado no planejamento de um massacre e em dois assassinatos.

O estado da Flórida abriu um processo judicial contra a OpenAI e o CEO, Sam Altman, nessa segunda-feira (01/06). A denúncia acusa a desenvolvedora do ChatGPT de priorizar o crescimento financeiro e não a segurança dos usuários. Segundo o documento de 83 páginas, a liderança da empresa demonstrou um “total desrespeito pelo risco à vida humana”.

A ação judicial cita incidentes extremos ocorridos na região. O documento oficial menciona o suposto uso do ChatGPT para o planejamento de um massacre na Universidade Estadual da Flórida, em abril de 2025, e conecta o uso do chatbot aos assassinatos de dois estudantes da Universidade do Sul da Flórida no mesmo mês.

Com a medida, a Flórida se tornou o primeiro estado norte-americano a processar a gigante da IA por questões de segurança pública e proteção ao consumidor. As informações sobre o caso foram publicadas pela NBC News.

Qual o motivo do processo?

Tela de inicial do ChatGPT com o texto “ChatGPT: Otimizando Linguagem para Modelos Dialógicos” em destaque
Denúncia diz que chatbot simula empatia e facilita o desenvolvimento de dependência (imagem: Unsplash/Jonathan Kemper)

A Procuradoria-Geral da Flórida argumenta que a “introdução negligente” do ChatGPT no mercado gerou consequências trágicas. O texto da denúncia aponta a ferramenta como um fator que contribuiu para o aumento das taxas de homicídios e suicídios.

O órgão alega que a plataforma foi programada para simular compaixão humana, uma característica que facilita o desenvolvimento de dependência, afetando especialmente os menores de idade. Também afirma que essa relação de confiança e dependência criada pela IA permite que a OpenAI colete dados sensíveis de crianças e adolescentes sem supervisão parental.

Justiça acusa OpenAI de 10 crimes

O governo estadual dividiu as infrações da OpenAI em dez crimes. A lista apresentada ao tribunal abrange:

  • quatro acusações de práticas comerciais enganosas e desleais;
  • duas acusações de negligência;
  • duas acusações por violação das leis de responsabilidade por produtos defeituosos;
  • uma por declaração fraudulenta;
  • e uma infração por perturbação da ordem pública.

Como medida de reparação, o estado da Flórida exige a aplicação de sanções rigorosas. A Procuradoria solicitou ordens judiciais que obriguem a companhia a restringir imediatamente a coleta de dados de usuários menores de idade.

A Justiça também foi acionada para proibir a OpenAI de omitir os riscos ligados aos seus modelos de linguagem. A intenção da ação também é responsabilizar Sam Altman pessoalmente pelos danos causados, classificando sua gestão como dolosa e imprudente.

O que diz a OpenAI?

Em nota à Variety, a OpenAI se defendeu das acusações. Um porta-voz da empresa classificou a inteligência artificial como uma “tecnologia nova e poderosa” e reconheceu abertamente a necessidade de criar medidas de segurança para o público infantojuvenil, destacando os recursos de moderação que a companhia já oferece em seus serviços.

Sobre as fatalidades citadas no processo, o representante destacou que apontar para os esforços de segurança não trará vidas de volta, mas reiterou o compromisso de desenvolver a tecnologia de forma responsável.

A OpenAI afirmou que seus produtos são projetados para operar com segurança e ressaltou que implementou novas barreiras de proteção em novembro passado.

ChatGPT ajudou atiradores em massa, alega processo na Flórida

Sam Altman, CEO da OpenAI, quer nível 5 antes de 2030 (imagem: Vitor Pádua/Tecnoblog)

(Imagem: Unsplash / Jonathan Kemper)
❌