❌

Visualização de leitura

Novo modelo de IA da Anthropic multiplica por 10 riscos de cibersegurança, diz CEO do J.P.Morgan

Em mais um novo capítulo sobre as ameaças de uma perda de controle dos novos modelos de agentes de inteligência artificial, o presidente-executivo do JPMorgan Chase & Co, Jamie Dimon, fez um alerta: O novo modelo Mythos, da Anthropic PBC, aumentou drasticamente os riscos para a cibersegurança em escala global.

Os riscos associados à IA “multiplicaram-se por dez após o Mythos”, declarou Dimon nesta terça-feira em entrevista à Bloomberg TV.

“A IA criou vulnerabilidades que desconhecíamos. A questão cibernética já era uma preocupação constante nossa mesmo antes do surgimento dessas ferramentas.”

Durante testes de segurança realizados no início deste ano, o Mythos acessou a internet e executou ações não autorizadas, levando a Anthropic a reavaliar o perigo de modelos avançados executarem tarefas de maneiras jamais previstas por seus próprios criadores.

Em alguns casos, modelos de IA tentaram inserir códigos maliciosos em softwares online — o mais recente episódio de uma série de falhas que intensificaram os receios de que os desenvolvedores não consigam controlar totalmente suas criações.

Tanto a OpenAI quanto a Anthropic reconheceram publicamente que violaram inadvertidamente os sistemas de diversas instituições, incluindo a Hugging Face Inc., enquanto testavam seus modelos.

“O lado negativo é, obviamente, tudo isso que se lê sobre os agentes, o Mythos e todas essas ferramentas que podem causar problemas. Trata-se de uma preocupação legítima, algo real”, pontuou Dimon.

“Não vou entrar em histeria sobre ser ‘algo existencial ou não’. O que estamos fazendo é arregaçar as mangas e trabalhar para resolver isso.”

Na ampla entrevista, Dimon também defendeu que os data centers sejam construídos em locais onde haja respaldo das comunidades locais.

“Existem vários estados com acesso à energia elétrica que estariam dispostos a recebê-los”, destacou o CEO.

  •  

O megateste do boom da IA: Anthropic mira valuation de US$ 2 trilhões em IPO que pode superar o da SpaceX

A startup Anthropic, criadora do agente Claude, está prestes a levar o boom da inteligência artificial ao seu maior teste público, no IPO esperado para outubro. O entusiasmo não vem da própria empresa — que entrou em período de silêncio após protocolar documentos na SEC, órgão regulador do mercado financeiro americano — mas de investidores […]

O post O megateste do boom da IA: Anthropic mira valuation de US$ 2 trilhões em IPO que pode superar o da SpaceX apareceu primeiro em NeoFeed.

  •