Dona do Claude sugere pausa no desenvolvimento da IA por risco de sistemas saírem do controle humano

Veja o que foi divulgado recentemente. Entenda embate entre governo dos EUA e Claude, rival do ChatGPT A empresa de IA Anthropic propôs uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes, diante de sinais de que os modelos mais recentes poderiam escapar do controle humano.

Vale destacar que Desenvolvedora dos modelos de IA do Claude, a empresa, sediada em San Francisco (EUA), destacou em um relatório que a desaceleração mundial no desenvolvimento da IA de ponta poderia ser "uma boa ideia", mas alertou que, se apenas uma empresa diminuir o ritmo, ela pode simplesmente ser ultrapassada pela concorrência. 🗒️Tem alguma sugestão de reportagem? Envie para o g1 "Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia", manifestou a Anthropic.

Uma pausa real significaria grandes empresas de IA em vários países, principalmente China e Estados Unidos, concordando em parar ao mesmo tempo, sob regras que todos pudessem verificar, ressaltou a Anthropic. IA Claude Unsplash/Aerps "Sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas." A proposta enfrenta uma batalha difícil em Washington e no Vale do Silício. Funcionários americanos e executivos de grandes empresas de tecnologia argumentam que desacelerar o desenvolvimento da IA poderia dar à China uma vantagem significativa. O presidente Donald Trump, no entanto, assinou nesta semana um decreto que permitirá ao governo fazer avaliações preliminares dos modelos de IA mais poderosos de empresas americanas antes do seu lançamento. Siga acompanhando o blog pra mais atualizacoes.