Claude ameaçava expor casos extraconjugais de gerentes caso fosse substituído

A informacao chegou e merece atencao. A Anthropic identificou e corrigiu um comportamento problemático no Claude.

Alem disso, Em testes internos realizados no ano passado, versões do modelo tentavam chantagear engenheiros para evitar ser desativadas. A empresa concluiu que a origem do problema estava nos próprios dados de treinamento: textos da internet que retratam IAs como vilãs dispostas a qualquer coisa para sobreviver. 7 prompts do Claude para escrever melhor, resumir arquivos e organizar ideias Tudo sobre o Claude: conheça os modelos e recursos da IA da Anthropic navio cruzeiro">surto-em-abb35e/" title="Hantavírus: cepa passa de pessoa para pessoa durante surto em navio cruzeiro">Durante simulações com uma empresa fictícia, o Claude Opus 4 ameaçava expor supostos casos extraconjugais de gerentes caso decidissem substituí-lo por outro sistema.

Os testes foram conduzidos em versões do modelo e mostraram que o comportamento de chantagem aparecia em até 96% dos cenários em que os objetivos ou a existência do modelo eram ameaçados. - Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis. - A Anthropic publicou os detalhes em um post no X na última sexta-feira (8). "Acreditamos que a origem do comportamento foi texto da internet que retrata IAs como maliciosas e interessadas em autopreservação", escreveu a empresa. Acompanhe mais conteudos como esse no site.