STJ vai investigar tentativa de uso de prompt injection em processos na Corte

A informacao chegou e merece atencao. O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de um inquérito e um procedimento administrativo para apurar o uso de "prompt injection" (injeção de comando, em tradução livre), uma ação para tentar manipular a inteligência artificial (IA).

Segundo apurado, O foco da investigação é descobrir se houve uma tentativa de fraude processual. Serão tomados depoimentos de advogados e escritórios envolvidos. A decisão foi tomada pela Presidência do STJ após técnicos do tribunal identificarem um acervo de processos com essa técnica, que é usada por usuários mal-intencionados para inserir comandos ocultos em documentos comuns.

Vídeos em alta no g1 💻 A técnica "prompt injection" (injeção de comando, em tradução livre) acontece quando uma pessoa insere instruções escondidas para enganar ou manipular uma ferramenta de inteligência artificial. Em nota, o presidente do STJ, ministro Herman Benjamin, defendeu apuração e responsabilização. "O STJ Logos (sistema de IA generativa elaborado pela corte) já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar. Estamos mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos". Siga acompanhando o blog pra mais atualizacoes.