Configurar proteção contra ataque de injeção de prompt

  • Versão de lançamento: Yokohama
  • Atualizado 30 de jan. de 2025
  • 1 min. de leitura

    • Ative ou desative a proteção contra ataques de injeção de aviso para textos e conversas gerados por IA.

    Antes de Iniciar

    Função necessária: sn_generative_ai.nsa_admin

    Por Que e Quando Desempenhar Esta Tarefa

    Os ataques de injeção de aviso são um tipo de ataque de segurança cibernética em que alguém tenta substituir as instruções iniciais de um LLM para causar comportamentos não intencionais. O guardião do Now Assist pode detectar e registrar essas tentativas de ataque, e você pode escolher se deseja bloquear a resposta gerada por IA após a tentativa de ataque.

    Consulte Guardião do Now Assist para obter mais informações.

    Os logs podem ser exportados para revisão. Para obter instruções sobre como fazer isso, consulte Exportar logs do guardião do Now Assist.

    Procedimento

    1. Navegar até Tudo > Administrador do Now Assist > Configurações.
    2. No painel lateral, vá para Guardião do Now Assist > Injeção de prompt.
    3. Selecione a alternância para mudar o status ativo da proteção contra ataque de injeção de prompt.

      A proteção contra ataque de injeção de aviso está habilitada por padrão, o que significa que o guardião do Now Assist registra tentativas, a menos que você a desative.

    4. Opcional: Em Impacto da detecção, selecione o ícone de opções ( ícone Opções) e escolha Editar para mudar o impacto da detecção.

      Você pode escolher se os ataques de injeção de aviso serão bloqueados e registrados em log.

      Cartão de seleção de impacto da detecção de proteção de injeção de aviso com "somente log" selecionado

    Resultado

    Você configurou se a proteção contra ataque de injeção de aviso está habilitada em sua instância e determinou o que deseja que o guardião do Now Assist faça em caso de uma tentativa.