Glossário Colaborativo

Jailbreak

Técnica que busca contornar as restrições de segurança de um modelo de IA por meio de instruções elaboradas no prompt, levando-o a produzir conteúdo que normalmente recusaria.

Técnica que busca contornar as restrições de segurança de um modelo de IA por meio de instruções elaboradas no prompt — geralmente simulando papéis, contextos fictícios ou sequências de raciocínio induzido — levando-o a produzir conteúdo que normalmente recusaria. O termo vem do mundo dos dispositivos móveis, onde também designa a remoção das limitações impostas pelo fabricante no sistema operacional (como instalar apps não autorizados no iOS). Fabricantes de modelos de IA investem continuamente em resistência a jailbreaks.

Veja também