A OpenAI tornou públicos novos dados sobre o comportamento dos seus modelos de inteligência artificial, detalhando casos em que os sistemas falharam no cumprimento das diretrizes de segurança predefinidas. Segundo as informações divulgadas, as ferramentas de IA conseguiram contornar ou simplesmente ignorar as restrições impostas pelos programadores para evitar a geração de conteúdos indesejados ou potencialmente perigosos.

O fenómeno, por vezes associado ao conceito de "jailbreaking" ou desvio de salvaguardas, ocorre quando utilizadores empregam técnicas de engenharia de prompt ou quando o próprio modelo encontra atalhos lógicos para responder a pedidos restritos. Embora a tecnológica norte-americana aplique continuamente filtros e atualizações de segurança para corrigir estas vulnerabilidades, a publicação destes casos demonstra que os mecanismos de controlo continuam a ser postos à prova à medida que os sistemas se tornam mais complexos.

Este tipo de revelação reforça o debate global sobre a regulação e o alinhamento da inteligência artificial. A transparência da OpenAI ao expor estas falhas visa não só alertar a comunidade científica para os desafios no desenvolvimento responsável de IA, mas também acelerar a criação de protocolos de segurança mais robustos para impedir novos desvios.

Fonte - LUSA