O que é não-determinismo?

Não é um bug e você não pode desligá-lo. Gerar texto envolve escolher entre opções, e a escolha nem sempre é a mesma.

É por isso que um prompt que funcionou ontem pode falhar hoje, e por que qualquer coisa importante é verificada em vez de apenas confiada.