Parece ser alguma incompatibilidade de driver, não tenho muito experiencia com nvidia mas é oque parece.

Tenta remover o afterburner e o driver utilizando o DDUunistaller em modo de segurança, depois reinstalar tudo novamente.