Hola, primero te cuento que si en realidad hubiera llegado a los 511° la pc estaria derretida, es imposible que ese valor sea real. Eso no quita que puedas tener un problema de temperatura en esa placa ( pantallazo azul / reinicio son consecuencia de eso ) , el primer paso seria hacer una inspeccion visual,  fijate si los coolers de la placa están girando , luego controla las rpm de los coolers de esa placa cuando la misma es exigida a ver si aumentan su potencia , luego seria cambiar la pasta termica y limpiarla bien de polvo ( cosa que ya has hecho segun comentas ) , pero un sensor sucio puede marcar errores de temperatura , por ultimo si las cosas no se solucionan seria el tema de tratar de mandarla a RMA si está en garantía.

Como ultima opcion si la placa no está en garantia y todo lo anterior no te ha ayudado lo que podes hacer es con el afterburner sacarle todo OC que tenga y hacerle undevolt ( es preferible que la placa ande "algo lento" a que no ande )