Приветствую.
1). Надеюсь у Вас 6gb версия видеокарты.
2).Если среда Windows: "Мой компьютер" -"Своиства"- "Дополнительные параметры системы"-"Параметры быстродействия"-"дополнительно" (Виртуальная память-изменить) Выставить 21gb фаил подкачки....
3.) Проверить последнею версию ПО и актуальность...
4). msi afteburner - попробовать поднять power limit и cpu возможно нехватает напряжения на память...
5). Битая память на карте ) - заменить карту
6.) возможно я ошибаюсь во всем предложенном)
Удачи!