Переустанавливайте java, проблема может быть в том, то что у вас разная разрядность java. Допустим, у системы 64bit, а у java 32bit, обновляйте. Обновите драйвера видеокарты.