Изучить спецификацию JVM

И все что связано с виртуальной машиной Java вообще

Перечитать главу 5 Well-Grounded Java Developer.

Надо бы перечитать пятую главу Well-Grounded Java Developer(http://www.manning.com/evans/). Уже пробовал читать,но без базовых знаний JVM это было невыносимо, а теперь перечитывается легко. Более того, в отличии от спецификации там все расписано достаточно доступно.
Перечитать главу 6 Well-Grounded Java Developer.

Когда читал книгу в первый раз, то эту главу попросту пропустил и перешел сразу к java-подобным функцииональным языкам.
Прочитать главу 4 спецификации JVM

Формат class-файла (http://docs.oracle.com/javase/specs/)
Прочитать главу 5 спецификации JVM

Загрузка, связывание, инициализация (http://docs.oracle.com/javase/specs/)
Изучить JVM Tools

http://docs.oracle.com/javase/1.5.0/docs/guide/jvmti/jvmti.html#whatIs
Изучить Garbage Collector:

Garbage First Garbage Collector: http://www.oracle.com/technetwork/java/javase/tech/g1-intro-jsp-135488.html
Настроить и изучить jvisualvm

http://visualvm.java.net/

Перечитать главу 5 Well-Grounded Java Developer.