Ce problème est dû au fait que votre classpath manque hamcrest-core-1.3.jar. Pour résoudre ce problème, ajoutez hamcrest-core-1.3.jar comme vous ajoutez junit-4.XX.jar dans votre classpath.
Au début, je rencontre aussi ce problème, mais après m'être référé à la site officiel et ajouter hamcrest-core-1.3.jar dans le classpath avec la ligne de commande, cela fonctionne enfin correctement.
javac -d ../../../../bin/ -cp ~/libs/junit-4.12.jar:/home/limxtop/projects/algorithms/bin MaxHeapTest.java
java -cp ../../../../bin/:/home/limxtop/libs/junit-4.12.jar:/home/limxtop/libs/hamcrest-core-1.3.jar org.junit.runner.JUnitCore com.limxtop.heap.MaxHeapTest