W tym czasie znalazł się nowy nauczyciel, całkowicie przeświadczony o zdolności Mądrego Hansa do pojęciowego myślenia. Był nim zamieszkały w Elberfeld jubiler Karl Krall. W latach 1905—1908 udzielił on z kolei karemu ogierowi wielu tysięcy lekcji i w swej książce twierdził z przekonaniem, że: „Koń pracował w okularach równie bezbłędnie jak bez nich, w ciemności równie dobrze, jak na świetle dziennym. Jedynym wyjaśnieniem, które może należycie wytłumaczyć wszystkie osiągnięcia konia, jest stwierdzenie u tego zwierzęcia zdolności do samodzielnego myślenia”. Karl Krall jeździł co kilka tygodni z Elberfeld do Berlina, aby kontynuować swe nauczanie. W maju 1909 odwiedził Wilhelma von Osten w jego majątku. Dawny właściciel „uczonego konia” liczył już 71 lat i był chory na raka wątroby. Nie żywił on bynajmniej dobrych uczuć dla swego Mądrego Hansa: zamiast do siebie miał pretensje do konia. Oto co mówił o tym Karl Krall: „W ostatnich słowach wypowiedzianych do mnie złorzeczył pod adresem Hansa, którego obwiniał za gorzkie niepowodzenia własnego życia. Aż do końca utrzymywała się u niego nieustannie głęboka nienawiść do konia, któremu życzył rychłego końca w zaprzęgu”.
W dniu 29 czerwca 1909 rzekomy odkrywca myślenia pojęciowego u konia umierał rozczarowany i samotny. Mądrego Hansa nie spotkał jednak los, jakiego życzył mu jego zgorzkniały były właściciel. Karego ogiera przejął Krall i przewiózł go początkowo na 6 tygodni, aby mógł zażywać „letnich wakacji”, do pewnego majątku, po czym ostatecznie umieścił Hansa w Elberfeld, w czystej i dużej stajni.
