Powstał z krzyżowania wyżła niemieckiego ostrowłosego z gryfonem i wyżłem krótkowłosym. Hodowcom niemieckim chodziło o stworzenie typu psa myśliwskiego odznaczającego się ciętością, silną budową, twardym uwłosieniem, mającym chronić go w pracy w różnorodnych warunkach terenowych. Należy sądzić, że w doborze par hodowlanych zwracano bardziej uwagę na walory ciętości i budowy niż cechy eksterieru, a szczególnie sierści, łącząc często osobniki o różnym uwłosieniu. Dlatego też i dziś jeszcze wyżeł szorstkowłosy nie stanowi wyrównanego typu pod względem uwłosienia i ustałonej dziedziczności cech. Niemal powszechnym zjawiskiem jest to, że szczenięta pochodzące z jednego miotu stanowią bardzo często różne typy psów: jedne o długim, miękkim włosie, podobne są do gryfonów, drugie mają włos twardy, dość długi, przylegający do ciała, jak u wyżła ostrowłosego, albo całkiem krótki i gładki, jak u wyżła krótkowłosego. Natomiast typowy wyżeł szorstkowłosy powinien mieć włos twardy, szorstki, jakby ościsty, prosty (długości 3—6 cm), gładko przylegający do skóry; krzaczaste brwi o dość długich i miękkich włosach wywiniętych na zewnątrz, lecz nie opadających na oczy. Koniec pyska porośnięty dłuższymi włosami tworzy, w zależności od pory roku, jakby wąsy lub brodę. Mniej lub bardziej obfite pod sierście stanowią krótkie, nieco wełniste włosy, ochraniające bardzo dobrze ciepło w różnych warunkach pracy terenowej.
