他的早年因為被逼無奈落草為寇， 開始時因父親被殺惹上官司， 後來幹過雜役、夥計等等， 因為一次偶然的機會學會了獸醫， 就連土匪都敬他三分， 最後落草為寇。 從一個幾十人的土匪隊長， 一路接受朝廷的任命開始了一生的軍閥人生。
早年的張作霖兄弟
張作霖， 字雨亭， 老家是奉天人（就是我們今天的遼寧大窪）， 張作霖早年倆次離家出走討生活都是因為被逼無奈， 在張作霖十幾歲的時候， 家庭還是很不錯， 早年也是上過幾年的私塾， 後來因為自己的父親染上賭博和鴉片， 徹底將家底敗壞。 最終父親也因為賭博被仇家所殺。
張作霖與其倆個兒子
後來， 張作霖和自己的哥哥為了給父親報仇， 就去借了一杆獵槍， 深夜進入仇人家中， 最終事情敗露， 只殺死了仇家的一個傭人。 倆兄弟報仇只有張作霖逃走， 哥哥被仇家抓住送到官府， 判了十年監禁。
張作霖被官府通緝之後， 四處逃亡寄居在母親的娘家， 後來世道更加混亂， 母親的娘家也吃不上一頓飽飯， 張作霖開始了第二次出走討生活。 張作霖在之後賣過燒餅、做過木匠等， 後來在大車店落腳。
張作霖的兒女
因為當時處於兵荒馬亂的年代， 所以在東北地區的關外馬匹生意非常火爆， 但是給馬匹治病的獸醫就相對比較缺少， 當時大車店中就有這麼一位半吊子獸醫夥計，
巔峰時期的張作霖
對於關外大批馬匹販賣的情況， 張作霖看到了商機， 於是就離開大車店在當地開了一家獸醫店， 在當地也是小有名氣， 很多馬匪、土匪都很喜歡找張作霖為馬匹治病， 由於他們都是以馬匹為生， 所以對於獸醫也是作為上賓對待。
就這樣， 張作霖與黑白倆道關係都很吃的開， 也瞭解了很多關於黑道的一些門道。