1905년에 발발한 러일 전쟁에 참전해 뤼순 공격에 참가하였다. 이후 야전직을 거쳐 1918년부터 1920년까지 57연대의 연대장으로 복무했다. 이후 후방 요직을 두루 맡았다. 이후 1923년부터 1924년까지 국제연맹의 일본 대표부에 부임하였다.
다시 일본에 돌아와 여러 부대에 근무했고, 1930년에 중장으로 승진하여 조선군 사령관에 부임하였다. 그 재임 당시 1931년 9월 18일 만주사변이 발발했다. 다음날 9월 19일 하야시는 휘하의 20사단을 39혼성여단으로 개편하고, 상부의 지시 없이 이 부대를 만주로 파견하였다. 내각은 만주사변을 둘러싼 군부의 음모를 조사하려고 하였으나, 사태가 손쓰기 힘들 정도로 확대되자 이를 용인하는 방향으로 선회하였다. 그리하여 39혼성여단을 독단적으로 움직인 하야시는 9월 22일 사후 승인을 받았다.
이후 다시 승진하여 1932년부터 1934년까지는 육군내 3대 보직 중의 하나인 교육총감으로 있었다. 또한 1934년부터 1935년까지는 육군대신으로 일했다.
한편 하야시는 황도파의 거두인 아라키 사다오(荒木貞夫)와 관동군 사령관 혼조 시게루(本庄繁)의 후견인이었다. 한편 아라키에 대비되는 통제파는 아라키 사다오를 사임시켜 승리하였다. 그런데도 이후 하야시는 통제파의 의향에 따라 아라키 사다오 후임으로 육군장관에 임명되었는데, 만주사변을 꾸민 이시와라 간지(石原莞爾)는 "하야시 대장은 우리 마음대로 고양이도, 호랑이로도 만들 수 있다"고 말했다고 한다. 그리하여 사이토 내각과 오카다 내각에서 육군 대신을 맡았다.
하야시는 또한 군부의 일원으로 민주제를 부정하고 일당제를 주창하는 고노에 후미마로(近衛文麿)의 이념에 동조하였다. 이후 1937년일본 내각총리대신으로 취임하였다.
