Ояма за время своего пребывания в Европе хорошо ознакомился с германской военной системой.
Перед войной, в 1904 году, японские войска в ходе военной реформы разделялись на постоянную армию, к которой относились запас и рекрутский резерв, территориальную армию и народное ополчение с островными милицейскими формированиями. Постоянная армия составляла основу вооруженных сил Японской империи и включала в себя армейский запас в количестве, необходимом для доведения ее до штатов военного времени. Территориальные войска предназначались отчасти для «защиты страны» во время отсутствия постоянной армии, отчасти для пополнения ее рядов.
Мужчины в возрасте от 17 до 40 лет, способные носить оружие, но не вошедшие в постоянную и территориальную армии, составляли народное ополчение. Оно делилось на два класса, причем к первому классу относились лица, ранее прошедшие армейскую службу. Что касается милиции, то она служила для обороны островов. В нее входили жители островов, призываемые для несения милиционной службы на один год.
Призыву в императорскую армию подлежали мужчины, достигшие 20-летнего возраста. Срок службы составлял 12 лет и 4 месяца, из них – 3 года действительной службы в войсках, 4 года и 4 месяца – в запасе и 5 лет – в резерве. Система комплектования была территориальной. Воинская часть держала в поле зрения всех запасных резервистов и будущих новобранцев, стараясь установить тесное общение даже с их семьями. Вся страна разделялась на 12 дивизионных округов. Дивизионный округ делился на 2 бригадных по 2 полковых участка в каждом.
Управление сухопутными силами Японии находилось в руках военного министра, вопросами же боевой подготовки ведал начальник Главного штаба. Военному министру подчинялись Главный и Генеральный штабы, занимавшиеся разработкой планов войны. Общими вопросами военного и морского руководства ведал подчиненный императору Военный совет, учрежденный в 1900 году.
Японское офицерство воспитывалось на немецкой военной школе, в традиционном самурайском духе. Офицера учили, что служба – не ремесло, а почетное звание, что все государственные чиновники вышли из офицерской среды. Самурайская «чистота» офицерской касты тщательно оберегалась сверху и снизу. Несмотря на большую потребность в офицерских кадрах уже во время войны с Россией, военное ведомство императорской Японии тем не менее решительно отказалось от ускоренных выпусков офицеров из среды разночинной городской интеллигенции.
Основой воспитания офицерского состава служил древний кодекс самурайской морали и чести – «Бусидо» (в буквальном переводе с японского – «Путь воина»). Этот кодекс должен был воспитать в командире личную преданность императору-микадо, честность, справедливость, доброжелательство. Офицеры японской армии и флота были, как правило, настроены очень воинственно, в профессиональном отношении неплохо подготовлены. Многие имели боевой опыт непродолжительной победной войны в Китае.
Особенностью японского офицерского корпуса являлось то, что он полностью происходил из лиц самурайского сословия. В эпоху феодальных войн, которые на Японских островах длились 547 лет подряд, с 1056 по 1603 год, самураи составляли дружины удельных князей. Поэтому императорское офицерство было морально готово приступить к реализации идеи «великой Японии».
Насаждая в войсках беспрекословное повиновение младшего по званию и должности старшему, офицеры императорской армии и флота, самураи по происхождению, в свою очередь были исполнительны. Честь офицерского мундира почиталась превыше всего. Трусость и нерешительность осуждались, офицеры, проявившие даже недостаточное упорство в достижении поставленных целей, жестоко наказывались старшим начальником.