После того, как 16 сентября 1939 года было подписано перемирие, в Маньчжурии оставили только три Сентая: 1-й Сентай в Сунджи около Харбина (доведя его численность до трех Чутаев за счет 4-го Чутая 11-го Сентая), 24-й Сентай в Хайларе и 64-й Сентай в Донгджингченге. 11-й и 59-й Сен-таи вернулись в Китай, последний (без 4-го Чутая) с октября базировался в Ухани, а затем - в Ханькоу. В январе 1940 года 1-й Чу-тай 64-го Сентая также возвратился в Китай и действовал в Кантоне до марта 1941 года под названием Марута Бутай (по имени его командира капитана Фумио Марута). Оставшиеся в Маньчжурии Ki-27 долгие годы занимались патрулированием маньч-журо-монгольской границы. На протяжении двух лет, с момента окончания боев за Хал-хин-Гол до начала войны на Тихом океане, базировавшиеся в Китае Ki-27 принимали участие в многочисленных мелких стычках с китайскими ВВС, в основном в районе городов Чанши, Чунцин (который после взятия в декабре 1937 года японцами Нанкина стал столицей Китая), Куньмина и Дженг-чана в южном и центральном Китае (провинции Сычуань, Юньнань, Гуанси и Гуандуна). Первоначально они контролировали отдельные районы (особенно находившиеся под контролем японских войск) и осуществляли воздушную поддержку сухопутных операций. В декабре 1940 года 11-й Сентай был снова переброшен из Китая в Харбин в Маньчжурии, где он оставался до осени 1941 года. Опыт, полученный в ходе "Номонганс-кого инцидента" лишь незначительно повлиял на взгляды Коку Хомбу. Хотя признавалась необходимость усилить вооружение и бронирование истребителей, единственным наследником Ki-27 считался Ki-43 "Хаябуса", разработанный фирмой Накад-зима на основе тех же критериев, что и его предшественник. Идея создать хорошо вооруженный и бронированный, с большой скоростью и скороподъемностью истребитель-перехватчик (пускай даже за счет некоторого проигрыша в маневренности) с трудом находила поддержку в высших эшелонах IJAAF. Первым представителем этого поколения истребителей стал Накадзи-ма Ki-44 "Секи".
Потери Ki-27 во время воздушных боев за Халхин-Гол были столь велики, что в 1939 году IJAAF сумели вооружить новыми машинами лишь два полразделения - 33-й Сентай (командир - подполковник Бузо Аоки) в Кингшу и 77-й Сентай (командир -капитан Хаширо Кавахара) в Харбине, оба в Маньчжурии. Они получили свои первые Ki-27 лишь осенью 1939 года. 33-й Сен-тай в составе трех Чутаев был сформирован в августе 1938 года на основе истребительных подразделений 16-го Хико Рен-тая, тогда как 77-й Сентай был создан в июле 1938 года на базе 8-го Хико Дайтая. Последний Сентай стал впоследствии самым знаменитым подразделением, эксплуатировавшим Ki-27 - эти истребители служили в нем в течение четырех лет - до августа 1943 года! Все выпущенные в 1939 году Ю-27а и Ki-27b использовались для восполнения потерь в Маньчжурии и Китае. А также для усиления уже существующих подразделений.
В следующем году ситуация складывалась ненамного лучше - новые Ki-27b отправляли в потрепанные в боях подразделения и заменяли ими Ю-27а. В середине 1940 года 13-й Сентай получил свои первые Ki-27, но некоторое время эксплуатировал их параллельно с устаревшими бипланами Ki-10. Это подразделение (командир - подполковник Сабуро Кондо) было сформировано в июле (по другим данным -30 августа) 1938 года в Какогаве, префектура Хыого (к западу от Кобэ), Япония, на базе 13-го Хико Рентая. В сентябре 1940 года Ki-27 стали поступать в два других подразделения: во вновь сформированный 10 сентября 50-й Сентай (командир - майор Наоши Йошида) в Тайчжуне, Формоза, и базировавшийся в Хойерджонге, Корея, 9-й Сен-тай (командир - подполковник Сензани Намба). 50-й Сентай был организован на базе истребительных Чутаев из расформированного 8-го Хико Рентая, тогда как 9-й Сентай был сформирован в июле 1938 года из подразделений 9-го Хико Рентая.
В 1940 году первые Ki-27 получили также 4-й Сентай (командир - подполковник Сабуро Хаяши) Тачиараи, Япония, и 5-й Сентай (командир - подполковник Кензо Онда) в Кашиве, префектура Чиба, около Токио. Оба этих подразделения продолжали эксплуатировать Ki-10 и полностью перевооружились на Ki-27 в 1941 году. Также небольшое количество Ki-27 (вероятно это были Ю-27а из боевых подразделений) поступило во 2-й и 29-й Сентаи (разведка), где они использовались для подготовки пилотов.
Когда боевые действия в Маньчжурии закончились, японцы сконцентрировали все силы на быстрейшем завершении "Китайского инцидента" - война в Китае истощала ресурсы Японской Империи. Самый легкий способ решения этой проблемы состоял в том, чтобы эффективно блокировать Китай, предотвратив поставку вооружений из-за границы. Береговая линия Китая была полностью в руках японцев, но войска чанкай-шистов продолжали получать снабжение через гавань Хайфона во французском Индокитае. Из Хайфона грузы по железной дороге переправлялись через Ханой в китайский город Куньмин в Юньнани. Такие поставки осуществлялись по так называемой Бирманской дороге, которая включала железную дорогу от Рангуна, через Мандалай, в Лашио в Бирме и далее шоссе до Чунцина в Китае. Первым шагом японцев по блокированию этих путей снабжения стал захват в феврале 1939 года острова Хайнань, который прикрывал Тонкинский залив с юго-востока. Это серьезно угрожало французскому Индокитаю, но японцы опасались идти на открытый конфликт с Францией. Несмотря на налет бомбардировщиков на китайский отрезок железной дороги 30 декабря 1939 года (в ходе которого погибло несколько французских граждан), японские базы были слишком далеко, чтобы обеспечить постоянный контроль этого маршрута.
Таким образом, разразившаяся в Европе война стала "божьим даром" для Японии: Франция потерпела поражение, а Италия вступила в войну в июне 1940 года. Поражение Франции подразумевало, что находившиеся в Индокитае незначительные французские силы вряд ли могли рассчитывать на получение поддержки с родины, а попытка получить военную помощь от Великобритании или США не привела к успеху. Вступление в войну Италии представляло серьезную угрозу британским интересам в Средиземноморье и Северной Африке. Сражаясь в одиночку против держав Оси, англичане не могли предпринять серьезных мер, чтобы защитить свои колонии в Юго-Восточной Азии. Япония тогда оказала сильный нажим на французскую администрацию Индокитая, вынудив её закрыть железную дорогу из Хайфона 16 июля. 18 июля, уступая нажиму японцев, английское правительство закрыло Бирманскую дорогу, несмотря на протесты китайцев. В августе французы разрешили японской армии находится в провинции Тонкин, а ВВС Японии получили право базироваться на аэродромах в этой провинции - соответствующее соглашение было подписано 30 августа. В середине сентября 1940 года японские войска из китайской провинции Гуанси пересекли границу французского Индокитая и оккупировали часть провинции Тонкин к северу и северо-востоку от Красной реки. Хотя французы поначалу были против, им пришлось согласиться на эти оскорбительные условия. К концу сентября японцы оккупировали северную часть Тонкина, граничащую с Китаем и разместили подразделения ВВС на аэродромах Пхуто, Гиа Лам около Ханоя и Пу Ланг Туонг. Таким образом. Ранее недосягаемый Куньмин и китайский участок Бирманской дороги оказался в зоне действия японских бомбардировщиков.
25 сентября 1940 года имела место стычка в воздухе между японскими и французскими ВВС, которая получила название "Лангсонский инцидент". Японские Ki-27 из 84-го Докурицу Чутая (командир - майор Цупао Нагано) атаковали и сбили француз-скин разведчик Потез 25 TOE. Пилот Морана MS-406, сопровождавшего разведчик, доложил, что ему удалось сбить один Ki-27, но японцы не признали потерь со своей стороны. Французский самолет записал на свой счет старший сержант Джиро Иери.
Тем временем в июне 1940 года Япония и Таиланд (до 1939 года - Сиам) подписали соглашение о "взаимной защите", которое позволяло японцам разместить свои военные базы в Таиланде и контролировать стратегически важный перешеек Кра в самой узкой части Малайского полуострова. В июле 1941 года, когда французские власти Индокитая под давлением японцев разрешили им разместить свои сухопутные войска и авиацию на нескольких базах, включая Сайгон, Камрань, Дуонг Донг, Пномпень и других, Япония получила превосходные позиции для наступления на британские владения в Малайе и голландскую Ост-Индию.
Рост выпуска Ki-27 позволил Коку Хом-бу оснастить этими самолетами в 1941 году пять новых подразделений. Три из них были созданы в марте. 1 марта - 87-й Сентай (командир - подполковник Цунено Синдо) в Харбине, Маньчжурия, ядро которого составили пилоты из 11-го и 24-го Сентаев. 5 марта - 70-й Сентай (командир - майор Мутсуо Ияма) в Сингчжу, Маньчжурия; пилотов брали из 9-го и 33-го Сентаев. 7 марта - 85-й Сентай (командир - майор Горо Ямомото) в Сунджи около Харбина, и в этот раз использовали пилотов из других подразделений (1-го и 64-го Сентаев). 144-й Сен-тай (командир - майор Шигечики Томари) был сформирован 20 июля в Тойуке, префектура Сантама, Япония. В апреле 1942 года (по некоторым данным - в ноябре 1941 года) это подразделение перебросили в Чофу около Токио и сменили ее обозначение на 244-й Сентай, возложив на него задачи по защите столицы с воздуха. 6 сентября (по другим данным 26 июля) в Кашиве, префектура Чиба, Япония, на базе части 5-го Сентая сформировали 54-й Сентай (командир -майор Ясукари Синада). В ноябре его перебросили в Ханькоу, Китай. И, наконец, с марта до июля 1941 года несколько Ki-27 использовалось в 206-м Сентае (легкие бомбардировщики), но лишь исключительно для тренировки пилотов.
В июле 1941 года в летной школе в Аке-но (Акено Рикугун Хико Гакко) был сформирован 102-й Докурицу Чутай, вооруженный Ki-27. Первоначально он использовался для задач ПВО, но в ноябре его включили как 3-й Чутай в состав 13-го Сентая.
Ввиду приближающейся войны в ноябре 1941 года в Хамацу (Япония) была сформирована 1-я Полевая запасная авиагруппа (Дай-Ичи Йасен Ходжу Хикотай) под командованием подполковника Такенао Цубучи, в задачу которой входила поставка новой техники боевым частям. Группа состояла из трех отдельных подразделений: истребительного (Сентоки-тан), легких бомбардировщиков и тяжелых бомбардировщиков. Ki-27 эксплуатировались в Сентоки-тан (командир - капитан Каофу Какими) с ноября 1941 года до середины 1942 года, базируясь в (в хронологическом порядке) Хамамацу, Акено и Кашиве в Японии, Тайчжуне на Формозе и с января 1942 года в Кампонге, Камбоджа.
В то же самое время, в 1941 году, IJAAF стали получать на вооружение приемника Ki-27 - истребитель Ki-43 "Хаябуса". Первыми получили новые машины 59-й Сентай (в июне) и 64-й Сентай (в августе-сентябре). Их Ki-27 были переданы в другие подразделения и летные школы. Из-за некоторых проблем с новым истребителем оба Сентая окончательно перевооружились на него только к ноябрю 1941 года. 47-й Доку-рицу Чутай получил первые девять истребителей-перехватчиков Ki-44 "Сики". Кроме этих подразделений, все остальные истребительные части армейской авиации - пятнадцать Сентаев и два Докурицу Чутая - были вооружены Ki-27, из которых около 600 находилось в передовых частях.
В июле 1941 года Токио принял решение начать превентивную войну против США, Англии и Голландии. Япония начала крупномасштабное развертывание своей авиации на новых полевых аэродромах, в основном вне метрополии. Когда 7 декабря 1941 года началась война на Тихом океане, Ki-27 (фактически только Ki-27b) состояли на вооружении следующих частей армейской авиации: 1-го, 11-го и 77-го Сентаев и 84-го Докурицу Чутая в Индокитае; 24-го и 50-го Сентаев и двух Чутаев 4-го Сентая на Формозе; 9-го Сентая в Корее; 33-го, 70-го, 85-го 87-го Сентаев в Маньчжурии; 54-го Сентая и 10-го Докурицу Чутая в Китае и 144-го Сентая и одного Чутая 4-го Сентая в Японии.
Примечательно, что из пятнадцати истребительных Сентаев, имевших в декабре 1941 года на вооружении Ki-27, лишь пять непосредственно принимали участие в боевых действиях на первом этапе войны на Тихом океане: 1-й, 11-й, 24-й, 50-й и 77-й Сентай (плюс 10-й и 84-й Докурицу Чутаи). Не менее пяти Сентаев остались в Маньчжурии и Корее, что демонстрирует очень высокое внимание, которое Имперский генеральный штаб уделял потенциальной угрозе со стороны Советского Союза. К началу войны подразделения базировались в Корее и Маньчжурии следующим образом: 9-й Сентай в Хоерянге, 33-й Сентай в Ко-ингджу, 70-й Сентай в Донгджингченге, 85-й Сентай в Памиентонге и Хайланге и 87-й Сентай в Туаншаньси. На обширных оккупированных территориях Китая остался только 54-й Сентай в Ханькоу. Четыре Сен-тая, базировавшиеся в Японии и на Формозе были единственными подразделениями решающими задачи ПВО: 5-й Сентай всего из двух Чутаев (25 Ki-27) в Кашива и Ма-цудо в районе Токио; 13-й Сентай из трех Чутаев (37 Ki-27) в Таишо и Итами в центральном районе Хонсю; 144-й Сентай из двух Чутаев (19 Ki-27) в Чофу около Токио; 3-й Чутай 4-го Сентая (12 Ki-27) в Озуни в западной части Хонсю; 1-й и 2-й Чутаи 4-го Сентая (25 Ki-27) в Пингдонге на Формозе. Тогда главной угрозой считались не американские, а советские бомбардировщики: по оценкам японцев не менее 380 (!) самолетов базировалось на советских дальневосточных аэродромах