60-й сентай из 30 Ки-21-1а прибыл на место назначения еще в 1938 г, где он присоединился к 12-у и 98-у сентаям, оснащенных бомбардировщиками "Фиат" БР.20. В течение зимы 38-39 гг все три авиагруппы были задействованы в активных боевых действиях, в результате которых к итальянскому бомбардировщику стали предъявлять ряд претензий, в том числе необоснованных. Действительно, действуя на пределе своего тактического радиуса, без истребительного прикрытия, БР.20 попали в самую настоящую мясорубку. Потери были столь высоки, что через три месяца оба сентая, оснащенные данным типом самолета, были выведены из зоны боевых действий, и единственным дальнебомбардировочным соединением армейских ВВС стал 60-й сентай с Ки-21.
Бомбардировщик проявил себя лучше, чем "итальянец". Это можно было бы объяснить лучшим взаимодействием экипажей 60-го сентая, которые удерживали более тесный боевой порядок в районе цели в сочетании с умелым использованием взаимной поддержки огнем. Но скорее причина была в том, что Ки-21 мог выдержать повреждения от большого числа пуль обычного калибра, которые были бы губительны для БР.20. В отличие от "итальянца", Ки-21 действовали не на пределе своей дальности, и к ним имелось достаточно запчастей, а БР.20 часто простаивали в ожидании ремонта. Тем не менее потери и среди Ки-21 при дневных налетах без истребительного прикрытия были достаточно тревожными. В результате оборонительное вооружение следующего варианта Ки-21 -lb было усилено. Завод в Нагое перешел на новый вариант в августе 1939 г, начиная со 144 машины, а завод в Оте - до конца года.
Тем временем, на базе бомбардировщиков Ки-21 были сформированы 58-й и 61-й сентаи. Они вступили в строй к началу лета в составе 2-й "хико сидан" (авиадивизии) в Маньчжурии для действий против Китая. Однако уже к 31 мая потребовалось перебросить 12 Ки- 21 из состава 61-го сентая на Номонганское плато, к монгольской границе. Здесь "номонганский инцидент" уже перерос в настоящую войну между советско-монгольскими и японскими войсками. Вместе с дюжиной БР.20 из 12-го сентая Ки-21 впервые пересекли реку Халхин-Гол 27 июня. Это был массированный налет на аэродром Тамцак-Булак советского истребительного полка. Всего в налете участвовали 23 бомбардировщика и 70 истребителей. По советским данным были сбиты два бомбардировщика. Один Ки-21 совершил вынужденную посадку из-за отказа двигателя в пустыне около Тамцак-Булака и стал трофеем советских войск.
Впоследствии Ки-21 действовали весьма интенсивно - между 3 и 10 июля, поддерживая свои войска в Баин-Цаганском сражении, они вместе с БР.20 сбросили 174 тонны бомб. Но уже вскоре экипажи 61-го сентая стали испытывать сильную усталость, так как боевые действия в Китае исключали ротацию экипажей. Кроме того, экипажи Ки-21 страдали от кислородного голодания из-за низкой надежности кислородного оборудования, а плотный огонь ПВО советско-монгольских войск заставлял действовать только на больших высотах. Вскоре 61-й сентай был выведен из зоны боев. Несмотря на интенсивное использование в условиях превосходства советской авиации, потери составили три сбитых Ки-21. Еще три не подлежали восстановлению.
Опыт боев в небе Китая и на Халхин-Голе заставил пересмотреть состав оборонительного вооружения. Это привело, как говорилось выше, к варианту Ки-21- Ib. К трем 7,7-мм пулеметам добавили четвертый для стрельбы через бортовые окна в хвостовой части фюзеляжа. Был принят пулемет и в кинжальной установке, испытанной на первом предсерийном экземпляре. Бензобаки были частично протектированы резиной. Было введено бронирование мест экипажа. Более существенными изменениями стали увеличение бомбоотсека, увеличение площади закрылков и установка нового оперения большей площади.
Завод в Нагое успел выпустить 120 Ки-21-lb, когда появилась новая модификация - Ки-21-1с. Бомбардировщик получил дополнительный пулемет в боковом окне, была обеспечена возможность установки в заднем бомбоотсеке 500-л бака - запас топлива возрос до 3135 л. При установке этого бака четыре 50 кг авиабомбы подвешивались на внешних держателях. Увеличение взлетного веса привело к усилению стоек шасси и увеличению диаметра колес. Всего в Нагое было выпущено 160 Ки-21-1с. Последний из них стал 423 самолетом, построенным Мицубиси и сданным в декабре 1940 г. Завод в Оте закончил выпуск Ки-21-1с через два месяца - в феврале 1941 г, поставив 351 самолет.
Ки-21 -lb и 1с быстро сменили 1а в авиаподразделениях первой линии в северном Китае и на базах в Маньчжурии. Снятые с вооружения самолеты передавались в летные школы в Хамацу и в других городах или переделывались в транспортные. Последние использовались как в интересах ВВС, так и в составе корпорации "Дай Ниппон коку" ("Авиалинии Великой Японии"). Причем корпорация использовала их в основном на воинских перевозках между Японией и материком под обозначением MC-21-I.
Некоторые самолеты переделывались в ремонтных мастерских. Модификация состояла в снятии вооружения, блокировании створок бомболюка и в удалении верхнего фонаря стрелка. Хотя самолет предназначался в основном для перевозки срочных грузов, был также вариант для перевозки 9-10 десантников на брезентовых сидениях. Первый MC-21-I поступил в "Дай Ниппон коку" в феврале 1940 г. под бортовым номером J-BFOA и был назван "Хией".
Хотя ВВС были в целом удовлетворены данными бомбардировщика Мицубиси, в ноябре 1939 г на испытания поступил Ки-49 "Донрю" фирмы Накадзима, который предназначался ему на смену. Тем временем воздушный штаб потребовал дальнейших модернизаций Ки-21 в отношении увеличения скорости и потолка. Причем это предлагалось сделать без остановки сборочных линий! Двигатели "тип 97" было решено заменить на новые 14-цилиндровые Ха-101 фирмы Мицубиси ("армейский тип 100") мощностью 1500 л. с. на взлете при 2450 оборотах. На высоте 2600 м мощность составляла 1540 л. с., а на 4600 м - 1340 л. с. Эти двигатели с винтами Сумитомо-Гамильтон большего диаметра (3.4 м вместо 3.2 м) были установлены на первом серийном Ки-21-Ic, который послужил прототипом для нового Ки-21-II.
Увеличение диаметра мотогондол вследствие большего поперечного сечения новых двигателей послужило удобным случаем полностью убрать колеса шасси в гондолы. Вновь была увеличена площадь стабилизатора. Для сохранения центровки главному лонжерону придали стреловидность в 2,5°, а стреловидность по передней кромке составила 10°. Были введены еще небольшие подкрепления, но в целом конструкция бомбардировщика изменилась незначительно. Летные испытания начались в марте 1940 г и были ободряющими - скорость возросла до 478 км/ч на высоте 4400 м (увеличение на 46 км/ч), высота в 6000 м набиралась за 13,2 мин, а потолок поднялся до 10000 м. Мицубиси тут же получила требование от воздушной) штаба запустить Ки-21-На ("тяжелый бомбардировщик армейский тип 97 модель 2А") в серию на заводе в Нагое. Первые четыре самолета были представлены для войсковых испытаний в декабре 1940 г.
Поставки Ки-21-II в армию набирали "обороты" в течение первых месяцев 1941 г, и большинство соединений успели перевооружиться на новую модель еще до начала войны на Тихом океане. Уже готовясь к войне, по плану боевых действий 3-я хикосидан была нацелена на поддержку сил вторжения в Малайе и Бирме. В ее составе были сентаи NN 12, 60, 92. Но полностью передислоцироваться из Китая в Индокитай дивизия не успела. Боевые действия велись в очень тяжелых условиях - не хватало запчастей из-за удаленности от Японии и трудностей с их доставкой. К тому же основная база дивизии - аэродром в Пномпене - была выведена из строя из-за проливных дождей. Однако одно из подразделений, расположенное в Сайгоне, сумело успешно поддержать высадку войск в Кота-Бхару.
В течение следующих двух месяцев Ки-21 3-й дивизии во всю поддерживали наступление армии, пользуясь отсутствием противодействия в воздухе. А вот 14-у сентаю 4-й хикосидан, который вел боевые действия на Филиппинах, а потом в Бирме, повезло меньше. В Бирме 14-й сентай вместе с 62-м сентаем основной целью имел авиабазу Таунгоо в Рангуне, где японцы встретили сильное противодействие в лице "Томахоков" американских добровольцев и "Буффало" из 67-й эскадрильи британских ВВС. В этих боях 14-й сентай потерял почти все свои самолеты. К счастью для японцев на этой стадии войны встречи с современными истребителями противника были редкостью.