В Красной Армии – с 1918 года. В годы Гражданской войны занимал различные ответственные должности. Затем вел научную работу и преподавал в высших военных учебных заведениях, его перу принадлежат около 100 научных трудов.
 В начале Великой Отечественной войны был тяжело контужен и попал в плен. Категорически отказался перейти на службу врагу. Погиб мученической смертью 18.02.1945 г. в концлагере Маутхаузен (Австрия). В 1980 году в г. Москве генералу был открыт памятник (скульптор В.Е. Цигаль, архитектор А.М. Половников).

Генерал Карбышев, попав в плен, отказался предать Родину. Погиб в концлагере, где руководил сопротивлением. Был превращен немцами в глыбу льда. Стал символом несгибаемой воли и стойкости.