苏联的军事改革开始于1924～1925年，结束于1928年。图哈切夫斯基于1925～1928年任工农红军参谋长，上任时年方32岁。在这个重要位置上，他积极推行军事改革，努力去完成伏龙芝的未竟事业。20年代的红军技术装备仍然很差，轻重机枪仍然不够，没有自动步枪，7.62毫米步枪需要改进。没有高射炮，火炮已过时，也没有反坦克炮，只有1000来架老式飞机，工程器材匮乏，通信器材完全依赖有线。面对严峻的问题，图哈切夫斯基作为参谋长提出加强国防建设的若干问题，实行新的条令和教令，建立新的步兵师和军的编制，增加火炮和运输车辆，进行火箭武器的研制，改装步兵和炮兵，发展航空兵和装甲坦克兵，建立无线电通信，制造新式渡河工程器材……描绘出一幅发展武装力量的宏伟蓝图。实施这样庞大的军事工程，需要国家大量的资金投入。
1928年，图哈切夫斯基写了一份关于改装红军和发展空军和装甲兵的报告，说明红军在技术装备和空军方面落后于欧洲其他强国，其水平还停留在10年前的国内战争年代，要加速组建航空兵。图哈切夫斯基的思维是超前的，而斯大林、伏罗希洛夫则认为这些是不现实的。当时苏联还没有发达的工业作为军工产业的基础。图哈切夫斯基竭尽全力要把红军参谋部打造成一个积极主动的、有战略眼光的军事机构，而不是单纯的技术和咨询部门。他经常打报告阐述自己观点的主动精神使斯大林反感，认为战略研究是最高统帅一个人的事，其他人不必操心。伏罗希洛夫和布琼尼两位老骑兵也认为骑着战马、挥舞战刀、高呼“乌拉”一样可以打到巴黎和伦敦。