在张云逸等同志的领导下，新四军军部直属队和军部机关整训运动效果显著。在他的指导下，第2师将体育训练作为提升战士身体素质的重要方式。张云逸还时常来到训练场，指点官兵训练。为了推动军事整训开展，第2师专门组建了一个由100多名战斗骨干组成的“学兵连”。“学兵连”军政技战术过硬，作风好，战斗力强，既是基层骨干的训练队，又是战术技术的示范队，还是研究作战技术技巧的试验队，在全师掀起一股练兵热潮。除了第2师之外，军特务团由于掌握了新的练兵方法，走群众路线，在短短三个星期内就取得很大进步，如第一次射击每百发子弹中靶仅15发，第二次每百发子弹中靶60发。张云逸等组织开展的整训运动，科学有效，提升了部队官兵、民兵、自卫队的军事政治素质，为后期新四军在大小战斗中取得胜利奠定了坚实基础。

    张云逸曾在第2师作《略论组织工作的内容与任务》的报告，强调要加强干部的党性，“党性不强的人，就不能完全站在党的立场上解决和处理问题；做一件事，先要想到对党是否有利；如果有利，任何艰难险阻，都要坚决去做，否则，就是杀头也不做”。

    他是这样说的，也是这样做的，始终注重用党性原则要求自己。在家风家教方面，张云逸也作出了表率，立起了榜样。张云逸的妻子韩碧说：“他常对我说，我们对孩子要严格，丝毫不能使他们有任何特殊感。”在张云逸的儿子张光东的记忆中，自己从小学读到高中，每次履历表上家长那一栏，父亲都要求只填母亲名字，老师和同学们都不知道他是张云逸将军的儿子。“好男儿自己闯天下！”这是父亲送给他的座右铭。

    “数十年如一日奋斗不息，是模范的共产党员”，毛泽东同志曾这样赞誉张云逸。他的崇高风范和带兵智慧，给我们后来人以深刻启迪。