当时，第三党积极从事反蒋活动。1929 年冬，余洒度、周士第两人找到许继慎，密谋刺杀蒋介石的计划。余洒度是黄埔军校第二期中共支部的组织干事，与许继慎同为青年军人联合会的重要成员，在秋收起义中任师长，后脱离中共参加第三党。周士第是许继慎的老同学了，他们都是黄埔一期的学生，1926年周士第任叶挺独立团的参谋长，南昌起义中担任第四军25师73团团长，南昌起义失败后脱党，后来又重新入党，投身江西中央苏区,建国后成为中国人民解放军上将。许继慎由于身份特殊，不便公开露面，负责联系外援和争取活动经费;由周士第、余洒度联系内线，实施刺杀计划。事后，许继慎通过朱蕴山、柏文蔚的帮助，说服冯玉祥提供了一笔经费。周士第、余洒度找到了蒋介石身边侍从副官蔡劲军，但蔡顾虑重重，刺杀并未成功。不久，黄琪翔又出了一笔经费，由周士第在上海组织谋杀蒋介石的活动,仍未成功。

    为了在更大范围内推动反蒋斗争.许继慎还与国民党内部反蒋派“中国国民党改组同志会”的部分成员取得联系。这许继慎联系了该组织的常藩候、黄梦飞、朱子帆、周范文等人，鼓动他们进一步反蒋。1929 年常藩候与王亚樵等人同桕文蔚密谋,计划乘蒋介石重兵在外“剿共”及防范冯、阎南方空虚之机，以方振武部从安徽水陆并进夹攻南京。但由于走漏了风声，方振武被逮捕，计划也随之失败。

    许继慎经过多方的努力，虽然刺杀蒋介石的计划和活动都失败了，但也造成了一定的影响。蒋介石从此很少在安徽和上海公开露面。当时上海还有着“蒋介石最怕安徽人”一说。

    许继慎在中国革命的低潮时期对我党的统战工作进行了深入的探索和实践，做出了突出的贡献。他坚持原则，坚定信念，开展统战工作成效显著，周恩来也赞扬他“政治上很强”。

    1930年，革命形势进一步好转，周恩来召集许继慎等人秘密开会，传达了中央决定，任命许继慎为红一军军长，派往鄂豫皖苏区，整合大别山区的三支队伍，巩固和发展根据地。由此，许继慎结束了为期两年的上海统战工作，动身前往鄂豫皖苏区，踏上了新的征程。