谈判结束，双方在各国领事见证下签署停战协议，日本为颜面考虑，强烈要求李伯阳额外签署保密协议，威胁不准将协议内容外露。
李伯阳权衡了轻重，还是答应签署这份保密协议，自己得了里子，面子让日本人得去也无妨，将这份谈判协议透露出去，势必引得各路军阀忌惮，得不偿失。
协议签署当晚，李伯阳亲给前线去电，命令罗群在包围圈西侧打开一个缺口，放日本人撤退。罗群正组织部队训练，只能遗憾的遵从命令，从西边放开一条小路，只允许日军携带步枪撤离，而轻重机枪、山炮、电台则通通缴获。日军谈判失利，面对数倍于己虎视眈眈的皖南军，只能饮恨丢下武器，狼狈撤离。
第二天一早，江防司令董世武亲率手下将水雷撤去，紧接着日军舰在英军舰的监督下退往九江。
一场大战消弭，日本人抢先登报，称大日本帝**队已经惩戒了皖南，皖南已于昨日签署赔偿书，云云。
这种语焉不详的报道看在国人眼里，还以为真是日本人用武力逼迫皖南赔款，一时国人大哗，北京、上海、武汉的学生冲上街头游行，抗议北京执政府对外无能，要求捍卫国家主权，同时全国各大报纸披露芜湖被日舰轰击两日的惨状，称赞李伯阳为不畏日本帝国主义的爱国将领。
李伯阳闻之这个称呼后颇为惭愧，这次与日本的冲突爱国心有之，可到后来更多的却是为地盘私心考虑，如今国人盛赞自己为爱国将领，着实受之有愧。
就在协议签署第三天，上海花旗银行代替皖南向中日实业公司偿还日元五百万整，这个消息一出，原本与李伯阳保持距离的芜湖工商界立马转了风向，不仅商会上赶着无偿为镇守使公署捐献重建芜湖金，而且金融界也开明起来，愿意大额借款给李伯阳，不论用途。
李伯阳内心瞧不起这些逐利的商贾，不过他不会和白花花的银元过不去，再与商会推脱几日后，做出一副勉为其难的样子收下这笔钱重建金，又从交通银行借出五十万块银元，作为华为矿业公司启动款。
重建工作有条不絮进行，经过日舰的一通轰击之后，李伯阳借机对长街做出新的规划，原先的码头继续沿用，可主要街道却推翻重建，原本狭窄的道路扩宽至四向车道，而沿岸的建筑也摒弃了低矮的土木阁楼，随之而起的是大上海普遍的钢筋混凝土高楼，尤其是地控要害的地点，李伯阳专门请到德国的工程师，以战时堡垒要求建造，同时在长江河道最狭窄险要处修建炮台基建，为以后落实炮台防御打下