402年2月28日，大战正式展开，桓玄率军抵达姑孰，让他的将领冯该等人，攻击豫州州政府所在地历阳，朝廷方面的襄城郡长司马休之亲自登城自守。
桓玄接着派人切断了洞浦对外的交通线，并焚毁豫州州政府的所有船舰，豫州督导官、谯王司马尚之，率步兵九千人，在洞浦列阵，派武都郡长杨秋，驻军横江，而杨秋眼见敌我力量悬殊，居然弃械投降，部众瞬间溃散，司马尚之逃到滁河，被桓玄捕获，司马休之自知难以坚守，直接弃城而逃。
首回合下来，朝廷军队遭遇惨败，桓玄继续向建康推进。
镇北将军刘牢之，一向厌恶骠骑大将军司马元显，深怕桓玄一旦覆灭，司马元显会更加暴虐无理，自己也将受到猜忌，于是打算借桓玄的手，铲除当权官员，再利用桓玄的弱点，而由自己夺取政权，所以虽接到讨伐桓玄的号令，却并不着急实施。
而身为大军统帅的司马元显则每日每夜地饮酒，从不过问军国大事，任命刘牢之为前锋司令之后，并没有后续的指示，甚至也没有必要的交流，放任刘牢之坐观成败。
桓玄也忌惮刘牢之的战力，得知这一情形，便派刘牢之的堂舅何穆前往游说：“自古以来，人臣如果手握震主的兵权，又建立无法再赏的功勋，而最终仍能保全性命的，有几个？倒是功成名就后就惨遭杀戮的人，一个接着一个，文种、白起、韩信等人都是前车之鉴！
他们事奉的还都是英明的君主，反观司马家的这帮人，个个凶恶愚昧，你认为将来会有活路吗？你如果参与战争，无论是胜是败，最终都难逃一死！
可是为了家族考虑，也许可以选第三条路，况且桓玄与你并无深仇大恨，堂堂大丈夫，为何要被别人利用？”
刘牢之在此之前，如果还有回心转意的打算，但当听了何穆的话，终于下定决心按兵不动，并秘密与桓玄保持联络。
东海郡首府警备区司令何无忌，是刘牢之的外甥，与刘牢之的儿子刘敬宣，以及刘牢之的军事参议官刘裕，全都认为应该讨伐桓玄，但刘牢之拒不采纳，刘敬宣劝道：“现在国家衰弱，天下治乱的关键，全在你和桓玄掌握，桓玄依靠父亲和叔叔留下的权位声望，盘据古楚国的疆域，事实上国家的三分之二都被他割据，一旦放纵他凌辱朝廷，威望就会更高，恐怕对他再也无可奈何了！”
刘牢之顿时大发雷霆：“你说的那点基本的常识，我难道不知？可是今天的问题是，击败桓玄并不困难，甚至可以说易如反掌，但平定桓