1931年11月4日，日军向江桥守军阵地发起猛攻。他下令抵抗。由于敌众我寡，没有后援，加上装备简陋，伤亡很大，鏖战了半个月，不得不撤离江桥。马占山亲临前线指挥抗击，挫败日军多次进攻。马部血战江桥抗战，给全国人民以莫大的鼓舞，马占山的名字，迅速传遍全国，慰问函电如雪片飞来。人们称赞他“为国家保疆土，为民族争光荣”，是当代的“爱人”和“民族英雄”。但由于日军不断增援，而马部却是孤军奋战。

1931年11月18日，在消灭日伪军一千余人后，不得不撤往齐齐哈尔。

1931年11月21日，退至海伦，继续抗敌。

1931年12月，国民党政府任命他为黑龙江省主席。上海、哈尔滨等地组织了“援马抗日团”，上海福昌烟公司为鼓舞士气，还生产了“马占山将军牌”香烟。

1932年，马占山诈降，出任伪黑龙江高官兼任伪满州政部总长之职后，秘密用12辆汽车、6辆轿车、将2400万元款项、300匹战马及其它军需物资运出城外，再次举起了抗日的旗帜。马占山在拜泉约集李杜、丁超等各路军的代表开会，改黑河警备司令部为省府行署。三路人马共7000人，公推马占山为黑龙江省救总司令，会上做出三路出击日军的战斗部署。在不到半年的时间里，马占山率部给日伪军以重创，大灭日军侵略气焰。后因战事失利，退到苏联。

1933年6月3日，马占山从苏联返回上海，曾先后3次面见蒋介石，请缨抗战。

1936年1月22日任陆军中将。

1936年12月至西安，参与西安事变，支持张学良、杨虎城逼蒋抗日发动的西安事变。

1937年七七事变后，蒋介石任命马占山为东北挺进军总司令兼东北四省招抚，率部转战绥远、包头、五原等地。后任黑龙江省政府主席率部继续抗日。

1938年5月，总司令部进驻陕西省府谷县哈拉寨。

1938年11月，马占山因病到延安就医，康复后，中央和陕甘宁边区举行盛大的欢迎会。在会上致词，称赞他是始终如一、抗战到底的民族英雄。

1945年，抗日战争胜利后晋加上将衔。