在淞沪会战1937年10月29日，日军攻占上海的第三天，市民一早出门，突然看到四行仓库楼顶上飘扬着中国国旗！自从中国军队撤离后，上海浓烟翻滚的天空中，就只能看到租界的英国米字旗、美国星条旗、白俄三色旗和日占区的“膏药”旗了。
三天前，与日军苦战了75天的中国军队，就像他们来上海时一样，一夜就消失了。占领上海后的日军先是推倒了先总理孙中山的塑像，继而到处悬挂太阳旗??中国人形象地称之为膏药旗??中国报纸称之为“被正义的子弹打穿的一个血洞”的旗帜。
现在，这些房顶上挂着膏药旗的中国人，看到了自己国家的国旗！他们还是中国人，他们还在自己的家园！当天的《申报》有这样的一篇特写：“天亮时分，国旗飘展，隔河民众经此地，纷纷脱帽鞠躬，感动落泪。”在沦陷的上海，在数万日本陆、海、空军围困中，升起上海市唯一的一面国旗的，就是谢晋元和他率的名震天下的“八百壮士”。
国民党原第88师参谋长张柏亭在其回忆文章《淞沪会战纪要》中，这样写谢晋元：“世人咸知谢晋元将军??死后为蒋介石追认为少将??为一勇将，殊不知谢将军智谋深远，更是一位有着高度修养的参谋人才……”
“八一三淞沪抗战”中，日军投入了14个半师团，近30万人，其中投入的海军力量占全部海军的一半。打击敌舰，特别是打击敌旗舰“出云”号，成了中国军队的主要目标之一。
身为陆军旅中校参谋主任的谢晋元，拿出了摧毁“出云”舰的计划??经快速小火轮携特种爆炸物对“出云”舰进行偷袭。当时的《申报》这样报道了偷袭结果：“汇山码头发生大火，谢同志的计划虽未全部达成计划，但已震撼敌军，其后敌酋不敢再在出云舰驻节，而黄浦江内敌舰，也远向杨树浦以东江面移动，舰炮射击一时陷于沉寂……”
淞沪抗战时，对日军造成重创的“铁拳计划”，也是由谢晋元负责细部作业并指挥实施的。张柏亭这样回忆“铁拳计划”：“炮兵于拂晓密集射击，虬江路阵地一片火海，烈焰冲天，所有工事与建筑物尽行摧毁，紧接着突击部队适时冲进，毙敌无算，横尸街巷……”
整个淞沪抗战中，谢晋元所在的闸北地区，始终是战线旋回的轴心，88师也因此被日军称为“闸北可恨之敌”。
我军由闸北大场撤退时，许多人建议考虑长期抗战，有秩序退守经营了三年之久的防御阵地。但蒋介石又以国际联盟开会在即，能保持在上海的存在，“可壮国际视听”。要求撤退下来的三军，在毫无思想和军事准备的情况下，在沪西仓促摆开战场。令88师留在闸北，死守上海。
此时的88师已补充过5次，平均每班老兵不足2名，大部分连长战死，“一个团整整齐齐上去，下来时，只剩下几副伙食担子”。部队已经没有战斗力了。为了落实委员长的指示，88师师长孙元良决定，只留下一个团死守闸北??这就是“八百壮士”的由来。
“死守上海最后阵地”的命令，迅速地交到了时任88师262旅524团中校团副谢晋元的手上。孙元良要求他们，把指挥所设在88师原司令部“四行仓库”。四行仓库是四家银行联营的仓库，楼高六层，为当时上海少有的高楼，墙体厚实，日军小钢炮也打不透。该仓库坐落于苏州河边，在公共租界的西北方，与公共租界以铁丝网相隔。英军在其东边设有碉堡，日军在其西、北面设有暗堡。
其实，坚守四行仓库的只有一个营的兵力。该营士兵陈德松在《殊死报国的四行孤军》一文详细记述道：“以该团第一营为基干，组成加强营，仍用团番号。全团410人左右，一个机枪连三个步兵连，一个迫击炮排。”为迷惑敌人，在记者采访时，谢晋元假告800人。这才有了“八百壮士”之说。
曾进入四行仓库，亲睹八百壮士与敌血战的原国民党军委特务处驻上海办事处处长文强回忆说：“(谢晋元)与我且说且走，在仓库内巡视了一周。所到之处，营房布置整洁有序，井然不乱，间闻爱国歌曲，雄壮激越，令人振奋鼓舞。”
唯一不足的是，仓库并不像孙元良师长所说“粮水充足”。部队进驻的第二天，自来水就断了，官兵把污水小便留下来以作灭火之用；没有粮吃，他们只好向租界爱国团体和民众求援。民众偷偷将食品送到仓库边的一个小屋内，再由守卫官兵设法取进去，才保证了供给。
孤军的精神极大地感染了民众，也感化了租界的外国人和外国军队。童子军杨惠敏冒生命危险，为孤军送来国旗后，还参加了孤军的升旗仪式：“没有旗杆，临时用两根竹杆连接扎成；没有音乐，只有一两声冷枪声；没有壮观的场面，只有十几位军人向国旗敬礼……”每天一早，租界民众就爬上高楼顶，看孤军杀敌。发现敌人来袭，就喊话通知孤军。喊话听不到，有人搬来大黑板，哪里有敌人行动，即用大字写在黑板上，并画出敌人的行进图。
一德国妇女感动于孤军的精神，亲自开卡车送来食物，并声称：孤军每天的生活全部由她负责。英军司令员史摩莱少将说：“我们都是经历过欧战的军人，但我从来没有看到过比中国‘敢死队员’最后保卫闸北更英勇、更壮烈的事了。”
就在孤军4个昼夜不曾合眼，边战斗、边修好工事，准备与敌人作长时间的殊死决战时，10月30日，统帅部命令孤军停止战斗，退入公共租界。
英军当时答应，“负责掩护孤军撤退”，使“孤军由租界到沪西归队”。可当孤军冒着日军的枪林弹雨，以与四昼夜血战一般大的代价??死伤30多人??营长杨瑞符就是在撤退时身负重伤的??进入租界时，立即被英军勒令收缴武器。孤军以“军人不能离枪”为由，拒绝缴械，双方形成对峙。这时，国民党政府还派人劝说孤军配合英军。可孤军的枪刚交出去，英军就将孤军押上车辆，送胶州路羁留。
孤军被送到胶州公园时，有350人和一面国旗。杨瑞符1939年6月12日在《大声报》发表文章，对四行保卫战作了这样的评价：“是役也，既未成功，又未成仁，仅仅作到‘绝对服从命令’六个字……”
在“八百壮士”撤入租界时，日军即要求租界当局引渡。但迫于我国民众的压力，租界工部局始终不敢答应。后来，日伪又阴谋劫持和暗杀，多次派日本浪人或汉奸，怀藏手榴弹、短枪等武器，闯入孤军营图谋暗害，但未得逞。中外人士十分担心谢晋元和八百壮士的安危，多次提出用难民分批将孤军调换走等救孤军的方案。但谢晋元一一谢绝。他表示：“余自奉命撤退之始，即知今后环境之艰危，当十倍于固守四行之时。地方人士曾有私潜离上海之建议，但经余拒绝。因余为奉令撤退，光明而来，亦当正大而去。”
汪伪上台后，陈公博当了伪上海市长，多次劝降谢晋元，请谢晋元去当伪第一方面军司令。谢将委任状撕得粉碎，并大骂卖国贼。谢晋元说：“我父母都是中国人，生下我这个儿子也是中国人，中国人决不当外国人的走狗！”
1941年4月24日晨5时，谢晋元和以往一样，率领官兵早操。当他看到上等兵郝鼎诚等4人迟到后，就询问原因。谁知他们4人突然取出预先藏在身上的匕首及铁镐等凶器，蜂拥而上，猛刺谢晋元胸部及头部。谢多处重伤，流血不止，至6时许悲壮长逝，年37岁。4个凶手当场被擒，后交待是汪伪政府收买所为。
谢晋元牺牲的消息传出，上海各界人士深为震惊，前往吊唁者达十余万人。5月8日，中国政府下令追认谢晋元为陆军步兵少将。
1941年12月8日，日本突袭珍珠港，太平洋战争爆发，上海沦为真正的孤岛。
12月28日，日军突入孤军营，将手无寸铁的孤军全部押走。历时四年有余困守的谢晋元的队伍又沦为日军的战俘。但迫于孤军在世界上的影响，日军没敢杀他们。在这么恶劣情况下，孤军仍保持了坚强的团结力和严格的纪律，每天抽空由官长率领跑步和体操。
不久，日军将孤军分别押解到孝陵卫、杭州等做苦工。到孝陵卫的部分孤军夺取日军的枪械后逃走，后又走上抗日战场。36名孤军军官被日军押到新几内亚作苦力。1945年，孤军看到日军垂头丧气，整天酗酒，才知道日本战败，反过来把日军抓起来当了俘虏。
1946年，名扬天下的“八百壮士”，从各地回到上海，总计100余人。他们请回老团长的遗霜凌维诚，在老团长的陵墓四周搭起棚子住了下来，为老团长守灵。