黄金荣原本是上海最大的青帮头目，勾结帝国主义、官僚政客以及地痞流氓发展封建帮会势力。他在1927年组织中华共进会，参与了"四一二反革命政变"，屠杀共产党人和革命群众，成为了当时最为残忍的反共反革命者之一。然而，抗日战争期间，他却拒绝了日本侵略者的要求，隐居在上海。战争胜利后，他成立了"荣社"，其势力遍布全国的各个领域。

到了1951年，随着反革命运动的逐渐升温，针对于黄金荣的控诉信飞快地涌入了市政府和公安机关，有求于当时的上海政府为了安定局面，只要黄金荣等人不出来捣乱，就可以不将其逮捕。上海市人民政府曾召见了黄金荣，让其写下一份"悔过书"，向人民交代他的过错，获得人民群众的谅解。1951年5月20日，上海《文汇报》刊登了他的自白书，接受共产党的宽大政策。政府同时允许他经营大世界、黄金大戏院、荣金大戏院等，让他有机会响应政府的思想改造和劳动改造的号召，在"上海大世界"门口扫大街。

因此，我们可以看到，黄金荣为什么后来要扫大街，主要是由于当时反革命运动加剧，他的罪行在被揭露后遭到了政府的谴责，而他则通过扫大街来展示自己的改过与悔过，同时也是为了获得人民群众的谅解。