在严峻的形势面前，连黄金荣的一些门徒也起而揭发，要求靠拢共产党，与黄老板划清界线。这时候的黄金荣，真的成了一只过街老鼠，人人喊打。
解放初期百废待举，人民政府要处理的事千头万绪。黄金荣也过了一段安逸日子。以抽大烟来说，政府虽有明令禁止，但黄装糊涂，照吸不误，而且家中藏了大量上好的大烟土，据报“足够他后半世之吸食”。
黄金荣每日享受三样东西：吸大烟、搓麻将、下澡堂。他对人说，这“三件套”是他最大的享受，不管是国民党当权，还是共产党天下，都是如此，要陪他到老死。他能留在上海不走，这“三件套”也有一半功劳。
当时黄家上上下下二十多口人， 都住在龙门路均培里一号。这是黄金荣发迹后造的一幢三层洋房，有几十个房间。黄的居室在二楼东端，附近房屋大多由他的门徒租住，可以互通声气，方便走动。除夏天避暑去漕河泾黄家花园住一段时间，黄金荣一直居住于此。人民政府这时还允许黄金荣照常经营他的产业，如大世界、黄金大戏院、荣金大戏院等，每月都有一笔不菲的收入。
1951年初，镇压反革命运动开始后，黄金荣的日子开始难过起来，市民甚至自发涌到黄宅门口，要求他接受批斗。一封封控诉信、检举信，如雪片般飞进市政府和公安机关，恳请政府作主，为民报仇雪恨。
实际上，对于上海的帮会人物，如何做好其工作，为我所用，党中央在上海解放前夕，已有明确的方针，即只要他们不出来捣乱，不干扰上海解放后的社会治安，老实接受改造，就不动他们。特别是对于黄金荣、杜月笙这样的帮会头面人物，“观察一个时期再说”（刘少奇语），其目的是“努力使上海不乱”（周恩来语），这样对全国大局有利，对恢复上海经济发展有利。
陈毅市长和分管政法工作的潘汉年副市长， 都忠实地执行了这一正确的方针政策。上海市人民政府出面召见黄金荣，向他说明既往政策不变，但希望他能写“悔过书”公开登报，进一步向人民交代，老实认罪，以求得人民群众在某种程度上的谅解。
1951年5月20日，上海《新闻报》、《文汇报》刊出了《黄金荣自白书》，结果非但没有平息群众的愤怒，反而引出更大的风波，已如前面所述，“黄金荣可杀不可留！”的口号响彻上海滩。 黄金荣在“自白书”中，自称“自首改过”、“将功赎罪”、“请求政府和人民饶恕”云云。上海滩第一大亨的“忏悔”，在当时轰动一时。
不用说，对稳定社会秩序，震慑帮会残余势力起了不少作用。随后，黄金荣响应政府的改造号召，开始扫大街。
“黄金荣扫大街”的新闻不胫而走，传遍世界各地。旧上海另一大亨杜月笙在香港得知这一消息，暗自庆幸自己没有留在上海，躲过一劫。考虑到国内外的反响，对黄金荣的这项“改造”措施只是象征性的并没有持续下去，毕竟他已是风烛残年的老人。两年后，这个曾在上海滩显赫一时的人物，因发热病倒，昏迷了几天，就闭上了眼睛。时年86岁。
