一、“白色恐怖”和中共城市组织的瓦解
南京国民党的“清党”运动，不仅不足以消灭共产党，而且逮捕、杀人全无法律依据和严格的标准，以至造成整个社会的惊恐不安，国民党人自己也是批评之声不断。为了改变形象，也为了把反共斗争持续进行下去，从1928年起，在谭延闿的主持下，南京国民政府开始着手制定和颁布刑法，其中也包括主要针对共产党问题的刑事特别法《暂行反革命治罪条例》。以“反革命”为名，对异己者施以镇压手段，严格说来是自武汉政府始。1927年3月13日，武汉政府在共产党人推动下，就曾经颁布过一个《反革命罪条例》。这个条例在中国第一次明定有所谓“反革命罪”，并具体规定了治罪的办法。只不过，由于当时更为通行的是惩治土豪劣绅和贪官污吏等条例，故依据这个条例治罪的情况并不十分普遍。但对于南京国民党来说，利用反革命的罪名，把具体针对党的系统的“清党”办法，以刑事特别法的形式推广到社会上去，却是一件颇具心计的做法。因为，这样不仅更便于打击共产党及一切异己分子，而且于法有据，师出有名。
《暂行反革命治罪条例》于1928年3月9日正式颁布，其中规定：任何意图颠覆中国国民党及国民政府，或破坏三民主义而起暴动者，或与外国缔结损失国家主权利益或土地之协定者，利用外力或外资勾结军队而破坏国民革命者，均得处以死刑。凡以反革命为目的，而破坏交通，引导敌人，侵入国民政府领域，刺探之重要或秘密消息交付敌人，制造收藏贩运军用品，以款项或军用品接济反革命者，均可处以死刑、无期徒刑，或二等（即10年）以上有期徒刑。凡“宣传与三民主义不相容之主义及不利于国民革命之主张者，处二等至四等有期徒刑”；“凡以反革命为目的组织团体或集会者，其执行重要事务者，处二等至四等有期徒刑并解散其团体或集会”。[2]这种把刑事犯罪与反革命目的联系起来加重惩罚，乃至于以思想意图作为定罪标准的做法，在中国近现代司法制度上，算得上是开先河了。
除了颁行《暂行反革命治罪条例》，南京国民党中央这时还接连通过了《制止共产党阴谋案》和《防制共产党案》等几项专门针对共产党问题的重要决议案。其中《防制共产党案》甚至搬出了相当严厉的连坐法，规定：区分部发现共党，事前无报告者，解散区分部并查办其执委及介绍人；县党部所辖有两个区党部以上发现共党，将县党部解散。[3]而每逢红色节日，如“五一”劳动节、“八一”反帝日，包括广州起义纪念日（12月11日）等，国民党中央和相关省市，还会专门发布一些临时性的防共训令。如1930年11月17日，国民党“中央即密令下级党部工作人员及全体党员，严密注意与防范共党十二月十一日之事件（按：指广州起义）”。为此要求“全国各学校各工厂主管人员应注意，在十二月一日至十二月廿日期中，不准学生及职工藉故请假，其不假外出或更参加上项活动者，迅报当地军警处理之”。“全国各铁路管理局得密令各分局、各站、各厂，自十二月一日起至十二月廿日止，不准职工藉故请假，其逃工或放工后有上项活动之情形者，得逮捕之。”“在十一月至十二月期间之一切请假分子，销假后即予以十分注意，并注意其往来之人物。”“由国府分电沪汉粤津，令于十二月三日起检查各关口、各旅店、各车站、各码头一切往来之旅客，并于三号起特别注意一切公私集会及多人聚谈之会议形式，并定制止之。”[4]
但是，仅仅有防范和治罪的办法，显然不足以解决问题。自“清党”以来，南京方面大兴逮捕与杀戮之风，不可谓不严厉、不恐怖。结果是国民党搞“白色恐怖”，共产党报之以“红色恐怖”，在各地大举暴动。接二连三的武装暴动，使占尽优势的国民党手忙脚乱，四处灭火，却始终未能将共产党反抗的气势彻底打下去。鉴于历代王朝对付异己势力恩威并施、剿抚并重的经验，南京政府这时也渐渐醒悟到抚的必要了。因此，注重法制建设的胡汉民等出洋考察回到南京后，几乎马上就主导颁布了《共产党人自首法》。该法令10月24日正式颁行，其中规定：犯有《暂行反革命治罪法》认定之罪，于发觉前自首者，得减本刑三分之一或二分之一。如检举其他共产党人，因而查获人犯及证据者，或未犯各该条之罪而自首者，均得免除其刑。自首人犯执行刑期已逾二分之一，行状善良，悛悔有据者，应准保释。免刑之共产党人得由法院交保，或移送反省院。[5]这之后，南京国民政府又进一步颁布了《反省院组织条例》，其所控各省均先后有反省院或感化院之设立，专门用来关押和收容被认为有自首表现的共产党人。
国民党针对共产党的剿也好，抚也好，在1928—1930年的两三年里，对中共个别地方组织破坏较大，但对中共中央机关的破坏作用却不十分明显。
国民党地方军政部门这时对中共地方组织的破坏，尤以江西省委组织的两度破获引人注目。
据南昌卫戍司令张辉瓒1929年12月18日报称：因上任前已多方打探，故受命以后“运用种种方法及手腕，从已捕获之共犯口中侦察其及余党”。包括派人入狱伪装共党之被捕者，借以探询扣押“共匪”之口气；每破获一共党机关，即派员蹲守，以俟其余党自投罗网等。结果“先后破获共党省委赣西交通机关一，省委赣东北交通机关一，省委总交通机关一，省委机关一，南昌市区委机关一，省委第一监狱支部一，近郊区委机关一，又共党主义青年团省委机关一，团南昌市区机关一，团交通机关二，团第一监狱支部一，团近郊区委机关一。计拘获共产党江西省委书记沈剑华一名，省常委胡紫绶一名，省委兼秘书长刘企勋一名，省委总交通舒心伦一名，省委中央交通何润生一名，省委赣西交通李一彬一名，省委赣东北交通高文龙一名，南昌市区委书记万洪山一名，省委第一监狱交通萧冠宇一名，省委赣东巡视员王立生一名，抚州县委书记廖之萍一名”。“至共产主义青年团则拘获省委兼书记欧阳焜一名，省委兼宣传部长陈长荣一名，省委秘书长兼代组织部长庞（彭）云飞一名，南昌市区委书记龙飞一名，省委交通郭荣宗、张治禅二名，省委秘书处技术书记李正芳、赵克植二名（按：赵曾任九江县委），第一监狱支部交通张焰一名。其他党团员及其群众合共达数十名之多。”[6]最后是刘企勋、舒心伦等被害，欧阳焜、陈长荣、彭云飞等自首反共。[7]江西省委因此破坏殆尽。连带赣西特委、东北特委、樟树、德安等地县委，亦先后遭到破坏。
为恢复江西省委工作，中共中央迅速重新部署，另建机关。因南昌城小，叛变者较多，旧面孔难以活动，新面孔又易被注意，故决定将新省委建在九江。然而，时隔数月，张辉瓒却再度利用自首的共产党人，发现线索，迅速组织新的破坏行动。其随后报告称，自南昌所有机关被破获后，中共中央又在九江秘密建立起新的省委机关。因本部耳目早有所闻，故一经落实，即派执法处长于5月23日驰赴九江，先查得中共警察支部线索，随即逐一突破。最终，接连“破获九江县委机关一，江西省委机关一，九江县委所属支部九，省委县委交通机关各三，中共中央交通机关一，青年团省委机关一。所有重要共犯，均被捕获，几无一漏网者。总计为时不过六日，即破获共党机关十余处，捕获共犯百余名之多”。且缴获大量中共机密文件，由中共江西省委赣字通告第一号中更获知“共党阴谋夺取湘鄂赣三省政权之计划”全部内容，并且得到了中共江西省委对全省工作的总布置等重要情报。[8]与此同时，“据省委书记张国康供出上海共党中央通讯处及接头处”共十二个地点，“通信方法如用白药写，则用洋信签，如用米汤写，则用中国信签”。其中“麦德赫司特路爱文义路永吉里六七号或七六号刘医生”为李立三等联络点；“上海共产青年团中央通讯处上海邮箱一六四六号李觉斋收”。[9]
与国民党军政当局在地方接连破获共产党秘密领导机构的情况恰好相反，继1927年下半年“清党”运动和中共暴动的高潮过去之后，中共中央重要骨干被捕被杀的情况却日渐减少，而中共中央更是得以继续坐镇上海，设置各种机构，一面指挥一切，一面频繁接待转运国内外干部。它甚至还能够在巡捕房和国民党人的眼皮底下，举行具有相当规模的全国苏维埃代表会议和反帝大同盟会议等较大型会议。造成这种情况的一个很重要的原因，是因为当时国民党在上海等地用来对付共产党秘密工作的，主要还是公安局或警备司令部等机构。特别是在租界区，它更是主要只能借助巡捕房的力量。[10]但是，这些机构工作性质复杂，不可能都集中精力来对付共产党。而国民党这时的特务组织，即最先组织起来的中央组织部党务调查科，也才刚刚开始建立，不仅组织上十分薄弱，人员也鲜有专业训练。何况，在这段时间里，南京国民党中央的主要精力还要放在统一国民党各派力量的问题上，从蒋桂战争，到中原大战，大规模战争接连不断。因此，调查科不能不分出大量精力去对付第三党、改组派、国家主义派，以及地方派系和其他异己的民众团体等等，它能够用在侦察破获共产党组织方面的力量自然非常不够。也正是因为这种情况，眼见共产党的力量从城市到农村恢复发展十分迅速，而南京国民党被派系战争搞得焦头烂额，自顾不暇，以向忠发和李立三为首的中共中央，在1930年甚至紧急锣密鼓地准备发动全国性的武装暴动，想要一举推翻南京国民党的统治。
随着中原大战宣告结束，中共和红军对南京国民政府的威胁就突显了出来，蒋介石和南京国民政府自然开始把相当多的精力迅速转过来对付共产党。1931年1月31日，国民政府进一步颁布《危害民国紧急治罪法》，以取代容易因何为“反革命”问题而引起争议的《暂行反革命治罪法》。此一新的刑事特别法总共11条，规定：以危害民国为目的而扰乱治安、私通外国或勾结叛徒，图谋扰乱治安，或煽惑军人不守纪律、放弃职务，或与叛徒勾结者，均处死刑。以危害民国为目的而煽惑他人，扰乱治安或与叛徒勾结，或以文字图纸或演说为叛国之宣传者，均处死刑，或无期徒刑。以危害民国为目的而为叛徒购运军用品，或以政治军事上之秘密泄露于叛徒之宣传者，均处死刑或无期徒刑。以危害民国为目的，而为叛徒购运军用品，或以之秘密泄露于叛徒，或破坏交通者，均处死刑、无期徒刑，或15年以上有期徒刑。以危害民国为目的，而组织团体或集会，或宣传与三民主义不相容之主义者，处5年以上15年以下有期徒刑。[11]
这个时候，不仅调查科已经羽翼丰满，而且蒋介石还开始起用黄埔六期生戴笠来负责从军事角度收集情报。党政军几方面高度重视对付共产党的结果，不可避免地给共产党在中心城市中的组织机构，造成了巨大的破坏。仅在1931年间，国民党特务机关破获的涉及中共中央最高领导层的重大案件，就有5起之多。
1931年1月17日，国民党特务机关在上海东方大旅社破获共产党人的一个秘密集会，逮捕了包括何孟雄、李求实、胡也频、柔石、冯铿、殷夫等二十多位共产党人重要领导人，进而于2月7日将他们几乎全部处死。
4月25日，中共中央政治局候补委员兼中央特科负责人顾顺章在武汉被捕。顾的叛变造成了中共在上海国民党特务机关安插的重要线人杨登瀛等人被捕，以及中共重要领导人恽代英和蔡和森的被害。
6月15日，共产国际执委会联络局派驻上海的负责人牛兰夫妇被捕。
6月22日，中共中央总书记向忠发被捕，三天后被杀。
7月25日，中共中央宣传部领导人罗绮园、杨匏安等被捕，杨于8月上旬被杀。
8月，中共中央军委委员、江苏省军委书记李超时被捕，并于9月19日被杀。
随着1931年一连串大破坏之后，中共中央众多干部已转去苏区根据地，留在上海的干部由共产国际代表指定回国不久的留苏学生博古、张闻天等，于9月下旬组成临时中央，代行中央职务。虽然临时中央基本上都是一些生面孔，但是国民党特务机关还是很快找到侦破的线索。从1931年底到1933年夏，国民党又接连捕获了中共中央政治局候补委员兼全国总工会执委会党团书记徐锡根等；苏区中央局委员余飞等；全总宣传部长黄平；中共中央政治局委员兼全总党团书记卢福坦等；少共中央总书记胡均鹤、少共江苏省委书记袁炳辉、反帝大同盟组织部长朱爱华等；新任少共中央总书记王云程、组织部长孙际明、秘书长陈卓闻、发行部长范迅赤、交通科主任蒋平等；中共新任全国总工会党团书记罗登贤、全总秘书长王其良、海员总工会党团书记廖承志等；中共中央秘书长杨天生、江苏省委委员赵林、苏华、李默农等；赤色互济会全国总会党团书记邓中夏，以及中国共产党非常委员会负责人罗章龙等。这一系列沉重打击，不仅使中共临时中央再难在上海立足，被迫退往江西中央苏区，而且随着李竹生、盛忠亮等两届上海中央局领导人相继被捕，和河北、陕西、河南、山东等省省委各机关一再被捣毁，中共城市工作的基础几乎已不复存在了。
值得注意的是，国民党这一阶段所以能够对中共城市工作屡屡成功地施以打击和毁灭，除了其特务机构日益健全和扩大之外，其更多改取鼓励自首和发表反共宣言的政策，凡肯自首者，不再轻易使用严刑拷打和杀戮的办法，也起了一定的作用。[12]国民党开始使用这一手法，应当是从捉到徐锡根和余飞开始的。徐、余两人于1932年底先后被要求发表自首宣言，并因此获得自由。紧接着，卢福坦、袁炳辉、胡均鹤、王云程、孙际民、黄平等前中共领导人，也都走上同样的道路。所有这些宣言，都重复着几乎同样的意思，即共产主义和阶级斗争的办法，不适合中国；中国现在唯一的任务，是民族革命，取得民族独立，特别是摆脱日本帝国主义的侵略与压迫。与此同时，这些宣言中也几乎毫无例外地透露出自首者对中共这个时候党内斗争，尤其是对让初出茅庐的留苏学生执掌大权，“坐汽车，吃大菜，住洋房，穿漂亮衣服”，“使奴唤婢”现象的强烈不满。[13]持续的大张旗鼓地将这些共产党领导人的自首宣言广而告之，自然产生了一些效果。1932年10—11月间，国民党特务机关在上海接连破获共产党机关赤色互济会、上海区委、江苏省委、省军委、失业工人委员会和纺织工会等机构十几处，逮捕中共各相关负责人等六十余人。结果是破获一处，得到一批供词；再破获一批，再得到一批供词，如此中共在城市中各个秘密机关遭到巨大的破坏。[14]1933年1月31日国民党特务机关破坏共青团中央机关，也是一个供一个，最后陆续捕获共党青年团中央总书记兼共党中央政治局委员王云程、青年团中央组织部长孙际明、中央宣传部长秘书于桂生、中央秘书长陈卓文、中央交通科主任蔡平、中央文书科长刘永清、中央发行科长邱迅赤、湘鄂赣省委书记蓝乔、闽西少队主任郑荣光等三十余人。[15]而这个时期国民党特务机关破获中共各种机关的数字还不是最多的时候，据不完全统计，自1931年至1933年秋，不到三年的时间里，被捕自首的共产党人数为276人，平均每年不足一百人。国民党最具成效地捕获地下共产党人和破获其机关的时间，是从1933年秋至1934年秋，亦即红军南方根据地全面失败的时期。在不过一年时间里，各地共产党人被捕者即达4505人，自首者竟达到4213人。[16]这也足以见国民党这时的自首政策，对被捕的共产党人影响极大。