第二个是轰动上海滩的胡晓阳、陈小蒙等高干子弟流氓团伙强奸妇女的案件。主犯胡晓阳系中共上海市委第二书记兼人大常委会主任胡立教的儿子,陈小蒙是中共上海市委原宣传部常务副部长、后来的上海市政协副主席陈其五的儿子(陈其五是著名的《敦促杜聿明投降书》的原作者)。在当时影响很大,上海市委第一书记陈国栋不敢作主,给胡耀邦请示,胡耀邦批示:罪大恶极,不杀不足以平民愤。最后还是枪决了事。胡耀邦到上海的时候,还专门看望过胡立教,请他理解中央的决策。在此之前,他告诉上海方面,不要告诉陈其五说是两个儿子(陈小蒙、陈冰郎)的事情,因为陈其五已经是癌症晚期。不想过于刺激他,再者,陈其五的确不知道儿子们的荒唐事。
当年不少人都说胡耀邦真是铁面无私、执法如山。