在一战后德国的“黄金二十年代”里,德国的首都柏林成为在德国的外国人聚集的主要城市,中国人也不例外。当时,许多来自富裕家庭的中国留学生到德国留学都选择了柏林的大学,还有不少激进的中国革命青年在魏玛共和国首都自由的政治气氛中找到了宣扬反对帝国主义思想的理想场所。此外,还有不少中国商人和小贩也来到柏林这座国际大都市淘金。至1923年,在柏林的中国大学生人数已经达到1000人。
当时,中国人选择到德国留学,一方面是因为德国的高通货膨胀导致学费和生活费对于外国人来说相对便宜,更主要的则是因为德国在自然学科教育领域享有良好的声望。因此,在柏林的大多数中国留学生选择了柏林科技大学,一小部分人选择了德国政治学院。由于当时中国留学生对国外了解相对欠缺,为了便于相互照应,所以他们在柏林的分布相对集中,主要居住在靠近柏林科技大学和中国驻德国大使馆的夏洛腾堡区。居住在夏洛腾堡区还有一个好处:由于历史的原因,夏洛腾堡区的寡妇很多,中国学生可以从她们那里获得便宜的租房。
在20年代至30年代期间,柏林施勒西火车站周围的贫民区里还有一个中国人区,柏林人当时把它称作“黄区”。这里住着大约200名中国人,以海员、小商贩为主,经济状况都很一般,主要依靠推销从中国进口的瓷器、茶具、漆器或廉价手饰等小商品为生。这些中国人喜欢在一条名叫长街上的一家柏林老酒馆里聚会或打打麻将,在酒馆的里屋,店主还允许中国人自己做饭。酒馆的墙壁上还经常张贴有写有中国字的通知,一般是来自中国驻德国大使馆的消息或是翻译过来的警察局通告。由于这里的中国人都生活在社会的底层,所以一般不懂德语,只能说家乡话。
1931年日本强占满洲里后,柏林的许多中国留学生自发组织成立了“拯救祖国协会”。当时德国政府对发展同中国的友好关系抱有浓厚的兴趣,因此尽管日本通过其在柏林的大使馆多次敦促德国取缔该协会,德国政府置若罔闻,始终未采取行动。希特勒上台后,采取了严酷的反共产主义行动,许多拥护社会主义或共产主义思想的中国人因此遭到迫害。两名柏林的中国女学生为此被纳粹政府宣布为不受欢迎的外国人而驱逐出德国,在中国人中引起轰动,但中国驻德国大使馆却因意识形态的原因没有提出任何抗议。于是,不少中国人开始离开德国。
在此期间,柏林还发生了一个小插曲:一个中国学者准备同一名德国女子结婚,却因所谓的“种族问题”未获柏林市政府的批准,中国驻德国大使馆对此提出抗议,纳粹政府顾及在华的巨大利益,最终做出妥协,宣布“种族问题”并不适用象中国和日本这样古老文明的民族。不过,随着世界局势的紧张以及德日两国政治上越走越近,柏林的中国人开始大规模地撤离德国。到1937年,柏林还只剩下不到500名中国留学生。
同一时期,施勒西火车站周围中国人区的生活条件不断恶化。当德国1941年同日本结成军事和外交同盟后,中德两国断绝了外交关系,此后几年里,在柏林的大约100名中国人被德国纳粹政府强迫关进了集中营。其中大多数为小商贩,因为无法从中国进口到商品,谋生艰难,被迫经营非法生意。这时候,德国人同中国人的任何联系都是不受欢迎的同,在《保护德国血统和德国婚姻法》实施后,中国人同德国人通婚也被禁止。中国人在德国的处境更加困难。至1945年纳粹德国战败时,在柏林的中国人减少到120名大学生和280名商人。1946年,柏林的70名妇女和她们的孩子获得了中国国籍,柏林市政府还在夏洛腾堡区新建了一所学校,150名中国学生获准在该校就读。