清廷严禁官吏经商，作知府的陈昔凡怎能开古玩铺呢？说起来还有段故事：

光绪二十七年，八国联军洗劫琉璃厂后第一个年节，逛厂甸的人还不少。书商张鸿瑞和帖商张景韩、刘振之三个人摆了个书帖摊。大年初六，遇上位买主挑了儿本书，选了儿幅帖，想买书帖但手头的钱不够了。

张鸿瑞看这位买主面目和善是位老年人，便主动请老人将书帖拿走，什么时候有钱什么时候再给。老人说：“我是东北辽阳人，一个月后才能给你们钱。”张鸿瑞说您拿走我放心，什么时候给钱都行。”

这一年的二月初六，老人托人把钱从辽阳捎来了。此时北京古玩书画行的生意萧条，张鸿瑞、张景韩、刘振之三人商量，凑点路费，带些书帖和字画给辽阳那位老人送去，蹚蹬路子。商量好了由张鸿瑞前往。

张鸿瑞到辽阳见到这位老人。老人说：“我的钱不多，买不起这些书画字帖。我写封信，你拿着我的信去新民府知府衙门，那里有位二堂老爷叫陈昔凡，他喜爱书画法帖。他见到我的信，能见见你，你去做他的买卖吧!”从此张鸿瑞在东北蹚出了路子，做上了陈昔凡的古玩字画买卖。

陈昔凡喜欢搜集、收藏字画和法帖。他出生于书香门第，官宦之家，举人出身，京师会试录取贡生。光绪二十七年，他被清廷任命为奉天新民府五品二堂（即副知府），携眷从安徽怀宁到奉天新民上任。

陈昔凡年近四旬，膝下无子女，上任之前，他哥哥说：“我的大儿子屡试不中，你带他出去见见市面，让他照顾你，你教他读书习字，不可荒废学业。”州府二堂是份清闲差使，陈昔凡有充足时间赏古作画，指导大侄儿读书习字。

光绪三十年，新民府的知府荣升为江南某省巡抚，陈昔凡升为“四品黄堂”、新民府知府。张鸿瑞知道后，为了祝贺陈大人荣升，送去一幅王晕山水画轴，还带去一些书画、文玩，请陈大人鉴赏收藏。陈昔凡将送去的东西完全收下，

照价付款，不受贺礼。张鸿瑞做了一笔大生意，赚了二百两银子。

这时，张鸿瑞做陈昔凡的古玩字画生意已有四年，彼此较为熟悉。陈昔凡认为张鸿瑞这个人老实诚恳，张鸿瑞感到陈大人为人和善，没官僚架子，像位书生。两人投缘，儿乎无话不说，相处很随便。