文述少以诗名，室名颐道堂，碧城仙馆，三十六芙蓉读书楼，题襟馆。十八岁入县学，为钱塘学咨部优行廪生，二十一岁与大自己一岁的表姐龚玉晨结婚，龚玉晨为山西寿阳县知县龚导江孙女，国学生龚乐长女，成婚次年诞下长女华娵。二十四岁长子裴之出生。
乾隆六十年（1795）八月二十四日，阮元奉旨调任浙江学政，嘉庆元年（1796）文述应杭州乡试，阮元以《仿宋画院制团扇》命题，文述诗最佳，末句云：“歌得合欢词一曲，想教留赠合欢人。”阮元大赞，批其旁云：“不知谁是合欢人”，并以团扇赠文述，人称其为“陈团扇”。阮元以杭州诸生之诗，文述为第一，称其才力有余，能人所不能，并谓其诗文，扬班高李之俦，嘉勉其学。文述益发愤向学，以家贫，乃观书于市，且抄且读，有知遇之感。文述与族兄陈鸿寿（字曼生）、陈甫（字瀛芝）等人往来甚密，皆有文名，阮元称之为“武林三陈”，或与陈鸿寿称“二陈”，或并称“曼云”。诗集名《绿凤楼诗》，为少年之作。
嘉庆三年（1798）中乡试副榜，同年九月，阮元任满离浙，招文述随从入都。次年秋九月，阮元奉命抚浙，文述又随阮元抵浙，入阮元幕下。次女丽娵出生。嘉庆五年（1800）五月，阮元立“诂经精舍”，选两浙诸生读书其中，延青浦王昶、阳湖孙星衍先后主讲席其中，并奉祀许慎、郑玄，文述为其精舍诸生。阮元六月驻台州，文述留节署治文书，未得偕往。阮元平寇，文述撰诗纪其诗。秋，中恩科举人。嘉庆六年（1801）春，入京参加会试，阮元书书《呻吟语》精言长卷赠别，道光十八年文述犹宝藏之。居京师五年，三试春官不第。在京师，与杨芳灿交好齐名，时号“杨、陈。”文述后官全椒、繁昌、昭明、江都、崇明等地知县，多惠政、性孝友，与王昙、郭廖、查揆、屠倬交最契。又好修名人遗迹，常熟知县任上曾为柳如是修墓。
