上官仪游情释典,尤精《三论》,兼涉猎经史,善属文。唐太宗贞观元年(公元627年),上官仪被时任扬州大都督府长史的杨仁恭看重,举荐赴京师长安参加科考。上官仪以“对求贤策”、“对用刑宽猛策”二策中进士,诏授弘文馆直学士,累迁秘书郎。贞观二十年(646年),玄奘法师向太宗进新译《经论》、新撰《大唐西域记》十二卷,并请求皇帝给《经论》撰序言,唐太宗自制《大唐三藏圣教序》成,在庆福殿召集群僚,赐玄奘法师座,命上官仪宣读《《大唐三藏圣教序》。
唐高宗即位后,上官仪于显庆元年(公元656年)被任命为太子中舍人,显庆四年(公元660年)被任命为都讲令侍讲,龙朔元年(公元661年)被任命为中书侍郎,龙朔二年(公元662年)被任命为中书侍郎、同中书门下三品(宰相)。
上官仪刚直肯谏,主张废皇后武则天。武则天专权后,其宠臣许敬宗秉其意,本奏上官仪与已废太子李忠谋反,武则天以此为由,将上官仪及其子上官庭芝同时处死,中宗李显即位时,才得平冤,以国礼改葬。上官仪的诗作很多,其词绮丽婉媚,适合宫廷需要,士大夫纷纷仿效,时称“上官体”。他归纳六朝以来诗歌中的对仗方法,提出“六对”、“八对”之说,对后世格律诗、联句的形成,很有影响。