王衍出生名门，史称其“神色明秀，风度祥雅”，生得是一表人才，风流潇洒，而且才干横溢。他少年时曾去访问有名学者山涛，山涛同他交谈后，感叹良久，对人说：“何物老妪，生宁馨儿！然误天下苍生者，未必非此人也。”在赞美王衍才干的同时，吐露出了一丝担心。可悲的是，若干年后，山涛对王衍的担心真的成为了现实。
王衍的父亲任平北将军，王衍自然也少不了同官场上的人打交道，虽然他还只是一个少年，但一些朝廷的高官重臣都被他的气宇和才干所折服。太傅杨骏曾想把女儿嫁给他（杨骏的另一个女儿杨芷为当朝皇后），王衍居然用装疯的方法回避了，不过这件事也可以看出王衍还是有些政治远见的。王衍的名声也传到了晋武帝司马炎那里，司马炎曾问王衍的堂兄王戎说：“当今有哪个人可以同王衍相比？”王戎答复说：“未见其比，当从古人中求之。”
王衍名气如此大，自然有人推举他去做官。273年（泰始八年），司马炎下诏命百官举荐可以安宁边境的人才，尚书卢钦举荐他为辽东太守，但王衍还是推脱了。应当说，这一时代王衍的所作所为还是值得称道的：他不问世事，整日里吟诗作赋，研讨玄学；他父亲逝世后，亲朋好友送了很丰富的丧仪礼金，他都借给了那些须要赞助的亲戚和熟人，以至于几年下来，家产荡尽，连洛阳城里的宅子也被迫卖掉，搬到城外去住了。
不久，王衍最终还是出来做官，担负了元城县令。他虽然终日清谈，但县里的政务倒也搞得井井有条。之后，又回到京城，任太子中庶子、黄门侍郎。他虽身在官场，可依然整日价研讨玄学，探讨学问，“妙善玄言，唯谈《老》、《庄》为事。每捉玉柄麈尾，与手同色。义理有所不安，随即改更，世号‘口中雌黄’。”“信口雌黄”的成语便是由此而来的。由于他既有“盛才美貌，明悟若神”，又“声明藉甚，倾动当世”，被誉为“一世龙门”，仕途上自然也一帆风顺，“累居显职”，但同样不可避免地卷入了当时朝廷的政治奋斗。
王衍的妻子郭氏是皇后贾南风的亲戚，她依仗后宫势力，刚愎贪戾，聚敛无厌。王衍对她非常不满，但又无可奈何。他的女儿嫁给了太子司马遹，贾南风诬告太子谋反，王衍怕受到连累，自动提出同太子离婚。贾南风被废后，这也就成了王衍的一条罪状，有关部门请求将其禁锢毕生。
赵王司马伦除掉贾南风，掌控了朝政，不久又篡位称帝，而王衍原来就瞧不起司马伦，找借口不出来做官。不久司马伦被杀，王衍被任命为河南尹，转任尚书，又任中书令。这时诸王之间相互内斗，但王衍的官却越做越大。307年（光熙元年），王衍升任司空；次年又任司徒。
王衍虽位居宰辅之职，却依旧不改清谈的老缺点；他身居乱世，却不斟酌如何把国度治理好，而是想方设法保全自己。他向当时执掌朝政的东海王司马越推举弟弟王澄为荆州刺史，族弟王敦为青州刺史，并对王澄、王敦说：“荆州有江、汉之固，青州有负海之险，卿二人在外而吾居中，足认为三窟矣。”
此时，北方匈奴树立的汉国不断发起对西晋王朝的攻击，朝廷内部却依然内斗不断，王衍身为宰辅，却拿不出一点方法。310年（永嘉四年），洛阳城被汉国围困一年多了，内无粮草，外无援兵，朝臣们都建议迁都以避难，王衍却力排众议，还假惺惺地卖掉自己的牛车，试图安宁人心。这样，就错失了撤离洛阳、抢救危局的最后机遇。
311年（永嘉五年）三月，司马越因病逝世，将后事托付给王衍。王衍率军民护送司马越的灵柩回东海封地，在半道被汉国大将石勒率轻骑赶上，大败晋军，十万余将士相互蹂躏，尸积如山，无一幸免，王衍和随行的大臣也统统被俘。而此时的洛阳城已经成为了一座空城，晋怀帝司马炽也成了俘虏，在受尽屈辱后，被汉国君主刘聪毒逝世。
王衍被俘后，石勒专门请他谈谈朝廷的情形，王衍这时还推辞说，败亡的义务不在自己身上，并说自己历来就不问世事，不爱好从政，甚至还无耻地劝石勒称帝，妄图以此谄谀石勒。石勒怒斥道：“君少壮登朝，名盖四海，身居重担，何得言无宦情邪！损坏天下，非君而谁！”并愤愤地对自己的部下说：“吾行天下多矣，未尝见此辈人。”但最终还是看在王衍身为名士的份上，给他留了一个全尸，命人推倒墙壁把王衍压逝世。王衍临逝世前，总算说了一句实话：“向若不祖尚浮虚，戮力以匡天下，犹可不至今日！”