西回辕文笔塔位于襄垣县侯堡镇西回辕村东南，距襄垣县城12.54千米，四周为农田。创建年代不详，现存结构为明、清风格。坐南朝北，平面呈圆形，直径约1米，高约5米，占地面积7平方米。砖石结构，塔顶类似毛笔头。塔底存有清同治七年（1868年）四月“魁星尊神位”的神牌。
魁星是指北斗七星中前四颗星，是我国神话中所说的主宰文章兴衰的神。有一个关于魁星的故事：古代有一个秀才，名字叫魁星。此人聪慧过人，才高八斗，过目成诵，出口成章，可就是长相奇丑无比，满脸麻子，走起路来一瘸一拐的，所以屡屡面试均落第。但是他文章写得太好了，终于被乡试、会试步步录取。到了殿试时，皇帝亲自面试他的文才，一看他的麻子脸和瘸腿，心中不悦。皇帝问：“你那脸为何如此丑陋？”他回答：“回圣上，这是‘麻面映天象，捧摘星斗’。”皇帝觉得这人怪有趣的，又问：“那么你的瘸腿呢？”他又回答：“回圣上，这是‘一脚跳龙门，独占鳌头’。”皇帝很欣赏他的机敏，又问：“那朕问你一个问题，你要如实回答：‘你说，如今天下谁的文章写得最好？’”他想了想说：“天下文章属吾县，吾县文章属吾乡，吾乡文章属舍弟，舍弟请我改文章。”皇帝大喜，阅读完他的文章后，更是拍案叫绝：“不愧天下第一！”于是，钦典他为状元。
这个丑文人的才学、智慧和发奋，使他后来升天成为魁星——北斗七星的前四颗，主管功名禄位。“魁”字拆开来，一半是“鬼”，应魁星的面目丑陋，一半是“斗”，应魁星才高八斗、也应北斗星座。据说魁星手中的朱笔批你是什么你就是什么，文人中传“任你文章高八斗，就怕朱笔不点头”就来源于此。据说从此开始，皇宫正殿台阶正中的石板上雕有龙和鳌图案，一只魁斗放在旁边，殿试完毕发榜时，应试者都聚到皇宫门前，进士们站在台阶下迎榜，状元则一手持魁斗，一脚站在鳌头上亮相，表示“一举夺魁”、“独占鳌头”。