1948年初夏，经过第四纵队的第十二旅与第三十八军第十七师在陕南地区的艰苦斗争，终于开辟出一片相对稳定的根据地。为了巩固这一成果，上级决定成立陕南军区，指定刘金轩担任司令，陈先瑞担任政委，他们分别是这两支部队的主要指挥官。

陈赓将陈先瑞召来进行深入谈话，直截了当地表达了他的期望：“我有重要的职责交给你，但我不确定你是否能够胜任！”上级考虑让你担任军区政委，他希望听取你的想法。如果你有不同的意见，我们可以进行调整，如果没有，就按照这个决定上报。

陈先瑞过去曾担任政委，经历过土地革命时期的红二十五军，曾在担任营教导员及团政委后，抗战后期又担任军分区司令兼政委。与参军多年的经验相比，担任军事干部的时间相对较长。因此，他对军事工作充满自信，但在政治工作方面则缺乏经验。他坦率地表示不愿意从事政治工作，更希望继续在军事领域贡献自己的力量。

这样的表态令陈赓和谢富治感到为难。上级的设想是，既然两支部队共同开辟了陕南根据地，便可以让两位主官各自负责一部分，刘金轩担任司令，而陈先瑞则担任政委。这种安排本来显得十分合适。然而，如今陈先瑞却不愿意担任政委，他希望转向军事工作，这是否意味着他想改任为司令呢？

从作战情况和指挥能力来看，部队的强弱应该是优先考虑的因素。刘金轩的第十二旅战斗力优异，即便在后来转入地方工作后，依然跟随着中原野战军的主力参与大规模野战。外界若对这支部队缺乏了解，容易将其视为地方部队，但实际上它的实力不可小觑。如果陈先瑞改任司令，作战指挥是否会受到影响，这尤其是因为军区的任务主要由第十二旅承担，而刘金轩在资历和战功上都相当不俗。

谢富治直接回应：“既然你不愿担任政委，那我们就难以进行安排，你可以先考虑一下。”陈先瑞则表示，若组织上难以安排，他可以担任军事助手，并不执着于司令的职位。

看到他的态度后，陈赓决定让他担任军区副司令，这样一来，陈先瑞便可以负责军事工作。陈赓还对他进行了心理辅导，特意指出：“之所以只找你谈，而不与其他人讨论，是因为我考虑到军事转为政工可能会让你产生不快。为了照顾到你的感受，才让你来这里交流。”

虽然担任军区副司令，但当司令指挥大规模作战时，军区的军事工作由他负责。他的职责主要是配合地方政府建设根据地，组织小规模武装力量清剿土匪，协助各级政府建立地方武装，还负责组织民兵和游击队。

1949年，渡江战役期间，陈赓司令希望将第十二旅调回野战军参与南下作战。这支部队原本就是第四纵队的一部分，由于建设地方根据地而进行了地方化。如果第十二旅离开，军区的任务将受到严重影响，考虑到胡宗南部队依旧在场，若无法牵制和消灭敌人，后方局势也会变得动荡，最终决定让第十二旅继续留在原地。

新中国成立后，陕南军区被撤销，陕西军区成立，陈先瑞则被任命为副司令等职务，继续为国家的建设贡献自己的力量。