1950年1月，罗贵波刚刚担任军委办公厅主任三个月，就接受了一项艰巨的任务，被派往越南担任联络代表。在那个特殊的时期，越南的领导者胡志明来到北京请求支持，尤其是希望获得在抗击法国的斗争中所需的帮助。基于此，上级决定派遣由韦国清担任团长的军事顾问团前往越南，负责军事建设和作战指挥，同时陈赓也被任命为特使。对于顾问团的职责，上级对他们提出了明确的要求，强调要尊重对方，避免以高高在上的姿态发号施令，切忌盛气凌人。

陈赓此时已经担任云南军区司令员，因此他率先前往越南，接下来，罗贵波、韦国清等人也陆续到达越南，开始着手工作。罗贵波的使命与其他人的有所不同，因为在当时国际社会尚未承认胡志明领导的政府，出于两党和两国之间通讯与交通极为不畅的考虑，上级认为有必要先派一位联络代表前去，建立联系，并携带工作组以促进两方之间的沟通。

至于为何选择罗贵波作为联络代表，可能是因为在北京可供调配的人才并不多，尤其是那些具有一定外交能力的人更是寥寥无几。新中国刚刚成立，各大战区的工作井然有序，而在北京的将领数量本就有限，军队中的办事机构人员虽然不多，但却展现出极高的工作效率。罗贵波能够从军政委迅速升任军委办公厅主任，主要是因为他在北京休养的期间表现出色，同时在当时能力和资历都出众的军队干部并不多，大部分人都忙于各自的大战略工作未能抽调出来，加之军委持续健全机构，因此他得到了这一任命。

尽管罗贵波在解放战争期间一直担任纵队及军级职务，但由于西北部队的规模较小，并未设置兵团副职，因此无法与兵团级的将领相提并论。上级看中他的另一点是他曾参与过军调部的工作，积累了一定的外交经验。尽管罗贵波的角色并不是大使，但对与外方的接触与交流也需具备相关的经验。上级决定他在越南的工作期限为三个月，目的是了解如何进行援助，完成任务后便可返回。因此，他携带一部电台，带着秘书、参谋和机要人员便启程前往。

就这样，罗贵波从担任军委办公厅主任到调离的过程可以说是匆匆而过。由于工作的需要，他被赋予了重任前往越南，负责如何给予越南援助，这包括粮食、武器装备、医疗、通信设备，以及部队整训等问题，同时还有师级、团级和营级的军事顾问，向他们传授如何作战，仅充当顾问而非指挥员等。

韦国清率领的军事顾问团主要负责军事事务，而罗贵波则担任联络员，全面负责其他事务。虽然最初的计划仅是停留三个月，但因形势变化，他在越南的驻留时间延长至整整八年。最终，上级决定他担任越南首任大使，并成立顾问团，让他担任总顾问和顾问团团长，从经济和军事两方面为越南提供援助。