1922年初，黄维毕业后回到家乡贵溪，当了一名国文教员。学生时代的思想启蒙加上方志敏的影响与引导，使他总想着能为国家为民族做些有益的事情。一年后，两个同学从广州来信，告诉黄维说孙中山要在广州开办黄埔军校，上海设有招生点，并相约黄维先去南昌找方志敏再一同报考。这对黄维来说是正中下怀。1924年初，黄维告别家乡，独自一人来到南昌，找方志敏去上海报考军校。刚刚到南昌的黄维在汽车站候车室看见一群人围在一个瘦削但很高大的年轻人身边听他演讲着什么。只见此人昂首挺立，一边奋力挥动着手臂，一边大声地讲道:“中国要昌盛，人民要富强，中国的出路在哪里？现在，军阀常年混战，根本不管老百姓死活，加之列强入侵，国衰民弱。我们绝不做亡国奴，我们的民族已经到了生死存亡的最危险的时刻。只有我们团结起来，打倒军阀，驱逐列强，才能建立自由民主的新中国。”

　　“方志敏！”站在人群边上的黄维很快就认出了演讲者，情不自禁地叫出了声。分别几年之后，竟在这里碰上了！黄维抑制不住内心的激动，穿过厚厚的人墙，疾步抢到方志敏的面前，深情地叫了一声:“方大哥！”“黄老弟！”方志敏也是一惊，他凝望了黄维好一会儿后，一下子把黄维拥到怀里，热切地问道:“你怎么来了？”“大哥，我是专程来找你的，不想会在这里相遇。”正在此时，忽见外边形势有些异样，黄维眼尖，认出来者不善。他警觉地提醒道:“大哥，远处好像来了一队军警，已经向这边来了，一定又是要抓什么人了，我们还是走吧！”黄维一边讲，一边拉着方志敏的手赶紧向外走。果不其然，一群全副武装的军警杀气腾腾地冲进大厅，他们驱赶着人群，并恶狠狠地盘问、搜寻着什么。折腾了好一阵子，最终一无所获，悻悻而去。

　　望着军警们远去的背影，黄维笑了，他竖起大拇指对方志敏说:“几年不见，大哥又长了许多本事。刚才你讲得太感人了，了不起！敢在大庭广众之下讲这些，令人佩服！”“快别说这个了。”方志敏打断了黄维的话，问道:“对了，你来南昌找我有事吗？”“那是自然。”二人在一个石椅上坐下之后，黄维握着方志敏的手，真诚地说:“我的同学让我来找你，想约你一起去上海报考黄埔军校，不知大哥意下如何？有什么良策？”方志敏说:“报考黄埔军校当然是件好事，我不仅同意，而且我也要去报考呢！”他边说边起身拉起了黄维:“这样吧，我们现在就动身去上海，路上再细谈，你看怎样？”黄维忙不迭地点头，于是，二人马上启程赶赴上海。

　　第二天，他们到了上海。初来大都市，如果没有方志敏陪同，黄维简直寸步难行。面对眼前的繁华，黄维喜不自禁，感到这里确是一个大世界。当他将自己的感受讲给方志敏时，方志敏颇有感触地说:“是啊。不过，可惜的是这么好的地方却被军阀霸占着，它要是属于人民，那该多好啊！”二人边走边发着感慨。在方志敏的带领下，报考地点很快就找到了。但不巧的是，他们来得太早了，正式报名还没开始呢，而且还有传言说黄埔军校能不能开办起来尚难最终确定。这使得黄维平添忧愁，进退维谷。加之旅费快要用光，怎么办？回家？黄维心不甘；死守？看不到希望；找工作？人生地不熟，可说是要多难有多难。尽管如此，黄维还是决定留下来等一等，碰一碰运气。那么，做点什么呢？因为语言不通，字又写得不好，看来最适合的文书工作是做不来了。万般无奈，黄维只有卖力气做小工一条路可走了。

　　得知黄维的打算后，方志敏也感到这是目前最可行的办法了。于是，他马上找到了一个熟人，先帮黄维解决了最基本的吃住问题。然后，这位熟人又托关系，将黄维介绍给上海三星制铁厂的张师傅，安排黄维在机器铁工部干活。在张师傅的耐心指导下，黄维很快就学会了一些简单活，并且干得认真卖力而深得师傅的喜爱。就这样，不知不觉间已经干了三个月，黄维的进步很快，已开始习惯并喜欢上了这里的工作。这时，黄维从方志敏那儿得到了黄埔军校招生与报考的确切信息。

　　黄维与方志敏一同报考黄埔军校，一起都通过了初试。想到今后能和方大哥在一起，黄维心里特别高兴。但就在接到复试通知书的第二天早晨，方志敏突然告知黄维，自己不能与他一同到广州参加复试了。惊愕不已的黄维见方志敏突然改变主意，不便追问为什么。只听方志敏讲:“黄老弟，你先去广州复试吧，我在上海还有些事情没办完，而且南昌也有些事等我去做。待我将这些事都忙完了之后，再去广州找你。”没有想到，此别竟成二人之间的永诀。