刘备起兵，参与镇压黄巾起义，关羽、张飞担当他的护卫，是他得力的左右手。中平元年(185年)，刘、关、张带着刚刚组织起来的兵马，首先投奔涿郡的校尉邹靖。黄巾军打到涿郡，他们配合官兵出动抵抗，首战告捷，立了大功。接着，他们离开涿郡，前去投奔正在广宗(在河北省威县东)围攻黄巾首领张角的中郎将卢植。到广宗后，因卢植遭诬陷被押回京师，他们便决定返回涿郡。归途中，遇到黄巾军天公将军张角正在追击接替了卢植职务的董卓。关羽和张飞带领一支人马，突如其来地向黄巾军横杀过去，救了董卓。刘备后来投奔幽州军阀公孙瓒，因屡立战功长任平原相，关羽和张飞担任了别部司马，分统部曲。他们三人照样“寝则同床，恩若兄弟”(《三国志·蜀书·关羽传》)，关羽和张飞终日侍立刘备左右，保护刘备。

　　建安元年(195年)，曹操奉迎汉献帝迁都许昌(今河南许昌东)后，独掌军政大权，总揽朝政，皇帝成为傀儡。建安三年(公元198年)，刘备被吕布打败，投靠了曹操。曹操表举他为左将军，拜关羽为中郎将(次于将军的武官)。时车骑将军董承接受皇帝衣带诏，与刘备及长水校尉种辑、将军吴子兰、王子服等，密谋除掉曹操。