刘云山出生在内蒙古自治区一个普通农民家庭。参加工作之初，他在农村学校做过教师。1975年至1982年，刘云山在新华社内蒙古分社当了7年“农牧口”记者，走遍内蒙古农牧区，采写了大量关于农牧民的报道。他31年前采写的《夜宿车马店》，至今仍被中国新闻界视为范文。

    从记者到官员，几十年间，刘云山不变的是他对百姓、对基层的深厚情感。1986年，任内蒙古自治区党委宣传部部长时，为调研农村思想政治工作，刘云山独自坐火车、乘汽车、搭拖拉机，进农家、住帐篷，与农牧民群众促膝谈心。

    “传播力决定影响力，话语权决定主动权，透明度决定公信度”——这句中国媒体人耳熟能详的话语就出自刘云山。刘云山认为，只有切实解决好“为了谁、依靠谁、我是谁”的问题，“我们的工作才能获得最广泛最可靠最牢固的群众基础和力量源泉”。他对“我是谁”有独到见解，他说一个人有了权、有了钱、有了名，往往会头脑发昏，不知道我是谁，摆不正与老百姓的关系，其实不管有多大权力和名望，在老百姓面前都应是学生，是公仆。搞清“我是谁”，才能解决“为了谁”“依靠谁”。

    刘云山的夫人李素芳已经退休，育有二子。