1964年10月15日出生于浙江省杭州市，马云的爷爷抗战时做过保长，解放后被划为“黑五类”，取名为“马云”，就是希望马云以后乖巧懂事，少惹是非。12岁时，马云买了台袖珍收音机，从此每天听英文广播，对英语开始感兴趣，13岁起，马云因为打架记过太多，曾被迫转学到杭州八中。之后马云参加中考，考了两年才考上一所极其普通的高中，其中一次数学只得了31分。
1982年，马云第一次参加高考，首次落榜，数学只得了1分。马云充满了挫败感，之后他跟表弟到一家酒店应聘服务生，结果表弟被录用，自己惨遭拒绝，老板给出的理由是马云又瘦又矮，长相不好。后来马云做过秘书、搬运工人。马云高考落榜，父亲马来法见他意志消沉，让他蹬三轮给杂志社送书。[4]
1983年，马云第二次参加高考，再次落榜，数学提高到了19分。马云的父母劝他死了上大学的心，好好学门手艺，之后马云又开始骑着那辆破旧的自行车，穿梭于杭州的大街小巷。
1984年，马云不顾家人的极力反对第三次参加高考，这次数学考了89分，但总分离本科线还差5分。由于英语专业招生指标未满，部分英语优异者获得升本机会，马云被杭州师范学院破格升入外语本科专业。进入大学后，马云变成了品学兼优的好学生，凭借出色的英语稳坐外语系前五名。之后马云当选学生会主席，后来还担任了两届杭州市学联主席。
大学毕业后进入一家学校当英语老师，马云也一直尝试去改变自己的生活，他每天骑车40分钟去西湖边上的香格里拉酒店，做国外游客的导游，练习英语。后来，马云碰到了一个澳大利亚的游客，还邀请他去澳大利亚度假。这次出国彻底改变了马云的思维，“我意识到世界和我之前被教导的差异巨大，我不再跟随别人的意见，发展出了自己的思考方式。”
后来，马云辞职后换了几份工作，包括做过一个新开张的肯德基店的店长助理。1995年他创办了海博翻译社。因为帮助杭州市政府和美国一家公司谈合作，马云在去美国时第一次接触到了互联网。1995年4月，马云垫付7，000元，联合家人亲朋凑了2万元，创建了中国最早的互联网公司之一“海博网络”，并启动了中国黄页项目。
那时的马云与其说是总经理，不如说是个推销员。一位曾在大排档里见过马云的老乡这样描述他：喝得微醺、手舞足蹈，跟一大帮人神侃瞎聊。那时大家还不知道互联网为何物，很多人将马云视为到处推销中国黄页的“骗子”，而他还是一遍遍地“对牛弹琴”。到了1997年年底，网站的营业额不可思议地做到了700万元！
随着互联网在中国升温，中国黄页在一夜之间冒出许多竞争者，当时最强大的当属本地的杭州电信。实力悬殊的竞争使得马云最终向对方出让了70%的股份，但双方合作并不愉快——失去决策权的马云完全施展不开手脚。
1997年，当时的外经贸部向马云伸出了橄榄枝，他将自己所持的中国黄页剩余股份贱卖，带着几个创业伙伴远走北京，继续开发网上贸易站点。在租来的不到20平方米的小房间埋头苦干15个月后，不仅让外经贸部成为了中国第一个上网的部级单位，而且将净利润做到了287万元。
