汉武帝生于汉景帝前元年,母王氏，汉景帝中子。其母王氏在怀孕时，汉景帝尚为太子。王氏梦见太阳进入她的怀中，告诉汉景帝后，汉景帝说：此贵征也。刘彻还未出生，他的祖父汉文帝就逝世了。汉景帝即位后，刘彻出生，他亦是王氏唯一的儿子。
刘彻初名彘，天生聪颖过人，慧悟洞彻，进退自如。三岁时，景帝抱于膝上，试问刘彻：乐为天子否？对曰：由天不由儿。愿每日居宫垣，在陛下前戏弄。刘彘信口而应的回答，使刘启不得不对这个儿子另眼看待。
刘彘有惊人的记忆力，求知欲特别强，尤爱读书中古代圣贤帝王伟人事迹，过目不忘。景帝深感诧异。刘彘讼伏羲以来群圣，所录阴阳诊候龙图龟册数万言，无一字遗落。至七岁，圣彻过人景帝遂改刘彘名彻,彻字表示充满智慧，达到圣德的要求。
刘彻以皇子的身份被封为胶东王。景帝的长子、他的异母长兄刘荣获封为太子。无子无宠的薄皇后被废。废栗太子刘荣为临江王；夏四月乙巳，其母王氏被立为皇后，刘彻被立为太子。他成为太子与其母孝景王皇后和其姑母馆陶公主刘嫖有很大关系。刘嫖许诺将她的女儿陈氏嫁给当时四岁的胶东王刘彻。刘彻后娶陈氏为妃。
景帝逝世太子刘彻即皇帝位，尊皇太后窦氏曰太皇太后，皇后王氏曰皇太后。
登基之初，汉朝建立已经有六十多年了，天下安定，朝廷大臣们都希望天子举行祭祀泰山和梁父山的封禅大典，改换确定各种制度。而皇上也崇尚儒家的学说，就通过贤良方正的科目招纳贤士。赵绾、王臧等人靠文章博学而做官，达到公卿的高位。他们想要建议天子按古制在城南建立宣明政教的明堂，作为朝会诸侯的地方。他们所草拟的天子出巡、封禅和改换历法服色制度的计划尚未完成，正赶上窦太后还在推崇信奉黄帝、老子的道家学说，不喜欢儒术，于是派人私下里察访赵绾等人所干的非法谋利之类的事情，传讯审查赵绾、王臧，赵绾、王臧自杀，他们所建议兴办的那些事情也就废止了。
直至窦太后去世，汉武帝才得以掌握大权。他进一步削弱诸侯王的势力，颁布大臣主父偃提出的推恩令，以法制来推动诸侯王分封诸子为侯，使诸侯王的封地不得不自我缩减。同时，他设立刺史，监察地方。加强中央集权，将冶铁、煮盐、酿酒等民间生意编成由中央管理，禁止诸侯国铸钱，使得财政权集于中央。思想上，采用董仲舒罢黜百家，独尊儒术的建议，为儒学教育在中国古代的特殊地位铺平了道路，在长安创立专门的儒学教育