乒乓球起源于英国。19世纪末，欧洲盛行网球运动，但由于受到场地和天气的限制，英国有些大学生便把网球移到室内，以餐桌为球台，书作球网，用羊皮纸做球拍，在餐桌上打来打去。

1890年，几位驻守印度的英国海军军官偶然发觉在一张不大的台子上玩网球颇为刺激。后来他们改用实心橡胶代替弹性不大的实心球，随后改为空心的塑料球，并用木板代替了网拍，在桌子上进行这种新颖的"网球赛"，这就是Table tennis得名的由来。

20世纪初，美国开始成套地生产乒乓球比赛用具，它是美国头号持拍运动，有超过20万美国人在打乒乓球。一位美国制造商以乒乓球撞击时所发出的声音创造出Ping-pang这个新词，作为他制造的"乒乓球"专利注册商标，Ping-pang后来成了Table tennis的另一个正式名称，当它传到中国后，人们又创造出"乒乓球"这个新的词语。

20世纪初，乒乓球运动在欧洲和亚洲蓬勃开展起来。1926年，国际乒乓球联合会(ITTF)正式成立，并决定举行第一届世界乒乓球锦标赛。乒乓球运动的发展大约经历了三个阶段。 初期，运动员使用的球拍虽形状各异，但都是木制的，球弹出后速度慢、力量小，没有什么旋转技巧，打法也很简单，就是把球在两者之间推来推去。

新中国成立后，毛泽东主席号召"发展体育运动，增强人民体质"，乒乓球因为对场地要求不高，简便易行所以在全国开展得比较好。1959年乒乓球运动员容国团为中国夺得了第一个世界冠军，让世界瞩目。在第26届世界乒乓球锦标赛上庄则栋和丘钟慧分别获得男女单打冠军，中国队也拿下了男子团体冠军。从此以后，中国乒乓球开始在世界上崭露头角，乒乓运动长盛不衰。多年来中国选手一直在乒乓球项目中有着极为出色的表现，孔令辉、刘国梁、邓亚萍、乔红、王楠、张怡宁等冠军球员群星璀璨，他们在各项大赛中为祖国赢得荣誉，中国乒乓球队是一支名副其实的"梦之队"。

在历史上，这一枚小小的乒乓球曾影响着世界的发展。其中1971年中国邀请美国乒乓球队访华事件，推动了中美两国关系正常化的进程，对中美关系的突破产生了影响，被誉为"小球推动大球"。

1971年4月10日至17日，参加在日本名古屋举行的第三十一届世界乒乓球锦标赛的美国乒乓球代表团，应中国乒乓球代表团的邀请访问中国国，打开了隔绝22年的中美交往的大门。4月14日，周总理在人民大会堂会见了美国、加拿大、哥伦比亚等国乒乓球代表团，并同美国代表团进行了长时间谈话。中美两国乒乓球队举行了友谊比赛。美国朋友还游览了长城，参观了清华大学等地。总理向美国乒乓球代表团谈话时指出:“我请你们回去把中国人民的问候转告给美国人民。中美两国人民过去往来是很频繁的，以后中断了一个很长的时间。你们这次应邀来访，打开了两国人民友好往来的大门。我相信中美两国人民的友好往来将会得到两国人民大多数的赞成和支持。”与此同时，尼克松总统也发表了有助于改善中美关系的5项具体措施。

在当时的历史条件下，访华的美国乒乓球队充当了两国之间的民间外交特使。小小银球弹开了中美彼此紧闭20多年的国门，震动了地球。国际舆论将此称为“乒乓外交”。