概率论是研究随机现象数量规律的数学分支，是一门研究事情发生的可能性的学问。但是最初概率论的起源与赌博问题有关。16世纪，意大利的学者吉罗拉莫·卡尔达诺（Girolamo Cardano）开始研究掷骰子等赌博中的一些简单问题。
概率与统计的一些概念和简单的方法，早期主要用于赌博和人口统计模型。随着人类的社会实践，人们需要了解各种不确定现象中隐含的必然规律性，并用数学方法研究各种结果出现的可能性大小，从而产生了概率论，并使之逐步发展成一门严谨的学科。概率与统计的方法日益渗透到各个领域，并广泛应用于自然科学、经济学、医学、金融保险甚至人文科学中。[1]
随着18、19世纪科学的发展，人们注意到在某些生物、物理和社会现象与机会游戏之间有某种相似性，从而由机会游戏起源的概率论被应用到这些领域中；同时这也大大推动了概率论本身的发展。使概率论成为数学的一个分支的奠基人是瑞士数学家伯努利，他建立了概率论中第一个极限定理，即伯努利大数定律，阐明了事件的频率稳定于它的概率。随后棣莫弗和拉普拉斯又导出了第二个基本极限定理（中心极限定理）的原始形式。
拉普拉斯在系统总结前人工作的基础上写出了《分析的概率理论》，明确给出了概率的古典定义，并在概率论中引入了更有力的分析工具，将概率论推向一个新的发展阶段。
19世纪末，俄国数学家切比雪夫、马尔可夫、李亚普诺夫等人用分析方法建立了大数定律及中心极限定理的一般形式，科学地解释了为什么实际中遇到的许多随机变量近似服从正态分布。20世纪初受物理学的刺激，人们开始研究随机过程。这方面柯尔莫哥洛夫、维纳、马尔可夫、辛钦、莱维及费勒等人作了杰出的贡献。[1]
传统概率又称为拉普拉斯概率，因为其定义是由法国数学家拉普拉斯提出的。如果一个随机试验所包含的单位事件是有限的，且每个单位事件发生的可能性均相等，则这个随机试验叫做拉普拉斯试验。在拉普拉斯试验中，事件A在事件空间S中的概率P(A)为：
例如，在一次同时掷一个硬币和一个骰子的随机试验中，假设事件A为获得国徽面且点数大于4，那么事件A的概率应该有如下计算方法：S={(国徽，1点)，(数字，1点)，(国徽，2点)，(数字，2点)，(国徽，3点)，(数字，3点)，(国徽，4点)，(数字，4点)，(国徽，5点)，(数字，5点)，(国徽，6点)，(数字，6点)}，A={(国徽，5点)，(国徽，6点)}，按照拉普拉斯定义，A的概率为2/12=1/6，注意到在拉普拉斯试验中存在着若干的疑问，在现实中是否存在着这样一个试验，其单位事件的概率具有精确的相同的概率值，因为人们不知道，硬币以及骰子是否"完美"，即骰子制造的是否均匀，其重心是否位于正中心，以及轮盘是否倾向于某一个数字等等。