Phép thử là thí nghiệm mà ở đó kết quả ở đầu ra không được xác định duy nhất từ những hiểu biết về đầu vào. Để mô tả một phép thử, người ta xác định một tập hợp các kết quả của nó gọi là không gian các sự kiện sơ cấp (hay không gian mẫu), kí hiệu là $\mathbf{\Omega}$.
Sự kiện A được đồng nhất với một tập con của không gian mẫu $\mathbf{\Omega}$ bao gồm các kết quả thuận lợi đối với A.
Xác suất của một sự kiện là một số thực đặc trưng cho khả năng xảy ra sự kiện đó khi thực hiện phép thử.
Định nghĩa cổ điển về xác suất: Xác suất của sự kiện A là $$P(A)=\dfrac{\text{số kết quả thuận lợi đối với }A}{\text{số kết quả có thể}}.$$
Định nghĩa thống kê về xác suất: Xác suất của sự kiện A là $$ P(A)\approx f_n(A)=\dfrac{n_A}{n}$$ trong đó $n_A$ số lần xuất hiện sự kiện A trong $n$ phép thử.
Định nghĩa hình học về xác suất: Xác suất của sự kiện $A\subset \Omega$ là $$ P(A)=\dfrac{m(A)}{m(\Omega)}$$ với $m(X)$ là độ đo của miền $X$.
Nguyên lí xác suất nhỏ: Nếu một sự kiện có xác suất rất nhỏ thì thực tế có thể cho rằng sự kiện đó sẽ không xảy ra trong một (hoặc một vài) phép thử ở tương lai.
Nguyên lí xác suất lớn: Nếu một sự kiện có xác suất lớn thì trên thực tế có thể cho rằng sự kiện đó sẽ xảy ra trong một (hoặc một vài) phép thử.
Xác suất có điều kiện: Xác suất của sự kiện A được tính trong điều kiện biết rằng sự kiện B đã xảy ra được gọi là xác suất của A với điều kiện B, kí hiệu là $P(A|B)$.
Tính độc lập của các sự kiện: Hai sự kiện A và B được gọi là độc lập với nhau khi việc có hay không xảy ra sự kiện B không ảnh hưởng đến việc có hay không xảy ra sự kiện A.
Công thức xác suất đầy đủ: Giả sử $\{A_1,A_2,\cdots,A_n\}$ là một hệ đầy đủ. Với mọi sự kiện A ta có: $P(A)=\sum\limits_{i=1}^nP(A_i).P(A|A_i)$.
Công thức Bayes: Nếu $\{A_1,A_2,\cdots,A_n\}$ là một hệ đầy đủ và với mọi sự kiện A bất kì có thể xảy ra trong phép thử, ta có: $$P(A_k|A)=\dfrac{P(A_k).P(A|A_k)}{P(A)}=\dfrac{P(A_k).P(A|A_k)}{\sum_{i=1}^n P(A_i).P(A|A_i)}, \forall k=1,2,\cdots,n.$$
Công thức Bernoulli: Dãy các phép thử lặp lại, độc lập, trong mỗi phép thử chỉ có 2 kết quả: $A,\overline{A}$ và $P(A)=p, (0<p<1)$ được gọi là dãy phép thử Bernoulli. Khi đó xác suất để sự kiện $A$ xảy ra đúng $k$ lần là $$P(B)=P_n(k;p)=C^k_n.p^k.(1-p)^{n-k},\quad k=0,1,\cdots, n.$$Nếu $m=[(n +1) p]$ thì $P_n(m;p)=C^m_np^m(1-p)^{n-m}$ đạt giá trị lớn nhất. Khi đó $m$ là giá trị có khả năng xảy ra lớn nhất của dãy phép thử Bernoulli.
