Gradient Descent Algorithm in super slow motion

Thuật toán Gradient Descent là thuật toán xương sống của hầu hết các phương pháp học máy hiện đại. Tuy nhiên, việc biểu diễn thuật toán này dưới công thức toán học ( đã ở mức abstract rất cao) khiến phần lớn chúng ta không thể nắm vững được thuật toán này ở instinct level. Trong bài viết này, chúng ta sẽ biểu diễn cách hoạt động của Gradient Descent chỉ bằng Excel sheet.

Dữ liệu của bài viết là giá căn nhà và diện tích căn nhà. Yêu cầu bài toán là xây dựng một mô hình hồi quy tuyến tính để dự đoán giá căn nhà dựa trên diện tích của nó  (tức Y là giá căn nhà, X là diện tích căn nhà). Mỗi epoch là một lần lặp lại của thuật toán Gradient Descent để update a và b.

Excel sheet như link bên dưới.

GradientDescentAlgorithm

Happy learning!