พารามิเตอร์ b ในการถดถอยเชิงเส้น (ค่าตัดแกน y ของเส้นพอดีที่ดีที่สุด) คำนวณอย่างไร

/ / ตีพิมพ์ใน ปัญญาประดิษฐ์, EITC/AI/MLP Machine Learning ด้วย Python, การถอยหลัง, ทำความเข้าใจกับการถดถอย

ในบริบทของการถดถอยเชิงเส้น พารามิเตอร์ b (โดยทั่วไปเรียกว่าค่าตัดแกน y ของเส้นตรงที่ดีที่สุด) เป็นองค์ประกอบสำคัญของสมการเชิงเส้น y = ม. x + bที่นี่มี m แสดงถึงความชันของเส้น คำถามของคุณเกี่ยวข้องกับความสัมพันธ์ระหว่างค่าตัดแกน y bค่าเฉลี่ยของตัวแปรตาม y และตัวแปรอิสระ xและความชัน m.

เพื่อตอบคำถามนี้ เราต้องพิจารณาที่มาของสมการการถดถอยเชิงเส้น การถดถอยเชิงเส้นมีจุดมุ่งหมายเพื่อสร้างแบบจำลองความสัมพันธ์ระหว่างตัวแปรตาม y และตัวแปรอิสระตั้งแต่หนึ่งตัวขึ้นไป x โดยการปรับสมการเชิงเส้นให้เหมาะสมกับข้อมูลที่สังเกตได้ ในการถดถอยเชิงเส้นอย่างง่าย ซึ่งเกี่ยวข้องกับตัวแปรทำนายเดี่ยว ความสัมพันธ์จะถูกจำลองโดยสมการ:

    \[ y = mx + b \]

ที่นี่ m (ความลาดชัน) และ b (ค่าตัดแกน y) คือพารามิเตอร์ที่ต้องพิจารณา ความลาดชัน m บ่งบอกถึงการเปลี่ยนแปลงใน y สำหรับการเปลี่ยนแปลงหนึ่งหน่วย xในขณะที่ค่าตัดแกน y b แสดงถึงคุณค่าของ y เมื่อ x เป็นศูนย์

ในการค้นหาพารามิเตอร์เหล่านี้ โดยทั่วไปเราจะใช้วิธีการกำลังสองน้อยที่สุด ซึ่งจะลดผลรวมของความแตกต่างกำลังสองระหว่างค่าที่สังเกตได้และค่าที่ทำนายโดยแบบจำลองให้เหลือน้อยที่สุด วิธีนี้จะได้ผลลัพธ์เป็นสูตรต่อไปนี้สำหรับความชัน m และค่าตัดแกน y b:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ ข = \บาร์{y} - ม\บาร์{x} \]

ที่นี่ \บาร์{x} ที่ \บาร์{y} เป็นวิธีการของ x ที่ y ค่าตามลำดับ ระยะ \sum{(x_i - \bar{x})(y_i - \bar{y})} แสดงถึงความแปรปรวนร่วมของ x ที่ yในขณะที่ \sum{(x_i - \bar{x})^2} แสดงถึงความแปรปรวนของ x.

สูตรสำหรับค่าตัดแกน y b สามารถเข้าใจได้ดังนี้: เมื่อมีความลาดชัน m ถูกกำหนดไว้แล้ว ค่าตัดแกน y b คำนวณโดยหาค่าเฉลี่ยของ y ค่าและลบผลคูณของความชัน m และค่าเฉลี่ยของ x ค่านิยม เพื่อให้แน่ใจว่าเส้นถดถอยจะผ่านจุดนั้น (\บาร์{x}, \บาร์{y})ซึ่งเป็นศูนย์กลางของจุดข้อมูล

เพื่ออธิบายสิ่งนี้ด้วยตัวอย่าง ให้พิจารณาชุดข้อมูลที่มีค่าต่อไปนี้:

    \[ \begin{array}{|c|c|} \hline x & y \\ \hline 1 & 2 \\ 2 & 3 \\ 3 & 5 \\ 4 & 4 \\ 5 & 6 \\ \hline \สิ้นสุด{อาร์เรย์} \]

ขั้นแรกเราคำนวณค่าเฉลี่ยของ x ที่ y:

    \[ \bar{x} = \frac{1 + 2 + 3 + 4 + 5}{5} = 3 \]

    \[ \bar{y} = \frac{2 + 3 + 5 + 4 + 6}{5} = 4 \]

ต่อไปเราจะคำนวณความชัน m:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ = \frac{(1-3)(2-4) + (2-3)(3-4) + (3-3)(5-4) + (4-3)(4-4) + (5-3)(6-4)}{(1-3)^2 + (2-3)^2 + (3-3)^2 + (4-3)^2 + (5-3)^ 2} \]

    \[ = \frac{(-2)(-2) + (-1)(-1) + (0)(1) + (1)(0) + (2)(2)}{(-2) ^2 + (-1)^2 + (0)^2 + (1)^2 + (2)^2} \]

    \[ = \frac{4 + 1 + 0 + 0 + 4}{4 + 1 + 0 + 1 + 4} \]

    \[ = \frac{9}{10} = 0.9 \]

สุดท้าย เราคำนวณค่าตัดแกน y b:

    \[ ข = \บาร์{y} - ม\บาร์{x} \]

    \[ = 4 - 0.9 \คูณ 3 \]

    \[ = 4 - 2.7 \]

    \[ = 1.3 \]

ดังนั้น สมการการถดถอยเชิงเส้นสำหรับชุดข้อมูลนี้คือ:

    \[ y = 0.9x + 1.3 \]

ตัวอย่างนี้แสดงให้เห็นว่าค่าตัดแกน y b ก็เท่ากับค่าเฉลี่ยของทั้งหมดจริงๆ y ค่าลบผลคูณของความชัน m และค่าเฉลี่ยของทั้งหมด x ค่าซึ่งสอดคล้องกับสูตร ข = \บาร์{y} - ม\บาร์{x}.

สิ่งสำคัญคือต้องสังเกตว่าค่าตัดแกน y b ไม่ใช่แค่ค่าเฉลี่ยของทั้งหมด y ค่าบวกผลคูณของความชัน m และค่าเฉลี่ยของทั้งหมด x ค่านิยม แต่เกี่ยวข้องกับการลบผลคูณของความชันแทน m และค่าเฉลี่ยของทั้งหมด x คุณค่าจากค่าเฉลี่ยของทั้งหมด y ค่า

การทำความเข้าใจที่มาและความหมายของพารามิเตอร์เหล่านี้ถือเป็นสิ่งสำคัญสำหรับการตีความผลลัพธ์ของการวิเคราะห์การถดถอยเชิงเส้น ค่าตัดแกน y b ให้ข้อมูลอันมีค่าเกี่ยวกับระดับพื้นฐานของตัวแปรตาม y เมื่อเป็นตัวแปรอิสระ x เป็นศูนย์ ความลาดชัน mในทางกลับกัน แสดงถึงทิศทางและความเข้มแข็งของความสัมพันธ์ระหว่างกัน x ที่ y.

ในการใช้งานจริง การถดถอยเชิงเส้นถูกนำมาใช้กันอย่างแพร่หลายสำหรับการสร้างแบบจำลองเชิงคาดการณ์และการวิเคราะห์ข้อมูล โดยทำหน้าที่เป็นเทคนิคพื้นฐานในสาขาต่างๆ รวมถึงเศรษฐศาสตร์ การเงิน ชีววิทยา และสังคมศาสตร์ ด้วยการปรับโมเดลเชิงเส้นให้เหมาะกับข้อมูลที่สังเกตได้ นักวิจัยและนักวิเคราะห์สามารถคาดการณ์ ระบุแนวโน้ม และเปิดเผยความสัมพันธ์ระหว่างตัวแปรได้

Python ซึ่งเป็นภาษาการเขียนโปรแกรมยอดนิยมสำหรับวิทยาศาสตร์ข้อมูลและการเรียนรู้ของเครื่อง มีไลบรารีและเครื่องมือมากมายสำหรับดำเนินการการถดถอยเชิงเส้น ตัวอย่างเช่น ไลบรารี `scikit-learn` นำเสนอการนำการถดถอยเชิงเส้นไปใช้อย่างตรงไปตรงมาผ่านคลาส `LinearRegression` นี่คือตัวอย่างวิธีการถดถอยเชิงเส้นโดยใช้ `scikit-learn` ใน Python:

python
import numpy as np
from sklearn.linear_model import LinearRegression

# Sample data
x = np.array([1, 2, 3, 4, 5]).reshape((-1, 1))
y = np.array([2, 3, 5, 4, 6])

# Create and fit the model
model = LinearRegression()
model.fit(x, y)

# Get the slope (m) and y-intercept (b)
m = model.coef_[0]
b = model.intercept_

print(f"Slope (m): {m}")
print(f"Y-intercept (b): {b}")

ในตัวอย่างนี้ คลาส `LinearRegression` ถูกใช้เพื่อสร้างโมเดลการถดถอยเชิงเส้น เมธอด `fit` ถูกเรียกเพื่อฝึกโมเดลกับข้อมูลตัวอย่าง และใช้แอตทริบิวต์ `coef_` และ `intercept_` เพื่อดึงข้อมูลความชันและค่าตัดแกน y ตามลำดับ

ค่าตัดแกน y b ในการถดถอยเชิงเส้นไม่เท่ากับค่าเฉลี่ยของทั้งหมด y ค่าบวกผลคูณของความชัน m และค่าเฉลี่ยของทั้งหมด x ค่านิยม แต่มันเท่ากับค่าเฉลี่ยของทั้งหมด y ค่าลบผลคูณของความชัน m และค่าเฉลี่ยของทั้งหมด x ค่าตามที่กำหนดโดยสูตร ข = \บาร์{y} - ม\บาร์{x}.

คำถามและคำตอบล่าสุดอื่น ๆ เกี่ยวกับ EITC/AI/MLP Machine Learning ด้วย Python:

ดูคำถามและคำตอบเพิ่มเติมใน EITC/AI/MLP Machine Learning with Python

คำถามและคำตอบเพิ่มเติม:

Tagged under: , , , , ,