Knowledge Base Wiki

Search for LIMS content across all our Wiki Knowledge Bases.

Type a search term to find related articles by LIMS subject matter experts gathered from the most trusted and dynamic collaboration tools in the laboratory informatics industry.

انحدار خطي
معلومات عامة
صنف فرعي من
جانب من جوانب
المكتشف أو المخترع
النقيض
nonlinear regression (en) ترجم[5] عدل القيمة على Wikidata
في نموذج الانحدار الخطي يفترض أن الملاحظات، النقط الحمراء، هي نتيجة لانحرافات عشوائية، موضحة بالفوارق الخضراء عن الخط الأزرق، الذي ينمذج وفق دالة خطية المتغير التابع (y) بدلالة المتغير المستقل (x).

الانحدار الخطي[6] أو نموذج الانحدار الخطي أو النموذج الخطي في الإحصاء، هو نموذج إحصائي يستخدم في تفسير متغير عبر متغير آخر (أو مجموعة من المتغيرات ) وفق دالة خطية.

يسمى المتغير بالتابع والمتغيرات بالمتغيرات المستقلة أو المفسرة، بمعنى أنها تفسر، إحصائيا، تغير المتغير التابع.[7]

مفاهيم الانحدار والارتباط والسببية

الانحدار الخطي وتحليل الارتباط، رغم اشتراكهما في نفس القاعدة الإحصائية، إلا أنهما يختلفان على مستوى أدوار المتغيرات. إذا كان تحليل الارتباط يتعامل مع المتغيرين و على قدم المساواة، أي بصورة تماثلية، فتحليل الانحدار يجب أن يعتمد على تقعيد نظري قبلي يؤسس لحد أدنى من التراتبية السببية بين المتغيرات.[7] على سبيل المثال في النظرية الاقتصادية: تفسير ظاهرة الاستهلاك بدلالة الدخل (مع ثبات العوامل الأخرى) انطلاقا من أن استهلاك الفرد مرتبط بالدخل.[8][9][10] وهو ما يعطي للباحث شرعية لوضع علاقة بين المتغيرات الاقتصادية على شكل دالة: ، مع المتغير التابع (الاستهلاك) و المتغير المستقل (الدخل).

غالبا ما تكون الخبرة المعرفية في مجال الدراسة هي منطلق وضع النموذج، بأهداف استكشافية أو تأكيدية أو تحكيمية:

  • استكشافية: لاستكشاف وجاهة متغير ما في تفسير ظاهرة معينة (مثلا العمر كمفسر لارتفاع الضغط الدموي).[7]
  • تأكيدية: كما في حالة صيغة دوبري المؤكدة لخاصية ارتباط ضغط غاز الزئبق () مع درجة الحرارة (): والتي يمكن تأكيدها إحصائيا عبر نموذج انحدار خطي يطبق على التحويل اللوغاريتمي للمعادلة.[11]
  • تحكيمية: في سياق التعلم المراقب حيث يمكن النموذج من الفصل والتحكيم بين مجموعة من المتغيرات المفسرة حسب قوتها التفسيرية.

تاريخ

انحدار خطي بسيط مطبق على بيانات فرانسيس غالتون.

التحليل الوصفي

أشكال الدالة

يمكن أن تأخذ الدالة أشكالا مختلفة قد تكون خطية، لوغارتمية، أو أسية... الخ، ويمكن تحويل أي نموذج إلى النموذج الخطي، سنركز على الانحدار الخطي البسيط في قياس العلاقة بين المتغيرات:

i=1,..,n حيث أن هي معلمات النموذج وعنصر الخطأ العشوائي، تم إضافته مراعاة للصفة الاحتمالية للنموذج ويمثل الفرق بين القيم الفعلية والقيم النظرية، وبالتالي قد تكون قيمته موجبة أو سالبة وتشترط أن تكون القيمة المتوقعة تساوي صفر.

تقعيد نظري

يشار للعينة الإحصائية ب تضم فردا إحصائيا ببياناتهم وفق صنفين من المتغيرات:

  • : المتغير التابع.
  • (أو مجموعة متغيرات ، مع ): المتغيرات المستقلة أو المفسرة.

في حالة وجود متغير مستقل وحيد، نكون في حالة الانحدار الخطي البسيط وفي حالة الانحدار الخطي المتعدد إذا كانت .

أشكال الكتابة

توجد ثلاثة أشكال لكتابة نماذج الانحدار الخطي: الكتابة العادية (أو القياسية) والكتابة المتجهية والكتابة المصفوفاتية.

الكتابة القياسية

لكل فرد إحصائي ، تكتب نمذجة القيمة المتحققة بدلالة قيم المتغيرات المفسرة والخطأ الإحصائي :

الكتابة المتجهية

يشار لمتجهة المعاملات ولمنقولة متجهة القيم المتحققة ب وتكتب النمذجة:

الكتابة المصفوفاتية

أحيانا، تستعمل الكتابة المصفوفاتية للتعبير عن النموذج بشكل شامل، وأيضا لتسهيل البرهنة على الخصائص الاستدلالية المرتبطة بالنموذج:

بحيث:

تقدير النموذج

تقدير النموذج يعني بالأساس تقدير القيم المقدرة للمعاملات (والتي تعتبر معالم النموذج)، إضافة إلى التصديق الإحصائي على نجاعة النموذج وقابلية تطبيقه واستغلاله عمليا، خصوصا في توقع قيم مستقبلية (أو جديدة) ل بمعرفة قيم . توجد أربع طرق لتقدير نموذج الانحدار الخطي:

أكثر الطرق استعمالا، وأكثرها نجاعة، هي طريقة المربعات الدنيا: حسب مبرهنة كاوس ماركوف، وفي حالة تحقق الفرضيات المنصوص عليها في المبرهنة، فمقدر المربعات الدنيا يكون أفضل مقدر خطي بدون تحيز (بالإنجليزية: Best Linear Unbiased Estimator) ويشار إليه اختصارا ب BLUE.

طريقة المربعات الدنيا

قبل تطبيق طريقة المربعات الدنيا لتقدير المعالم الإحصائية لنموذج الانحدار، يجب التأكد من تحقق مجموعة من الفرضيات، وخصوصا فرضيات مبرهنة غاوس ماركوف (المتعلقة بالخصائص الإحصائية لأخطاء النموذج الخطي الإحصائية). تنقسم الفرضيات إلى صنفين: فرضيات بنوية (Systemic) يجب التأكد منها قبل تطبيق النموذج وفرضيات تصادفية (Stochastic) يتم التأكد منها بعد كل تكرار لتطبيق النموذج إلى غاية بلوغ صيغة مستقرة وقابلة للتطبيق.

الفرضيات البنوية

الفرضيات التصادفية

طرق التأكد من الفرضيات

عمليا، يتم التأكد من الفرضيات، في الغالب، عبر اختبارات إحصائية، وغالبا ما تكون العملية تكرارية ويمكن أن تستلزم القيام بتطبيق دوال تحويلية على المتغيرات، أو استثناء عناصر إحصائية من العينة، حتى تقترب العينة المدروسة من البنية المثلى الموافقة للفرضيات. عمليا، من الصعب تحقق كل الفرضيات بصورة كاملة، ولذلك يجب مرافقة الدراسة بمقاربة تحكيمية تحقق التوافق بين الهدف من النمذجة وجودة البيانات المتوفرة وإمكانية الوصولية إلى بيانات أخرى.

أمثلة لطرق التأكد من الفرضيات البنيوية والتصادفية لنمذجة الانحدار الخطي
الفرضية طرق التأكد استراتيجيات بديلة
التصديق على منهجية الاستعيان
تطبيق الاختبارات الإحصائية للتوزيع الطبيعي، مثلا: في حالة فشل الاختبار، ينصح بتطبيق تحويلات على المتغيرات (التابعة والمستقلة) لإنتاج متغيرات جديدة تؤول تقاربيا إلى حالة التوزيع الطبيعي، مثلا:


في حالة الانحدار البسيط:
  • معاينة بصرية لمنحنى بدلالة .
  • حساب معامل الارتباط الخطي والتأكد من مغزاه الإحصائي (عبر اختبار برافي بيرسون مثلا)

في حالة الانحدار المتعدد، التأكد من عدم وجود التداخل الخطي يمر عبر تطبيق الاختبارات التالية:[12]

في حالة الانحدار البسيط:
  • تطبيق تحويلات رياضية (لوغاريتمية، تحويلة بوكس كوكس...) تقترب من الحالة الخطية.

في حالة الانحدار المتعدد:

  • تطبيق خوارزميات تكرارية عبر إدخال وإخراج المتغيرات المستقلة إلى غاية بلوغ نموذج مستقر وفق معيار إحصائي (مثلا معيار أكايكي للمعلومة).[12]

طرق تقدير معلمات النموذج

من أبرز الطرق المستعملة في تقدير معلمات النموذج طريقة المربعات الصغرى، وتنحصر خصائص المعلمات المقدرة في خمس افتراضات:

  • الخطية.
  • انعدام القيمة المتوقعة للعنصر العشوائي.
  • تجانس تباينات الأخطاء العشوائية
  • عدم ارتباط ذاتي بين الأخطاء العشوائية.
  • عدم ارتباط ذاتي بين المتغيرات المستقلة والأخطاء العشوائية.

تتمثل طريقة المربعات الصغرى في تقدير والتي تقلل الفرق بين القيم الفعلية والنظرية أو المقدرة والتي تحقق النهاية الصغرى للكمية.

انظر أيضًا

مراجع

  1. ^ ا ب ج مُعرِّف الغرض الرَّقميُّ (DOI): 10.3238/arztebl.2010.0776. الرَّقم التَّسلسليُّ المِعياريُّ الدَّوليُّ (ISSN): 1866-0452. تاريخ النشر: 5 نوفمبر 2010. العنوان: Linear Regression Analysis. الوصول: 12 أكتوبر 2024. اسم المُؤَلِّف بالحروف: Astrid Schneider, , .
  2. ^ مذكور في: Hands-on machine learning with Scikit-Learn, Keras, and TensorFlow : concepts, tools, and techniques to build intelligent systems. المُؤَلِّف: Aurélien Geron. لغة العمل أو لغة الاسم: الإنجليزية. تاريخ النشر: 2019.
  3. ^ مُعرِّف الغرض الرَّقميُّ (DOI): 10.38094/jastt1457. الرَّقم التَّسلسليُّ المِعياريُّ الدَّوليُّ (ISSN): 2708-0757. تاريخ النشر: 31 ديسمبر 2020. العنوان: A Review on Linear Regression Comprehensive in Machine Learning. الوصول: 12 أكتوبر 2024. اسم المُؤَلِّف بالحروف: Dastan Maulud, .
  4. ^ وصلة مرجع: https://www.datasciencecentral.com/profiles/blogs/40-techniques-used-by-data-scientists.
  5. ^ مُعرِّف الغرض الرَّقميُّ (DOI): 10.48550/arXiv.2402.05342. العنوان: Nonlinear Regression Analysis. الوصول: 12 أكتوبر 2024. اسم المُؤَلِّف بالحروف: Hsin-Hsiung Huang, .
  6. ^ معجم البيانات والذكاء الاصطناعي (PDF) (بالعربية والإنجليزية)، الهيئة السعودية للبيانات والذكاء الاصطناعي، 2022، ص. 81، QID:Q111421033
  7. ^ ا ب ج "Régression linéaire Université Paris Ouest Nanterre" (PDF). مؤرشف من الأصل (PDF) في 2018-12-22.
  8. ^ Hawkins، Douglas M. (1973). "On the Investigation of Alternative Regressions by Principal Component Analysis". Journal of the Royal Statistical Society, Series C. ج. 22 ع. 3: 275–286. JSTOR:2346776.
  9. ^ EEMP webpageنسخة محفوظة 2011-06-11 على موقع واي باك مشين.
  10. ^ Tofallis, C (2009). "Least Squares Percentage Regression". Journal of Modern Applied Statistical Methods. ج. 7: 526–534. DOI:10.2139/ssrn.1406472. SSRN:1406472.
  11. ^ ا ب "RÉGRESSION LINÉAIRE Ecole des Ponts ParisTech" (PDF). مؤرشف من الأصل (PDF) في 2018-10-08.
  12. ^ ا ب Ricco Rakotomalala. "Colinéarité et Sélection de Variables - Régression Linéaire Multiple" (PDF). مؤرشف من الأصل (PDF) في 2018-11-23.