Tests d'hypothèse pour la pente d'un modèle de régression

Signification du test d'hypothèse pour la pente de régression

Suppose que pour trouver la relation entre deux variables, tu aies utilisé la régression linéaire pour obtenir une équation \[\hat{y}=\alpha+\beta x.\N].

En théorie, cette équation devrait te permettre de prédire les valeurs de \N(y), en évaluant à \N(x), c'est-à-dire \N(y\Napprox\Nhat{y}(x)\N).

Mais comment peux-tu être sûr que l'équation de régression linéaire obtenue permet de prédire les valeurs de \(y\N) ? Comme nous l'avons mentionné au début, un test d'hypothèse peut t'aider.

Le test d'hypothèse est basé sur le calcul de la probabilité d'obtenir un échantillon comme le tien, si certaines conditions sont supposées, dans ce cas, en supposant la pente de régression obtenue, quelle est la probabilité d'obtenir l'échantillon en question.

Importance du test d'hypothèse pour la pente de régression

Chaque fois que tu utilises la régression linéaire pour modéliser le comportement de deux ensembles de données qui sont liés, la pente de régression que tu obtiens est une estimation de la façon dont une donnée change par rapport à l'autre.

Normalement, cette équation de régression linéaire change chaque fois que tu prends un échantillon différent, il est donc logique de se demander si la valeur réelle de la pente de la population est similaire à celle que tu obtiens à partir de l'échantillon en utilisant la régression linéaire.

Les images suivantes montrent les diagrammes de dispersion de \(2\) ensembles de données avec leur ligne de régression respective.

Une bonne droite de régression devrait te permettre de prédire les valeurs de \(y-\) en connaissant les valeurs de \(x-\) de façon assez précise. En regardant la première image, tu peux remarquer que puisque les points sont proches de la droite, la droite de régression est bonne.

Fig. 1 - Un nuage de points avec une bonne droite de régression

En revanche, dans la deuxième image, plusieurs valeurs sont éloignées des valeurs prédites par la droite de régression. Pour cette raison, tu peux dire que la droite de régression n'est pas si bonne.

Fig. 2 - Un nuage de points avec une mauvaise droite de régression

Dans des situations comme celle du graphique ci-dessus, il est logique de douter de la qualité de la droite de régression obtenue.

Test d'hypothèse pour les coefficients de régression

Il existe de nombreux tests d'hypothèse qui peuvent être effectués sur la pente de la droite de régression. Ils consistent à formuler une hypothèse nulle, qui peut être la suivante

\N- [H_0:\N ; \Nbeta=\Nbeta_0,\N]

c'est-à-dire que la pente de régression est égale à une certaine valeur.

Alors que l'hypothèse alternative sera une forme de négation de l'hypothèse nulle, telle que

• \N( H_a:\N;\Nbeta>\Nbeta_0 \N) ;

• \N(H_a:\N;\Nbeta<\Nbeta_0 \N) ; ou

• \N( H_a:\N ; \Nbeta\Nneq\Nbeta_0 \N).

Bien que la pente d'une ligne de régression puisse avoir de nombreuses valeurs, les tests d'hypothèse ne s'attachent généralement qu'à répondre : La pente est-elle différente de zéro ? Si elle est différente de zéro, tu pourras alors l'utiliser pour faire des prédictions. Par conséquent, cet article se concentrera uniquement sur la formulation de ce type d'hypothèse.

Pourquoi ne peux-tu pas utiliser une droite de régression à pente nulle pour faire des prédictions ? Une droite de régression avec une pente nulle signifie que les données de \(y\N) ne dépendent pas de \N(x\N), en d'autres termes, connaître la valeur de \N(x\N) ne te permet pas de prédire la valeur de \N(y\N) à l'aide de la droite de régression. Cela signifie que la droite de régression n'est pas utile.

Conditions du test d'hypothèse pour la pente de régression

Pour pouvoir faire des déductions sur les coefficients de la droite de régression, tu dois t'assurer que tes données remplissent les conditions suivantes :

1. Linéarité: Le diagramme de dispersion des données semble droit.

2. Indépendance: Les résidus doivent être indépendants (voir l'article Résidus pour plus d'informations à ce sujet).

3. Variance égale: L'écart type des valeurs de \(y\) doit être presque égal pour toutes les valeurs de \(x\).

4. Population normale: Les valeurs \(y\)sont distribuées normalement pour toute valeur de \(x\).

Méthodes de test d'hypothèse pour la pente de régression

Rappelle que dans cet article, tu apprendras seulement à effectuer le test d'hypothèse pour prouver que la pente de la droite de régression est non nulle. La procédure est donc la suivante :

Étape 1. Énonce les hypothèses.

L'hypothèse nulle et l'hypothèse alternative sont données par

\[\begin{align} &H_0\; :\beta=0 \\ &H_a:\;\beta\neq 0. \end{align}\]

L'hypothèse nulle stipule que la pente est nulle, ce qui équivaut à dire qu'il n'y a pas de relation linéaire utile entre \(x\N) et \N(y\N), tandis que l'hypothèse alternative stipule qu'il y a une relation linéaire utile.

Étape 2. Détermine le niveau de signification à utiliser.

Normalement, le niveau de signification \(\alpha\) est pris comme \(0,05\), mais tu peux aussi considérer \(0,01\), ou \(0,1\).

Étape 3. Trouve la statistique du test et la valeur correspondante de \(p-\).

Pour cette étape, tu as besoin de l'erreur standard de la pente, de la pente de la régression linéaire, des degrés de liberté (pour les échantillons ayant \(n\) paires de données, les degrés de liberté sont \(n-2\)) et de la valeur \(p-\)associée à la statistique du test.

La statistique du test est donnée par

\[t=\frac{b}{s_b},\]

où \(b\) est la pente de la droite de régression de l'échantillon, et l'erreur standard \(s_b\) est donnée par

\[s_b=\frac{s_e}{\sqrt{\sum\limits_{i=1}^n(x_i-\mu_x)^2}}\]

où

\[s_e=\sqrt{\frac{\sum\limits_{i=1}^n(y_i-\hat{y})^2}{n-2}}.\]

Tu auras également besoin des degrés de liberté de la distribution \(t\). Comme il s'agit de données appariées (la valeur de \(x) est appariée avec une valeur de \(y)), il y a \(n-2) degrés de liberté.

Étape 4. Interprète les résultats.

Si le résultat obtenu dans l'échantillon est inhabituel, compte tenu de l'hypothèse nulle, alors l'hypothèse nulle est rejetée.

Cette étape consiste à comparer la valeur \(p\)- obtenue avec le niveau de signification, et l'hypothèse nulle est rejetée si la valeur \(p\)- est inférieure au niveau de signification. Dans le cas contraire, tu ne pourras pas rejeter l'hypothèse nulle.

Exemple de test d'hypothèse pour la pente de régression