Tous les résultats des tests d'hypothèse ne sont pas égaux. Un test d'hypothèse ou un test de signification statistique a généralement un niveau de signification qui lui est attaché. Ce niveau de signification est un nombre qui est généralement désigné par la lettre grecque alpha. Une question qui revient dans une classe de statistiques est: «Quelle valeur d'alpha doit être utilisée pour nos tests d'hypothèse?»
La réponse à cette question, comme pour de nombreuses autres questions en statistique, est: «Cela dépend de la situation». Nous allons explorer ce que nous entendons par là. De nombreuses revues de différentes disciplines définissent que les résultats statistiquement significatifs sont ceux pour lesquels l'alpha est égal à 0,05 ou 5%. Mais le principal point à noter est qu'il n'y a pas de valeur universelle d'alpha qui devrait être utilisée pour tous les tests statistiques.
Le nombre représenté par alpha est une probabilité, il peut donc prendre une valeur de tout nombre réel non négatif inférieur à un. Bien qu'en théorie tout nombre compris entre 0 et 1 puisse être utilisé pour l'alpha, quand il s'agit de pratique statistique, ce n'est pas le cas. De tous les niveaux d'importance, les valeurs de 0,10, 0,05 et 0,01 sont les plus couramment utilisées pour l'alpha. Comme nous le verrons, il pourrait y avoir des raisons d'utiliser des valeurs alpha autres que les nombres les plus couramment utilisés.
Une considération par rapport à une valeur «universelle» pour alpha a à voir avec la probabilité de ce nombre. Le niveau de signification d'un test d'hypothèse est exactement égal à la probabilité d'une erreur de type I. Une erreur de type I consiste à rejeter incorrectement l'hypothèse nulle lorsque l'hypothèse nulle est réellement vraie. Plus la valeur de alpha est petite, moins il est probable que nous rejetons une vraie hypothèse nulle.
Il existe différents cas où il est plus acceptable d'avoir une erreur de type I. Une valeur alpha plus élevée, même supérieure à 0,10, peut être appropriée lorsqu'une valeur alpha inférieure entraîne un résultat moins souhaitable.
Lors du dépistage médical d'une maladie, examinez les possibilités d'un test qui teste faussement positif pour une maladie avec un test faussement négatif pour une maladie. Un faux positif entraînera de l'anxiété pour notre patient mais conduira à d'autres tests qui détermineront que le verdict de notre test était en effet incorrect. Un faux négatif donnera à notre patient l'hypothèse erronée qu'il n'a pas de maladie alors qu'il en fait. Le résultat est que la maladie ne sera pas traitée. Étant donné le choix, nous préférerions avoir des conditions qui aboutissent à un faux positif plutôt qu'un faux négatif.
Dans cette situation, nous accepterions volontiers une valeur plus élevée pour l'alpha si elle entraînait un compromis d'une probabilité plus faible de faux négatifs..
Un niveau de signification est une valeur que nous fixons pour déterminer la signification statistique. Cela finit par être la norme par laquelle nous mesurons la valeur de p calculée de notre statistique de test. Dire qu'un résultat est statistiquement significatif au niveau alpha signifie simplement que la valeur p est inférieure à alpha. Par exemple, pour une valeur alpha = 0,05, si la valeur p est supérieure à 0,05, nous ne rejetons pas l'hypothèse nulle.
Il y a des cas où nous aurions besoin d'une très petite valeur p pour rejeter une hypothèse nulle. Si notre hypothèse nulle concerne quelque chose qui est largement accepté comme vrai, alors il doit y avoir un haut degré de preuve en faveur du rejet de l'hypothèse nulle. Ceci est fourni par une valeur de p qui est beaucoup plus petite que les valeurs couramment utilisées pour alpha.
Il n'y a pas une seule valeur d'alpha qui détermine la signification statistique. Bien que des nombres tels que 0,10, 0,05 et 0,01 soient des valeurs couramment utilisées pour l'alpha, il n'y a pas de théorème mathématique dominant qui dit que ce sont les seuls niveaux de signification que nous pouvons utiliser. Comme pour beaucoup de choses en statistique, il faut penser avant de calculer et surtout utiliser le bon sens.