科研星球

回归分析杂谈之二:负二项回归、Probit回归概述

1,负二项回归

所谓负二项指的是一种分布,其实跟poission回归、logistic回归有点类似,poission回归用于服从poission分布的资料,logistic回归用于服从二项分布的资料,负二项回归用于服从负二项分布的资料。

说起这些分布,大家就不愿意听了,多么抽象的名词,我也很头疼。如果简单点理解(不算太严谨),二项分布你可以认为就是二分类数据,poission分布你可以认为是计数资料,也就是个数,而不是像身高等可能有小数点,个数是不可能有小数点的。负二项分布呢,也是个数,只不过比poission分布更苛刻,如果你的结局是个数,而且结局可能具有聚集性,那可能就是负二项分布。

Poisson分布与负二项分布有什么关系呢?

Poisson分布中,设定μ是常数,当μ不是常数,而是一个随机变量,且服从γ分布时,此时复合Poisson分布就是负二项分布。

负二项分布中的μ是变化的,换句话说,个体事件发生的概率不等,有的出现的概率大,有的出现概率小,从而导致方差变大。实际意义也就是说,不同地区、时间等发生的概率不等,有的发生概率高,有的发生概率低,可能存在一定的聚集性。

简单举例,如果调查流感的影响因素,结局当然是流感的例数,如果调查的人有的在同一个家庭里,由于流感具有传染性,那么同一个家里如果一个人得流感,那其他人可能也被传染,因此也得了流感,那这就是具有聚集性,这样的数据尽管结果是个数,但由于具有聚集性,因此用poission回归不一定合适,就可以考虑用负二项回归。



6,Probit回归

probit回归在医学里用的不多,最关键的问题就是probit这个词太难理解了,通常翻译为概率单位。probit函数其实跟logistic函数十分接近,二者分析结果也十分接近。可惜的是,probit回归的实际含义真的不如logistic回归容易理解,由此导致了它在医学中的默默无名,但在社会学领域用的似乎更多一些。

probit回归和logistic回归几乎可以用于相同的数据,对于二分类因变量,这两种方法的结果十分类似。那他们到底有什么区别呢?

如果从分布角度来讲,logit函数和probit的函数几乎重叠,但反映的含义不同,logit等于p/(1-p),这里p是结局发生的概率,而probit的函数是F-1(p),注意-1是上标(因为微信里不好排版,打不出上标)。F是累积的标准正态分布函数,所以F-1就是累积标准正态分布函数的逆函数或反函数。

从解释的角度来讲,logit更容易理解一些,因为p/(1-p)就是我们常说的odds,两个odds相比就是odds ratio,也就是我们最常用的OR值。所以当我们做出结果后,logistic回归所反应的实际意义就非常直观。而相比之下,probit的含义表示自变量对累积标准正态分布函数的逆作用,这个就太让人看不懂了。当然,实际上我们也可以通过正态分布值求出probit回归中的p,作为概率预测,只是比logistic回归要稍微麻烦一些。

但这两个方法之间也是有关联的,通常情况下,probit回归估计出的参数值乘以1.814,大致会等于logistic回归中的参数值。

实际中具体选择哪个方法呢?据笔者所查阅的文献,尚未发现有理论依据,更多的仍是根据个人习惯。从文献的应用情况来看,logistic回归的应用远远多于probit回归,这主要是因为logistic回归的易解释性,而不是logistic回归比probit回归更好或更适合数据。

但probit回归并不是说就要被logistic回归替代了,从预测的角度来看,probit回归还是有较强的使用价值的。其预测概率效果与logistic回归一样的好。如果你确实想知道到底你的数据用哪一个方法好,也不是没有办法,你可以看一下你的残差到底是符合logit函数呢还是符合probit函数,当然,凭肉眼肯定是看不出来的,因为这两个函数本来就很接近,你可以通过函数的假定,用拟合优度检验一下。但通常,估计不会有人非要这么较真,因为没有必要。如果你的因变量是二分类,你无论用哪种方法,都不能说错。萝卜青菜,各有所爱而已。


没有账号?