如何利用統計軟件Stata進行回歸分析
原創【51CTO.com原創稿件】數據挖掘和機器學習在如今的社會早已成為經典的流行技術。采用相關技術的企業不在少數，并且為社會產生了極大的效益。流行的數據挖掘軟件非常多，比如 Scikit-Learn、Pandas、R、Spark MLLib 等等，極大的方便了廣大從業者的日常開發和數據分析工作。
在開源軟件流行的今天，傳統付費軟件經常被人們忽視，然而 Matlab、Mathematica、Maple 和 Stata 等數學和計算機軟件給人們提供了非常大的便利，并且有許多開源軟件不具備的功能，直至今日，仍然在各行各業中發揮著不可替代的作用。
Stata 作為一款有著30多年歷史的優秀統計學習軟件，為統計學習提供了強大的解決方案，目前版本已經更新到了 16.0。本文將帶領讀者一窺 Stata 的風采，介紹如何利用 Stata 進行回歸分析。
首先下載 UCLA 大學的學校測評數據集合:
- use https://stats.idre.ucla.edu/stat/stata/webbooks/reg/elemapi
- mkdir c:regstata
- cd c:regstata
- save elemapi
- use elemapi
得到數據集合之后, 如果需要進行回歸分析,只需要簡單的執行一下命令即可:
- regress api00 acs_k3 meals full
- Source | SS df MS Number of obs = 313
- -------------+---------------------------------- F(3, 309) = 213.41
- Model | 2634884.26 3 878294.754 Prob > F = 0.0000
- Residual | 1271713.21 309 4115.57673 R-squared = 0.6745
- -------------+---------------------------------- Adj R-squared = 0.6713
- Total | 3906597.47 312 12521.1457 Root MSE = 64.153
- ------------------------------------------------------------------------------
- api00 | Coef. Std. Err. t P>|t| [95% Conf. Interval]
- -------------+----------------------------------------------------------------
- acs_k3 | -2.681508 1.393991 -1.92 0.055 -5.424424 .0614074
- meals | -3.702419 .1540256 -24.04 0.000 -4.005491 -3.399348
- full | .1086104 .090719 1.20 0.232 -.0698947 .2871154
- _cons | 906.7392 28.26505 32.08 0.000 851.1228 962.3555
- ------------------------------------------------------------------------------
如果需要預測新的變量, 只需要執行以下命令:
- predict fv
如果需要顯示模型的殘差, 則執行以下命令:
- predict fv, residual
Stata 除了提供基本的回歸分析的功能,最引人入勝之處在于其提供了獨一無二的最優化參數選擇功能. 我們知道在計算 Lasso Regression 或者 Ridge Regression 的時候, 最優化函數中有懲罰項。而懲罰項前面的系數如何選擇是個困擾了數學界幾十年,直到幾年前才得到解決的難題。Stata 在這方面提供了兩種算法,一種是 Plug-in Method, 而另一種是 Cross-Validation Method。
當采用 plug-in method 進行 Lasso Regression 的時候,只需要調用:
- lasso linear api00 acs_k3 meals full, selection(plugin)
返回結果中可以看到參數值和殘差。
- --------------------------------------------------------------------------
- | No. of
- | nonzero In-sample
- ID | Description lambda coef. R-squared BIC
- ---------+----------------------------------------------------------------
- * 1 | selected lambda .1715319 1 0.6610 3513.359
- --------------------------------------------------------------------------
當采用 cross-validation method 進行 Lasso Regression 的時候,只需要調用:
- lasso linear api00 acs_k3 meals full, selection(cv)
返回的結果中有如下一張表:
- --------------------------------------------------------------------------
- | No. of Out-of- CV mean
- | nonzero sample prediction
- ID | Description lambda coef. R-squared error
- ---------+----------------------------------------------------------------
- 1 | first lambda 91.43285 0 0.0017 12460.5
- 37 | lambda before 3.210383 3 0.6667 4159.559
- * 38 | selected lambda 2.925181 3 0.6667 4159.504
- 39 | lambda after 2.665316 3 0.6666 4160.824
- 43 | last lambda 1.837099 3 0.6657 4172.744
- --------------------------------------------------------------------------
可以看到, Lasso Regression + Plug-in Method , Lasso Regression + Cross-validation Method 和傳統的 OLS 的結果有所不同。由于 Stata 提供的上述參數選擇方法是最近幾年的最新研究成果,因此在免費的開源軟件比如 R 和 Scikit-Learn 中都還沒有得到應用, 這也是 Stata 的難能可貴之處。
Stata 提供了方便的編程接口，用于支持常見的各種數據分析和數據挖掘功能。另外,它也提供了用戶圖形界面, 用戶可以很方便的通過點擊按鈕和選擇下拉框等方式進行非常方便的各種操作。Stata 作為經濟學領域的經典軟件,也應該得到包括互聯網企業在內的 IT 公司的關注。
作者介紹
汪昊，技術總監/架構師，美國猶他大學本科/碩士，對外經貿大學在職MBA。曾在百度，新浪，網易，豆瓣等公司有多年的研發和技術管理經驗，擅長機器學習，大數據，推薦系統，社交網絡分析等技術。在 TVCG 和 ASONAM 等國際會議和期刊發表論文 11 篇。國際學術會議 IEEE SMI 2008 和 ICBDT 2020 最佳論文獎。
【51CTO原創稿件，合作站點轉載請注明原文作者和出處為51CTO.com】
