当前位置: 首页 > news >正文

【python因果推断库7】使用 pymc 模型的工具变量建模 (IV)2

目录

与普通最小二乘法 (OLS) 的比较

应用理论:政治制度与GDP

拟合模型:贝叶斯方法

 多变量结果和相关性度量

结论


与普通最小二乘法 (OLS) 的比较

simple_ols_reg = sk_lin_reg().fit(X.reshape(-1, 1), y)print("Intercept:", simple_ols_reg.intercept_, "Beta:", simple_ols_reg.coef_[0])
Intercept: 0.5677845035965572 Beta: 4.427701928515228

我们可以看到,由于处理变量的内生性,OLS 过高地估计了焦点参数的值,而 IV 回归则更接近真实值。正是这种偏误,工具变量设计的目的就是要缓解。

应用理论:政治制度与GDP

提醒一下,我们想要建模以下关系:

iv_df = cp.load_data("risk")
iv_df[["longname", "loggdp", "risk", "logmort0"]].head()

 

当我们观察到政治制度在这个增长系统中是内生的时候,问题就出现了。这意味着我们需要以某种方式控制测量误差和偏误,如果我们简单地拟合一个OLS模型的话。他们继续论证说,我们可以使用一个工具变量,这个变量仅通过政治制度的程度与GDP相关联,通过使用工具变量回归。他们最终建议使用欧洲定居者在那个时期的死亡率作为工具变量,因为较高的死亡率会导致较少的移民和对该地区的投资,这应该会减少在殖民地建立的政治制度。他们可以使用军事记录来收集这些数据。

我们可以手动估计两阶段最小二乘法 (2SLS) 的处理效应如下:

X = iv_df.risk.values.reshape(-1, 1)
Z = iv_df.logmort0.values.reshape(-1, 1)
t = iv_df.risk.values
y = iv_df.loggdp.valuessimple_ols_reg = sk_lin_reg().fit(X, y)
first_stage_reg = sk_lin_reg().fit(Z, t)
fitted_risk_values = first_stage_reg.predict(Z)second_stage_reg = sk_lin_reg().fit(X=fitted_risk_values.reshape(-1, 1), y=y)print("Simple OLS Parameters: Intercept and Beta Coeff",simple_ols_reg.intercept_,simple_ols_reg.coef_,
)
print("First Stage Parameters: Intercept and Beta Coeff",first_stage_reg.intercept_,first_stage_reg.coef_,
)
print("Second Stage Parameters Intercept and Beta Coeff",second_stage_reg.intercept_,second_stage_reg.coef_,
)
Simple OLS Parameters: Intercept and Beta Coeff 4.687414702305412 [0.51618698]
First Stage Parameters: Intercept and Beta Coeff 9.365894904697788 [-0.61328925]
Second Stage Parameters Intercept and Beta Coeff 1.9942956864448975 [0.92948966]

请注意,朴素的OLS估计值0.515与2SLS估计值0.92在处理效应上的显著差异。这与论文中报告的结果相符。

在这个笔记中,我们不会进一步讨论弱工具变量和强工具变量的问题,也不会讨论如何找到并测试工具变量的强度,但我们将会展示如何在贝叶斯设置下拟合这类模型。我们还将讨论贝叶斯方法如何在幕后将焦点(第二阶段)回归和工具(第一阶段)回归建模为具有明确相关性的多元随机变量。想法是将这两个结果一起建模,并带有明确的相关性。这种方法的好处是我们可以获得关于“工具”和结果之间关系的额外见解。

\begin{aligned}\begin{pmatrix}y\\t\end{pmatrix}&\sim\text{MultiNormal}(\mu,\Sigma)\\\mu&=\begin{pmatrix}\mu_y\\\mu_t\end{pmatrix}=\begin{pmatrix}\beta_{00}+\beta_{01}t\\\beta_{10}+\beta_{11}z\end{pmatrix}\end{aligned}

在这个实现的选择上,我们遵循了Juan Orduz博客的例子,该例子又借鉴了Jim Savage的工作。这样做有一个好处,那就是能够明确地表达出我们对处理变量和工具变量联合分布的兴趣。

拟合模型:贝叶斯方法

我们使用CausalPy来处理我们的数据,具体如下:

sample_kwargs = {"tune": 1000, "draws": 2000, "chains": 4, "cores": 4}
instruments_formula = "risk  ~ 1 + logmort0"
formula = "loggdp ~  1 + risk"
instruments_data = iv_df[["risk", "logmort0"]]
data = iv_df[["loggdp", "risk"]]
iv = InstrumentalVariable(instruments_data=instruments_data,data=data,instruments_formula=instruments_formula,formula=formula,model=InstrumentalVariableRegression(sample_kwargs=sample_kwargs),
)az.plot_trace(iv.model.idata, var_names=["beta_z", "beta_t"]);

az.summary(iv.model.idata, var_names=["beta_t", "beta_z"])[["mean", "sd", "hdi_3%", "hdi_97%", "r_hat"]
]

hdi_prob = 0.94
ax = az.plot_posterior(data=iv.model.idata,var_names=["beta_z"],hdi_prob=hdi_prob,
)ax[0].axvline(iv.ols_beta_params["Intercept"],label="Naive OLS Intercept \n Estimate",color="red",
)
ax[1].axvline(iv.ols_beta_params[iv.instrument_variable_name],label="Naive OLS Treatment \n Estimate",color="red",
)
ax[0].axvline(iv.ols_beta_second_params[0], label="MLE 2SLS Intercept \n Estimate", color="purple"
)
ax[1].axvline(iv.ols_beta_second_params[1], label="MLE 2SLS Treatment \n Estimate", color="purple"
)
ax[0].legend()
ax[1].legend();

 多变量结果和相关性度量

正如我们上面所述,贝叶斯方法的一个好处是我们可以直接测量工具变量和处理变量之间的双变量关系。我们可以看到(在二维空间中)估计的处理系数差异如何扭曲预期结果的表示。

az.summary(iv.model.idata, var_names=["chol_cov_corr"])[["mean", "sd", "hdi_3%", "hdi_97%", "r_hat"]
]

fig, axs = plt.subplots(1, 3, figsize=(20, 8))diffs = (iv.model.idata["posterior"]["beta_z"].sel(covariates=[iv.instrument_variable_name])- iv.ols_beta_params[iv.instrument_variable_name]
)
axs[0].hist(diffs.values.flatten(), bins=30, ec="black", color="blue", alpha=0.4)
axs[0].axvline(np.mean(diffs.values.flatten()),label="Expected Diff \n In Treatment Effect \n Estimate",color="magenta",
)
axs[0].set_xlabel("Difference")
axs[0].legend()intercepts = iv.model.idata["posterior"]["beta_z"].sel(covariates=["Intercept"])
betas = iv.model.idata["posterior"]["beta_z"].sel(covariates=[iv.instrument_variable_name]
)raw_df = pd.DataFrame(iv.X, columns=iv.labels)
x = np.linspace(0, 10, 10)
uncertainty = [intercepts.values.flatten() + betas.values.flatten() * i for i in x]
uncertainty = pd.DataFrame(uncertainty).Tols = [iv.ols_beta_params["Intercept"]+ iv.ols_beta_params[iv.instrument_variable_name] * ifor i in x
]custom_lines = [Line2D([0], [0], color="orange", lw=4),Line2D([0], [0], color="black", lw=4),
]uncertainty.sample(500).T.plot(legend=False, color="orange", alpha=0.4, ax=axs[1])
axs[1].plot(x, ols, color="black", label="OLS fit")
axs[1].set_title("OLS versus Instrumental Regression Fits", fontsize=20)
axs[1].legend(custom_lines, ["IV fits", "OlS fit"])
axs[1].set_xlabel("Treatment Scale/ Risk")
axs[1].set_ylabel("Outcome Scale/ Log GDP")axs[0].set_title("Posterior Differences between \n OLS and IV beta coefficients", fontsize=20
)corr = az.extract(data=iv.model.idata, var_names=["chol_cov_corr"])[0, 1, :]
axs[2].hist(corr, bins=30, ec="black", color="C2", label="correlation")
axs[2].set_xlabel("Correlation Measure")
axs[2].set_title("Correlation between \n Outcome and Treatment", fontsize=20);

结论

我们在这里看到的是,在估计不同政策干预的效果方面存在着非平凡的差异。工具变量回归是我们工具箱中的一种工具,可以帮助我们在潜在受上述基本DAG描述的混淆影响的情况下揭示政策的微妙效应。

和其他因果推断技术一样,很多因素都取决于初始DAG对你的情况有多合理,以及混淆的本质是否可以通过该技术解决。工具变量回归在计量经济学中很受欢迎并且是基础性的,主要是因为当我们希望考察政策干预效果时,潜在的混淆模式非常普遍。

http://www.lryc.cn/news/430962.html

相关文章:

  • 【2024数模国赛赛题思路公开】国赛B题思路丨附可运行代码丨无偿自提
  • 智能优化特征选择|基于鲸鱼WOA优化算法实现的特征选择研究Matlab程序(KNN分类器)
  • 使用udp进行通信
  • C#上位机使用Microsoft.Office.Interop.Excel和EPPlus库对Excel或WPS表格进行写操作
  • java重点学习-redis
  • 每日刷题(图论)
  • Requestium - 将Requests和Selenium合并在一起的自动化测试工具
  • mysql和pg等数据库之间的数据迁移实战分享
  • 消息中间件都有哪些
  • 数据结构(3)内核链表
  • Linux 硬件学习 s3c2440 arm920t蜂鸣器
  • 提交保存,要做重复请求拦截,避免出现重复保存的问题
  • 华为 HCIP-Datacom H12-821 题库 (3)
  • spring-boot 事件
  • 合碳智能 × Milvus:探索化学合成新境界——逆合成路线设计
  • 二分查找 | 二分模板 | 二分题目解析
  • uni-app应用更新(Android端)
  • JavaEE(2):前后端项目之间的交互
  • (已开源-CVPR 2024)YOLO-World: Real-Time Open-Vocabulary Object Detection
  • Spring6梳理4——SpringIoC容器
  • SpringBoot2:请求处理原理分析-FORM表单请求接口
  • Monkey日志ANR、CRASH、空指针异常及其他异常数据分析
  • Vue 3结合Element Plus中,实现一个级联选择器(Cascader)来展示省市区
  • 使用卫星仿真软件STK的一些应用和思考(星地链路、星间链路)
  • pytorch对不同的可调参数,分配不同的学习率
  • 零基础学习Python(八)—— time模块、request模块、数据分析和自动化办公相关模块、jieba模块、文件操作和os相关模块的简单介绍
  • 快速回顾-HTML5
  • 视频技术未来展望:EasyCVR如何引领汇聚融合平台新趋势
  • 7个流行的开源数据治理工具
  • js | XMLHttpRequest