上课材料之十
上课材料之十详细内容
上课材料之十
第九章 非线性回归模型 回归模型的一般形式是 [pic] (1) 很明显,线性模型只是一种特殊情况,我们应该讨论更一般的模型(1)。 例如, [pic] (2) 不能变换到线性形式。 1 线性化回归 非线性回归模型是 [pic] (为简化记号,我们去掉了观测值的下标)非线性回归模型的许多结果是基于在参数 向量的一个特定值[pic]处(如由经验得到的数据时)对[pic]的一个线性泰勒级数来近 似: [pic] (3) 这被称为线性化回归模型。整理各项可得 [pic] 令[pic]等于第k个偏微分[pic]。对于[pic]的一个给定值,这[pic]是数据而不是含未知 参数的函数。于是 [pic] [pic] 或 [pic] 把已知项移到方程左边,可得回归模型: [pic] (4) 有了[pic]值,我们就可以计算[pic]并通过线性最小二乘法估计(4)中的参数。 然后,进行再次的迭代和回归,直至收敛和满足我们的精度要求。 [例] 对于(2)所给的非线性回归模型,线性化方程中的回归量是 [pic] [pic] 有了一组参数[pic] [pic] 可以对前面为估计[pic]而定义的三个变量进行回归。 2、非线性最小二乘估计 最小二乘法仍然是一种比较具有吸引力的估计参数的方法。对于这种估计量已经得到 许多分析结果,例如,一致性和渐近正态性。然而,除了在扰动项是正态分布的情况下 ,我们不能肯定非线性最小二乘估计量是最有效的估计量。(这和我们对于线性模型所 得的结论是一样的)下面的一些例子将说明这一点。 在继续之前,有必要关于回归量做些假设。贾奇等人(1985)和雨宫(1985)曾详细 地讨论过精确的要求。在古典回归模型中,为了得到渐近结果,我们假设样本矩矩阵( 1/n)X′X收敛于一个正定矩阵Q。类似地,当线性化模型中的“回归量”在真实参数值处被 计算时,我们在其上附加相同的条件。因此,对于非线性回归模型,与以前类似的是 [pic] (5) 其中[pic]是正定矩阵。根据这个公式,非线性最小二乘估计量的渐近性质可以导出 。实际上,除了在这种情况下我们把[pic]中的导数也作为回归量之外,它们与我们已见 到的线性模型的渐近性质十分相似。 (5)中的矩阵收敛于正定矩阵的要求还附带回归量矩阵[pic]的各列是线性无关的条件 。这是一个识别条件,类似于线性模型中的解释变量是线性无关的要求。 非线性最小二乘准则函数是 [pic] 其中我们已经代入即将是解的b。最小化的一阶必要条件是 [pic] 注意 [pic] 这与线性模型的情况相同。这是非线性最优化的一个标准问题,可以用许多方法来求解 。高斯—牛顿方法在这种情况下经常使用。回想我们关于线性回归模型的讨论,如果[pic] 的值是可以获得的,那里所显示的线性回归模型可以用普通最小二乘法来估计。一旦回 到一个参数向量,它就可以作为一个新的[pic],计算可以继续进行。迭代可以一直进行 到相邻两个参数向量的差是足够小可以认为已经收敛为止。这个方法的主要优点之一是 在最后一步迭代,[pic]的估计,除了[pic],给出了参数估计渐近方差矩阵的正确估计 。[pic]的一致估计可以利用残差来计算: [pic] (6) (自由度校正1/(n-K)在这里没有价值,因为所有结果在任何情况下都是渐近的和[pic] 的事实。 [pic] 其中 [pic] 渐近协方差矩阵的样本估计是 [pic] 只要得到这些结果,推论和假设检验就可以按前几章中所描述的同样方式进行。在评价 回归拟合值中产生一个小问题,因为 [pic] 不再保证在零到1的范围内,(因为估计的误差[pic]有可能足够的大)。然而,它仍给出了 一个有用的描述性度量。
上课材料之十
第九章 非线性回归模型 回归模型的一般形式是 [pic] (1) 很明显,线性模型只是一种特殊情况,我们应该讨论更一般的模型(1)。 例如, [pic] (2) 不能变换到线性形式。 1 线性化回归 非线性回归模型是 [pic] (为简化记号,我们去掉了观测值的下标)非线性回归模型的许多结果是基于在参数 向量的一个特定值[pic]处(如由经验得到的数据时)对[pic]的一个线性泰勒级数来近 似: [pic] (3) 这被称为线性化回归模型。整理各项可得 [pic] 令[pic]等于第k个偏微分[pic]。对于[pic]的一个给定值,这[pic]是数据而不是含未知 参数的函数。于是 [pic] [pic] 或 [pic] 把已知项移到方程左边,可得回归模型: [pic] (4) 有了[pic]值,我们就可以计算[pic]并通过线性最小二乘法估计(4)中的参数。 然后,进行再次的迭代和回归,直至收敛和满足我们的精度要求。 [例] 对于(2)所给的非线性回归模型,线性化方程中的回归量是 [pic] [pic] 有了一组参数[pic] [pic] 可以对前面为估计[pic]而定义的三个变量进行回归。 2、非线性最小二乘估计 最小二乘法仍然是一种比较具有吸引力的估计参数的方法。对于这种估计量已经得到 许多分析结果,例如,一致性和渐近正态性。然而,除了在扰动项是正态分布的情况下 ,我们不能肯定非线性最小二乘估计量是最有效的估计量。(这和我们对于线性模型所 得的结论是一样的)下面的一些例子将说明这一点。 在继续之前,有必要关于回归量做些假设。贾奇等人(1985)和雨宫(1985)曾详细 地讨论过精确的要求。在古典回归模型中,为了得到渐近结果,我们假设样本矩矩阵( 1/n)X′X收敛于一个正定矩阵Q。类似地,当线性化模型中的“回归量”在真实参数值处被 计算时,我们在其上附加相同的条件。因此,对于非线性回归模型,与以前类似的是 [pic] (5) 其中[pic]是正定矩阵。根据这个公式,非线性最小二乘估计量的渐近性质可以导出 。实际上,除了在这种情况下我们把[pic]中的导数也作为回归量之外,它们与我们已见 到的线性模型的渐近性质十分相似。 (5)中的矩阵收敛于正定矩阵的要求还附带回归量矩阵[pic]的各列是线性无关的条件 。这是一个识别条件,类似于线性模型中的解释变量是线性无关的要求。 非线性最小二乘准则函数是 [pic] 其中我们已经代入即将是解的b。最小化的一阶必要条件是 [pic] 注意 [pic] 这与线性模型的情况相同。这是非线性最优化的一个标准问题,可以用许多方法来求解 。高斯—牛顿方法在这种情况下经常使用。回想我们关于线性回归模型的讨论,如果[pic] 的值是可以获得的,那里所显示的线性回归模型可以用普通最小二乘法来估计。一旦回 到一个参数向量,它就可以作为一个新的[pic],计算可以继续进行。迭代可以一直进行 到相邻两个参数向量的差是足够小可以认为已经收敛为止。这个方法的主要优点之一是 在最后一步迭代,[pic]的估计,除了[pic],给出了参数估计渐近方差矩阵的正确估计 。[pic]的一致估计可以利用残差来计算: [pic] (6) (自由度校正1/(n-K)在这里没有价值,因为所有结果在任何情况下都是渐近的和[pic] 的事实。 [pic] 其中 [pic] 渐近协方差矩阵的样本估计是 [pic] 只要得到这些结果,推论和假设检验就可以按前几章中所描述的同样方式进行。在评价 回归拟合值中产生一个小问题,因为 [pic] 不再保证在零到1的范围内,(因为估计的误差[pic]有可能足够的大)。然而,它仍给出了 一个有用的描述性度量。
上课材料之十
[下载声明]
1.本站的所有资料均为资料作者提供和网友推荐收集整理而来,仅供学习和研究交流使用。如有侵犯到您版权的,请来电指出,本站将立即改正。电话:010-82593357。
2、访问管理资源网的用户必须明白,本站对提供下载的学习资料等不拥有任何权利,版权归该下载资源的合法拥有者所有。
3、本站保证站内提供的所有可下载资源都是按“原样”提供,本站未做过任何改动;但本网站不保证本站提供的下载资源的准确性、安全性和完整性;同时本网站也不承担用户因使用这些下载资源对自己和他人造成任何形式的损失或伤害。
4、未经本网站的明确许可,任何人不得大量链接本站下载资源;不得复制或仿造本网站。本网站对其自行开发的或和他人共同开发的所有内容、技术手段和服务拥有全部知识产权,任何人不得侵害或破坏,也不得擅自使用。
我要上传资料,请点我!
管理工具分类
ISO认证 课程讲义 管理表格 合同大全 法规条例 营销资料 方案报告 说明标准 管理战略 商业计划书 市场分析 战略经营 策划方案 培训讲义 企业上市 采购物流 电子商务 质量管理 企业名录 生产管理 金融知识 电子书 客户管理 企业文化 报告论文 项目管理 财务资料 固定资产 人力资源 管理制度 工作分析 绩效考核资料 面试招聘 人才测评 岗位管理 职业规划 KPI绩效指标 劳资关系 薪酬激励 人力资源案例 人事表格 考勤管理 人事制度 薪资表格 薪资制度 招聘面试表格 岗位分析 员工管理 薪酬管理 绩效管理 入职指引 薪酬设计 绩效管理 绩效管理培训 绩效管理方案 平衡计分卡 绩效评估 绩效考核表格 人力资源规划 安全管理制度 经营管理制度 组织机构管理 办公总务管理 财务管理制度 质量管理制度 会计管理制度 代理连锁制度 销售管理制度 仓库管理制度 CI管理制度 广告策划制度 工程管理制度 采购管理制度 生产管理制度 进出口制度 考勤管理制度 人事管理制度 员工福利制度 咨询诊断制度 信息管理制度 员工培训制度 办公室制度 人力资源管理 企业培训 绩效考核 其它
精品推荐
- 1C语言难点及分析 411
- 2暗促-酒店玫瑰静悄悄地开 711
- 3终端陈列十五大原则 772
- 4****主营业务发展战略设计 684
- 5中小企业物流发展的对策 765
- 6主顾开拓 812
- 7主动推进的客户服务 623
- 8专业媒体策划与购买 683
- 9中远电视广告CF 796
下载排行
- 1社会保障基础知识(ppt) 16695
- 2安全生产事故案例分析(ppt 16695
- 3行政专员岗位职责 16695
- 4品管部岗位职责与任职要求 16695
- 5员工守则 16695
- 6软件验收报告 16695
- 7问卷调查表(范例) 16695
- 8工资发放明细表 16695
- 9文件签收单 16695


