<div id="js_content">
<p style="text-align: center"><img src="https://beijingoptbbs.oss-cn-beijing.aliyuncs.com/cs/5606289-3ae26ba59eda2bd75d072efa757f3f5e"><br></p>
<p>公众号后台回复<strong>“图书“</strong>，了解更多号主新书内容</p>
<p style="text-align: left"> 作者：小一</p>
<p style="text-align: left"> 来源：小一的学习笔记</p>
<p style="text-align: center">写在前面的的话<br></p>
<p style="text-align: left">大家好，我是小一<img src="https://beijingoptbbs.oss-cn-beijing.aliyuncs.com/cs/5606289-20ab28d4f70fcb992d6af83869929f44"></p>
<p style="text-align: left">这是大话系列的<strong>第7节算法</strong>，也是本系列的第<strong>15篇原创</strong>文章。</p>
<p style="text-align: left">文章较长，建议先收藏再阅读。文末附线性回归的思维导图。</p>
<h4>线性回归</h4>
<p>学习线性回归之前必须先要了解什么是回归，了解回归之前我们先从分类算法说起。</p>
<p>前面我们介绍的算法都属于分类算法，分类顾名思义就是预测样本对应的应该是哪一类，比如决策树实战中预测泰坦尼克号的乘客生还还是遇难，比如knn实战中预测对应的书写数字应该属于哪一类（即哪一个数字）等等这些都属于分类算法</p>
<p><strong>可以看到分类算法对应的目标变量都是类别型，而在回归算法中对应的目标变量都是连续型。</strong></p>
<p>像下面这个图，就是一个回归问题的预测。再举个简单的例子，比如可以根据房屋的面积、户型、楼层等指标预测房屋的价格，这也是一个回归问题，因为我们最终预测的结果不是一个类别型变量，而是一个连续型变量。</p>
<p style="text-align: center"><img src="https://beijingoptbbs.oss-cn-beijing.aliyuncs.com/cs/5606289-58394f19de383c95faa3b7006c587fa8"></p>
<p>在回归算法中，我们一般会遇到单变量回归和多变量回归，这个其实和一元方程、多元方程是一样的。</p>
<p>如果只有一个自变量，我们称之为一元回归，如果有两个及以上的自变量，我们称之为多元回归，就好比区分一元方程和多元方程一样。</p>
<h4>单变量线性回归</h4>
<h5>相关概念介绍</h5>
<p>一元一次方程 y=ax+b中，<strong>元</strong>指的是未知数的个数（即x），<strong>次</strong>指的是未知数的最大幂数（即x的几次方），那么回归也就是针对输入变量x和输出变量y之间的一个映射，单变量线性回归只有一个输入特征，而且它的拟合曲线呈线性分布</p>
<p>就和上面的图中的直线一样，就是我们针对样本点预测出的一条最优拟合曲线。</p>
<p>在单变量线性回归中，最终的拟合曲线可能是条笔直的直线，也可能是一个曲线，但是它一定是线性分布的。</p>
<br>
<h5>预测函数</h5>
<p>首先先来了解一下我们线性回归算法的目的：<strong>确定一条最优的拟合曲线</strong>。说的通俗易懂点，就是确定一个能够使预测结果最优的函数方程。</p>
<p>所以针对给定的数据集x和y，预测函数会根据输入特征x计算输出值h(x)。其中输入和输出的函数关系如下：</p>
<p style="text-align: center">
<svg style="-webkit-overflow-scrolling: touch;vertical-align: -0.566ex;width: 16.246ex;height: 2.262ex;max-width: 300% !important;" viewbox="0 -750 7180.7 1000">
<g fill="currentColor" stroke="currentColor" stroke-width="0" transform="matrix(1 0 0 -1 0 0)">
<g>
<g>
<g>
<path d="M137 683Q138 683 209 688T282 694Q294 694 294 685Q294 674 258 534Q220 386 220 383Q220 381 227 388Q288 442 357 442Q411 442 444 415T478 336Q478 285 440 178T402 50Q403 36 407 31T422 26Q450 26 474 56T513 138Q516 149 519 151T535 153Q555 153 555 145Q555 144 551 130Q535 71 500 33Q466 -10 419 -10H414Q367 -10 346 17T325 74Q325 90 361 192T398 345Q398 404 354 404H349Q266 404 205 306L198 293L164 158Q132 28 127 16Q114 -11 83 -11Q69 -11 59 -2T48 16Q48 30 121 320L195 616Q195 629 188 632T149 637H128Q122 643 122 645T124 664Q129 683 137 683Z"></path>
</g>
<g transform="translate(576, -150) scale(0.707)">
<path d="M35 200Q35 302 74 415T180 610T319 704Q320 704 327 704T339 705Q393 701 423 656Q462 596 462 495Q462 380 417 261T302 66T168 -10H161Q125 -10 99 10T60 63T41 130T35 200ZM383 566Q383 668 330 668Q294 668 260 623T204 521T170 421T157 371Q206 370 254 370L351 371Q352 372 359 404T375 484T383 566ZM113 132Q113 26 166 26Q181 26 198 36T239 74T287 161T335 307L340 324H145Q145 321 136 286T120 208T113 132Z"></path>
</g>
</g>
<g transform="translate(957.6, 0)">
<path d="M94 250Q94 319 104 381T127 488T164 576T202 643T244 695T277 729T302 750H315H319Q333 750 333 741Q333 738 316 720T275 667T226 581T184 443T167 250T184 58T225 -81T274 -167T316 -220T333 -241Q333 -250 318 -250H315H302L274 -226Q180 -141 137 -14T94 250Z"></path>
</g>
<g transform="translate(1346.6, 0)">
<path d="M52 289Q59 331 106 386T222 442Q257 442 286 424T329 379Q371 442 430 442Q467 442 494 420T522 361Q5 |
|
转播
