本文首发于NGA，发表时间2020.06.14，游戏刚发售时。本文只是重新做下记录。 异度之刃系列算是这几年来，我最喜欢的RPG了，尤其是一代，我对这个战斗系统真的是爱死了，但是国内玩家基本没人可以感受到他的牛逼之处，这也就诞生了这一篇攻略。 首先本文使用的所有数据及公式均出自日站wiki以及大神authurzhen整理。 0x01 序言 “为什么我老...

距离上一次写博客还是在上次，18年8月秋招之后就再也没写过博客。。。 今天开始这个博客重新开始经营了，记录一下19年、20年、21年都干了些啥 19年忙于发论文，写毕设 Sihang Hu, Zhiying Tu, Zhongjie Wang, Xiaofei Xu. A POI-Sensitive Knowledge Graph based Service Recom...

本文就对Boosting家族中另一个重要的算法梯度提升树(Gradient Boosting Decison Tree, 以下简称GBDT)做一个总结。GBDT有很多简称，有GBT（Gradient Boosting Tree）, GTB（Gradient Tree Boosting ）， GBRT（Gradient Boosting Regression Tree）, MART(Multi...

在集成学习原理小结中，我们讲到了集成学习按照个体学习器之间是否存在依赖关系可以分为两类，第一个是个体学习器之间存在强依赖关系，另一类是个体学习器之间不存在强依赖关系。前者的代表算法就是是boosting系列算法。在boosting系列算法中， AdaBoost是最著名的算法之一。AdaBoost既可以用作分类，也可以用作回归。本文就对AdaBoost算法做一个总结。 1. 回归boosti...

在集成学习原理小结中，我们讲到了集成学习有两个流派，一个是boosting派系，它的特点是各个弱学习器之间有依赖关系。另一种是bagging流派，它的特点是各个弱学习器之间没有依赖关系，可以并行拟合。本文就对集成学习中Bagging与随机森林算法做一个总结。 随机森林是集成学习中可以和梯度提升树GBDT分庭抗礼的算法，尤其是它可以很方便的并行训练，在如今大数据大样本的的时代很有诱惑力。 ...

集成学习(ensemble learning)可以说是现在非常火爆的机器学习方法了。它本身不是一个单独的机器学习算法，而是通过构建并结合多个机器学习器来完成学习任务。也就是我们常说的“博采众长”。集成学习可以用于分类问题集成，回归问题集成，特征选取集成，异常点检测集成等等，可以说所有的机器学习领域都可以看到集成学习的身影。本文就对集成学习的原理做一个总结。 1. 集成学习概述 从下图，我...

在前面两篇我们讲到了线性可分SVM的硬间隔最大化和软间隔最大化的算法，它们对线性可分的数据有很好的处理，但是对完全线性不可分的数据没有办法。本文我们就来探讨SVM如何处理线性不可分的数据，重点讲述核函数在SVM中处理线性不可分数据的作用。 1. 回归多项式回归 在线性回归原理小结中，我们讲到了如何将多项式回归转化为线性回归。 比如一个只有两个特征的p次方多项式回归的模型： [h_\t...

在支持向量机原理(一) 线性支持向量机中，我们对线性可分SVM的模型和损失函数优化做了总结。最后我们提到了有时候不能线性可分的原因是线性数据集里面多了少量的异常点，由于这些异常点导致了数据集不能线性可分，本篇就对线性支持向量机如何处理这些异常点的原理方法做一个总结。 1. 线性分类SVM面临过的问题 有时候本来数据的确是可分的，也就是说可以用 线性分类SVM的学习方法来求解，但是却因为混...

在决策树算法原理(上)这篇里，我们讲到了决策树里ID3算法，和ID3算法的改进版C4.5算法。对于C4.5算法，我们也提到了它的不足，比如模型是用较为复杂的熵来度量，使用了相对较为复杂的多叉树，只能处理分类不能处理回归等。对于这些问题， CART算法大部分做了改进。CART算法也就是我们下面的重点了。由于CART算法可以做回归，也可以做分类，我们分别加以介绍，先从CART分类树算法开始，重点...

决策树算法在机器学习中算是很经典的一个算法系列了。它既可以作为分类算法，也可以作为回归算法，同时也特别适合集成学习比如随机森林。本文就对决策树算法原理做一个总结，上篇对ID3， C4.5的算法思想做了总结，下篇重点对CART算法做一个详细的介绍。选择CART做重点介绍的原因是scikit-learn使用了优化版的CART算法作为其决策树算法的实现。 1. 决策树ID3算法的信息论基础 机...