机器学习可以预测股票走向，靠谱么？

机器学习是什么？

简单说：机器学习算法是一类从数据中自动分析获得规律，并利用规律对未知数据进行预测的算法。

用一张图说明它所包含的内容：

编者注：这张图比较大，想看清晰的可以戳这里。其实看不清也没有关系，这张图是个基本的脉络，本文的重点不是在这里，雷锋网后续会出相关科普文章，届时会有详细解说。

我们把目光集中到上图中的有监督学习，它是指数据中包括了我们想预测的属性，有监督学习有以下两类：

分类(Classification)——样本属于两个或多个类别，我们希望通过从已标记类别的数据学习，来预测未标记数据的分类。例如，识别手写数字就是一个分类问题，其目标是将每个输入向量对应到有穷的数字类别。从另一种角度来思考，分类是一种有监督学习的离散（相对于连续）形式，对于n个样本，一方有对应的有限个类别数量，另一方则试图标记样本并分配到正确的类别。

回归(Regression)——如果希望的输出是一个或多个连续的变量，那么这项任务被称作回归，比如用年龄和体重的函数来预测三文鱼的长度。

scikit-learn

scikit-learn是一个基于NumPy、SciPy、Matplotlib的机器学习包，主要涵盖了分类、回归和聚类等机器学习算法。例如knn、SVM、逻辑回归、朴素贝叶斯、随机森林、k-means等等，简言之：是一只强大的轮子。

有个很好耍的例子：安德森鸢尾花品种亚属预测。

我们有一百五十个鸢尾花的一些尺寸观测值：萼片长度、宽度，花瓣长度和宽度。还有它们的亚属：山鸢尾（Iris setosa）、变色鸢尾（Iris versicolor）和维吉尼亚鸢尾（Iris virginica）。我们使用这些数据，从中学习并预测一个新的数据。在scikit-learn中，通过创建一个估计器(estimator)从已经存在的数据学习，并且调用它的fit(X,Y)方法。

代码如下：

看不懂代码没关系，这里的输出结果：array([0])。

即学习结果认为，萼片长度、宽度，花瓣长度和宽度观测值分别为5.0, 3.6, 1.3, 0.25的安德森鸢尾花的亚属为山鸢尾（Iris setosa）。

我的目标是亲自实现验证体会机器学习做市场预测这一构建过程，顺带瞧瞧这玩意儿是不是文献或是研报中“传说”的那么神或是然无卵。

那么，机器学习在量化金融方面怎么用？比如说，预测股票这件事儿靠谱么？

首先，我们得熟悉我们的数据。获取过去十年CSI300指数原始数据（代码开发环境  Ipython Notebook）：df = rd.get_price('CSI300.INDX', '2005-01-01', '2015-07-25').reset_index()[['OpeningPx', 'ClosingPx']]

有了开收盘价格后，我们把原始数据这般那般后，有了下面三张图。

图一：

（过去近2500个交易日，当天是涨是跌天数的统计）

图二：

（每日收益率随时间序列的变化）

图三：

（涨跌天数的频率分布）

有兴趣的盆友可以仔细看看图，里面有很有趣的东西。熟悉了数据之后就可以正式开工了，我主要从以下三点来做些尝试：

1、机器学习估计器的选择，即我们使用何种方法进行我们的预测。

2、训练集样本数量的选择，即我们每次预测结果之前使用多少条训练集合的样本。

3、涨跌时间窗口的选择，即我们每个样本中的特征个数，我们训练集每个单元包含连续多少个交易日的涨跌。

下面具体说：

1、根据手头数据的情况及scikit-learn: machine learning in Python中下图所示的引导：

我们选择比较RandomForestClassifier、LinearSVC、KNeighborsClassifier，结果如下：

可以看出，KNeighborsClassifier表现明显逊于RandomForestClassifier、LinearSVC，它的波动较大且胜率与另外两者比也不理想。这结果与JMLR的一篇神奇文章有点类似：《 Do we Need Hundreds of Classifiers to Solve Real World Classification Problems?》，文章测试了179种分类模型在UCI所有的121个数据上的性能，发现Random Forests 和 SVM 性能最好。

2、训练集样本数制约了预测结果的准确性，理想情况下，我希望每次做预测的样本数越多越好，但你知道理想很骨感的，训练集样本数一方面受实际总数据量限制。

另外，计算资源与时间也是制约因素。我们最终要形成某种程度的妥协，即保证相当程度预测效果下选择最小的训练集样本数量。于是我们计算样本数从1~300范围内的胜率，结果如下：

可以看出，控制其它条件不变，随着样本数增多，胜率逐步提高结果更为稳定并且最后维持在0.52~0.53左右波动。为了节约计算资源及考虑到历史数据总量，我们可以选择100个作为训练样本数。

3、涨跌时间窗口选择。实际上反映了交易日历史的涨跌对下一个交易日的影响。

这个动量是否客观存在？我认为从交易心理上说还是有一定依据的，比如作为交易者如果过去一连10个交易日全部飘红，对于后一天的走势我更愿意谨慎看空。当然，这是个极端的臆想，归根结底的表现怎么样，还是要看数据给的答案：

这样的结果让人抓狂，有点看乱码的感觉。后来我改变了每次回测的起点之后发现，基本每次结果都差不多。一个共同点是：每次曲线的开端都会存在倒塌式下滑，而后稳定震荡于0.5扔硬币的概率左右。

也就是说，动量是存在的，只不过很小（结合前面两节的试验结果其期望处于0.53这个位置），且时间窗口很短，超出这个时间窗口，预测问题就转化为扔硬币问题。

上面就是我对机器学习在金融市场的预测应用做的一个小试验，综合三张图的结果来看。其实概率还能勉强说比纯抛硬币好那么一丢丢（低于0.5的情况并不多见，调试程序的时候发现0.53是个神奇的数字），但这毕竟是我快速自己实现的一个小Demo。可以想像，如果有更优秀的算法，更丰富的数据，更合理的特征选择，意想不到的结果也会是情理之中。

经过自己的尝试后我想机器学习在金融市场的预测应用既不会那么神，也不能说它无卵用，我相信圣杯的存在，在某一你未发现的细节之中。

【作者介绍】easunlu，数据工程师，爱好机器学习，在机器学习金融应用方面有一定的研究。关于机器学习更多谈论，可以进入这里查看：Ipython Notebook Research Alpha下机器学习一瞥，关于跌跌涨涨的思考 。也欢迎机器学习爱好者积极留言，与作者进行探讨。