聚类
聚类的概念聚类是一种无监督机器学习方法，它基于数据的内部结构寻找观察样本的自然族群（即集群），常用于新闻分类、推荐系统等。聚类的特点是训练数据没有标注，通常使用数据可视化评价结果。
聚类分析仅根据在数据中发现的描述对象及其关系的信息，将数据对象分组。其目标是，组内的对象相互之间是相似的（相关的），而
...
决策树与随机森林
决策树决策树（decision tree）是一种分类与回归方法，本文主要讨论用于分类的决策树，决策树的结构呈树形结构，在分类问题中，其代表基于特征对数据进行分类的过程，通常可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型可读性好并且分类速度快。
...
逻辑回归
概念Logistic Regression 在《机器学习》-周志华一书中又叫对数几率回归。逻辑回归和多重线性回归实际上有很多的相同之处，除了它们的因变量（函数）不同外，其他的基本差不多，所以逻辑回归和线性回归又统属于广义线性模型（generalizedlinear model）。
广义线性模型的形
...
机器学习简介
机器学习任务的一般步骤１．确定特征 – 可能是最重要的步骤! （收集训练数据）２．确定模型 – 目标函数/决策边界形状３．模型训练：根据训练数据估计模型参数 – 优化计算４．模型评估：在校验集上评估模型预测性能５．模型应用/预测
模型
非线性模型
目标函数
损失函数—回归
损失函数
...
线性回归
线性回归（Linear Regression）数理统计中回归分析，用来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，其表达形式为$y=wx+e$，e为误差服从均值为0的正态分布，其中只有一个自变量的情况称为简单回归，多个自变量的情况叫多元回归。
注意，统计学中的回归并非如线性回归非与
...
SVM
背景
最大间隔分类器
距离的计算在样本空间中，划分超平面可通过如下线性方程描述：
w^Tx+b=0样本空间中任意点x到超平面的距离可写为:
r=\frac{\lvert w^Tx+b\rvert}{\lVert w\rVert}数据标签定义
优化的目标
目标函数
拉格朗日乘子法
SVM求解
...
SVD分解
奇异值分解(SVD)原理奇异值分解(Singular Value Decomposition，以下简称SVD)是在机器学习领域广泛应用的算法，它不光可以用于降维算法中的特征分解，还可以用于推荐系统，以及自然语言处理等领域。是很多机器学习算法的基石。
特征值和特征向量
注意到要进行特征分解，矩阵A必须
...
点击预估
目标广告显示：只显示相关的广告
背景：
– 用户喜欢相关的广告 – 只有用户点击时，广告平台才能收到广告费
所以预测一个广告是否会被点击很关键
方式： – 预估点击率 (predict Click Through Rate, pCTR)
推荐系统 vs. 点击率预估
CTR
...
LSTM
ＬＳＴＭ模型LSTM（Long Short-Term Memory）是长短期记忆网络，是一种时间递归神经网络，适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。就是所谓的该记得会一直传递，不该记得就被“忘记”。
“记忆细胞”变得稍微复杂了一点
细胞状态细胞状态类似于传送带。直接在整个链上运
...
DCGAN
简介DCGAN即使用卷积网络的对抗网络，其原理和GAN一样，只是把CNN的卷积技术用于GAN模式的网络里，G（生成器）网在生成数据时，使用反卷积的重构技术来重构原始图片。D（判别器）网用卷积技术来识别图片特征，进而作出判别。
https://arxiv.org/abs/1511.06434
架构
判
...