Jinliang Blog

生活有度 人生添寿

强化学习基础介绍

介绍相关概念以及简单模型

1. 强化学习是什么 引用Reinforcement Learning An Introduction中的一句话： Reinforcement learning is learning what to do—how to map situations to actions—so as to maximize a numerical reward signal. 强化学习是关于做...

Posted by Jinliang on May 30, 2019

常见的正则化方法

L2、dropout等正则化方法解析

1. 引言 当我们训练一个深层神经网络时，可能存在过拟合和欠拟合的情况，而我们想要的一个状态是存在于欠拟合和过拟合之间的一个点，即偏差小方差也小。 但是如果如果我们的模型过拟合怎么办呢？ 事实上有两种解决办法比较通用，一种是准备更多的数据，但是实际上却不容易实现；另一种就是今天的主角，使用正则化方法。 在接下来的内容中，我们会先给出对应的正则化方法的公式与使用方法，然后再对正则化方法...

Posted by Jinliang on May 26, 2019

支持向量机(SVM)解读

支持向量机(SVM)解读

1. 什么是支持向量机 首先从分类任务谈起，分类任务的核心思想就是在样本空间中找到一个超平面，能将样本分类。 我们以简单的二维空间为例，如下图： 上图中每个样本拥有两个属性，分类为$x_1,x_2$，左上角代表一类样本，右下角代表一类样本，我们想要找到一个超平面将上述样本分类，那么上图中所有的直线都可以达到这个目的，那么我们到底应该选择哪个呢？ 凭直觉，我们应该选中间颜色最深的，...

Posted by Jinliang on May 21, 2019

linux安装kubectl与minikube过程

linux安装kubectl与minikube详细过程

1. 安装kubectl kubectl是什么？ The Kubernetes command-line tool, kubectl, allows you to run commands against Kubernetes clusters. You can use kubectl to deploy applications, inspect and manage cluster ...

Posted by Jinliang on May 18, 2019

logistic回归

logistic回归介绍与源码分析

1. 介绍（由线性模型引出logistic回归） 首先介绍一下什么是线性模型呢？ 线性模型的定义如下：给定$d$个属性描述的样本$\textbf x=(x_1,x_2,\ldots,x_d)$，$x_i$代表样本在第$i$个属性上的取值。 线性模型的目的是学习一个函数，它可以通过属性的线性组合来进行预测。 \[f(\textbf x)=w_1x_1+w_2x_2+\ldots+w_d...

Posted by Jinliang on May 16, 2019

k8s-基础命令

k8s-基础命令介绍

k8s基础命令 使用minikube启动集群 => 第一个命令判断minikube是否安装成功，第二个命令启动集群 minikube version minikube start 使用kubectl和集群交互，并查看版本 =>会显示client和server两个版本号，其中client对应kubectl，serv...

Posted by Jinliang on May 14, 2019

常见的优化算法

总结常见的优化算法

1. batch梯度下降法(简称梯度下降法) cost function(即代价函数或成本函数)一般为凸函数，那么什么是凸函数呢？ 下面介绍数学知识： 凸函数的定义： 对区间$[a,b]$上定义的函数$f$，若对于区间中的任意两点$x_1,x_2$，均满足： \[f(\frac{x_1+x_2}{2}) \leq \frac {f(x_1)+f(x_2)}{2}\] 则称函数...

Posted by Jinliang on May 1, 2019

常见的激活函数

非线性激活函数总结（sigmoid、tanh、relu）

1. 非线性激活函数的必要性 如果使用线性激活函数（恒等激励函数），那么神经网络仅是将输入线性组合再输出，在这种情况下，深层（多个隐藏层）神经网络与只有一个隐藏层的神经网络没有任何区别，不如去掉多个隐藏层。 证明如下： \[a^{[1]}=z^{[1]}=W^{[1]}x+b^{[1]}\\ a^{[2]}=z^{[2]}=W^{[2]}x+b^{[2]}=W^{[2]}(W^{[1]...

Posted by Jinliang on April 25, 2019

决策树

ID3、C4.5、CART决策树以及剪枝处理

1. 介绍 结构： 一个根节点：属性测试 若干内部结点：属性测试 若干叶子节点：对应于决策结果 目的： 产生一颗泛化能力强的树，即能正确处理从没见过的样本或物体 2. 决策树基本流程（伪代码） 思想：分而治之 Tree(样本，属性) 生成 node if 样本中的类别全属于统一类别 $C$ then 标记node的类别为$C$；return end if if...

Posted by Jinliang on April 19, 2019

第六天-机器学习100天

支持向量机(SVM)

导入库 import numpy as np import matplotlib.pyplot as plt import pandas as pd 导入数据 dataset = pd.read_csv('datasets/Social_Network_Ads.csv') X = dataset.iloc[:, [2, 3]].values y = dataset.iloc[:,...

Posted by Jinliang on April 11, 2019

FEATURED TAGS
Linux Java Algorithm ML100Days Machine Learning Deep Learning K8s Reinforcement Learning Yan Zaizai Big Data
ABOUT ME

There is no royal road to learning!

✉️ xujinliang.email@foxmail.com

FRIENDS