机器学习初识

什么是机器学习

机器学习模型

很多人会望文生义的产生误解,认为 机器学习 是机器能够像人一样学习甚至于学生的比人更好。

机器学习算法与非机器学习算法(如控制交通灯的程序)的不同之处在于,它能够使自身的行为适应新的输入。这种似乎没有人为干预的适应,偶尔会给人一种机器真的是在学习的错觉。然而,在机器学习模型的背后,这种行为上的适应和人类编写的每一条机器指令一样严格。

机器学习模型:

机器学习算法是揭示数据中潜在关系的过程。 机器学习模型(machine learning model)是机器学习算法产出的结果,可以将其看作是在给定输入情况下、输出一定结果的 函数(function)F。机器学习模型不是预先定义好的固定函数,而是从历史数据中推导出来的。因此,当输入不同的数据时,机器学习算法的输出会发生变化,即机器学习模型发生改变。

机器学习的任务,就是从广阔的映射空间中学习函数。机器学习模型的结果往往无法达到 100%精确。

有监督vs无监督

当给出一个机器学习问题的时候,首先可以确认的是它是 有监督 还是 无监督 问题。

对于任何的机器学习问题,都可以从一组 样本 组成的数据集开始,每个样本可以表示为一个 属性元组。

在一个有监督的学习任务中,数据样本将包含一个目标属性有y,也就是真值,而任务则是通过学习来得到一个函数F,它接受非目标属性x,并且输出一个接近目标属性的值,也就是F(x)≈y。目标属性y就像指导学习任务的导师,因为y提供了一个关于学习结果的基准。

与有监督的学习任务相反的是无监督学习,无监督的学习任务中灭有设置真值。人们的预期是从数据中学习潜在的模式或规则,而不以预先定义的真值作为基准。

在没有真值作为基准的情况之下,无监督学习可以得到:

  1. 聚类:给定一个数据集,可以根据数据集中的样本之间的相似性,将样本聚集成祖。
  2. 关联:给定一个数据集,关联任务是发现样本属性之间隐藏的关联模式。

在数据集很大但是标记样本很少的情况之下,可以找到同时具备有监督和无监督学习的应用。这样的任务则被称之为半监督学习。

在多数情况之下,收集大量的含有标记的数据是非常耗时和昂贵的,因为这需要人工成本。

分类vs回归

如果机器学习模型的输出是离散值,那么将其成为分类模型;如果输出的是连续值,则被称之为叫做回归模型。

比如说照片中是否包含毛的模型可以被认为是分类模型,可以用布尔值来表示是否是猫:

 

回归模型的一个例子则是估算房产价值的模型,房子的特征会包括面积,房产类型和地理位置等等。在这种情况之下,可以将预期输出看作是一个实数p∈R,因此它是一个回归模型。

假设我们以地场面积作为唯一变量,以抵偿价格为输出的回归模型:

 

如何做

机器学习工作流

构建机器学习模型的工作流是以数据为中心的,可以说数据决定了机器学习模型的构建方式:

 

从数据出发,首先要确定机器学习问题的类型是有监督的还是无监督的机器学习问题。

对于有监督的机器学习算法,根据模型预期输出进一步确定生成模型的类型:分类或者回归,即分类模型的离散值和回归模型的连续之。

一旦确定了想要从数据中构建的模型类型,就可以开始执行特征工程,这是一组将数据转换为所需格式的活动,以下是几个例子:

  1. 将数据分成两组:训练和测试。在训练模型的过程中使用训练数据集,然后使用测试数据集来测试或验证我们构建的模型是否足够通用,是否可以应用与不可见的数据。
  2. 原始数据集通常是不完整的,带有缺失值。因此需要使用各种策略来填充这些缺失值,比如说使用平均值来进行填充。
  3. 数据集通常包含分类属性,因为算法的限制,通常会将这些分类字符串值编码为数值。

当数据准备好之后,则选择一个机器学习算法,并且向算法输入准备好的训练数据,这也就是训练过程。

当我们在训练过程结束后获得了机器学习模型,就需要使用保留的测试数据对模型进行测试,也就是测试过程。由于初次测试的模型无法让人刚到满意,所以需要再一次回到训练过程中,并调整选择的模型公开的一些参数,也就是超参数调优。

数据

通过数据来训练模型,模型所能够达到的上线是由数据决定的,训练者所能够做的就是找到一个可以接近数据所设置的上限的模型,并不能够指望一个模型能够从数据范围之内学到其他的东西。

从经验上来讲:若输入错误数据,则输出也将是错误数据。

因为技术上的限制,亦或者是隐私政策的限制,往往无法得到高质量的全面的数据进行训练。

欠拟合vs过拟合

对于有监督学习算法,通常有两种情况之下生成的模型不能够很好的拟合数据:

  1. 欠拟合(underfitting)
  2. 过拟合(overfitting)

有监督学习算法的一个重要度量是:泛化。泛化衡量从训练数据到处的模型是否能够对不可见的数据的期望属性的预测能力。

欠拟合模型是指不能很好地拟合训练数据的模型,即显著偏离真实值的模型。

 

欠拟合模型是指不能很好地拟合训练数据的模型,即显著偏离真实值的模型。欠拟合的原因之一可能是模型对数据而言过于简化,因此无法捕获数据中隐藏的关系。

过拟合模型是与训练数据拟合较好的模型,即误差很小或没有误差,但不能很好地推广到不可见数据。

为什么

为何使用机器学习

ML 算法之所以存在,是因为它们能够解决非 ML 算法无法解决的问题,而且还提供了非 ML 算法所不具备的优势。

区分 ML 算法与非 ML 算法的最重要特征之一是,它将模型与数据分离,以便 ML 算法能够适应不同的业务场景或相同的业务案例,但具有不同的上下文。

通过分离模型与数据,ML 算法可以一种更灵活、更通用、更自治的方式来解决许多问题,也就是说,它更像是一个人。

机器学习的局限

和人类一样,ML 模型也会犯错。即目前最先进的 ML 算法通常无法达到 100%精确。

般来说,可以达到 ~80精度的ML模型被认为具有良好的性能。因此,在算法精度至关重要的情况下,人们应该慎重考量他们采用 ML 算法的决定。

有人可能会想,如果我们把 ML 模型所犯的每一个错误都看作是软件中的一个缺陷,难道我们就不能一个接一个地纠正它们,从而一步一步地提高准确性吗?答案是否定的。

究其原因有两个方面:

  1. 一般来说,我们通常无法显式地操作一个 ML 模型,而是用给定的数据结合 ML 算法来共同生成模型。为了改进一个模型,我们要么改进算法,要么提高数据质量,而不是直接修改模型。
  2. 即使我们可以在随后操作生成的 ML 模型,由于无法直观看到改进造成的影响,在某些 “错误” 情况下,如何在不影响其他正确情况的情况下更改 ML 模型的输出又成为了一个新的难题。

热门文章

暂无图片
编程学习 ·

Java输出数组的内容

Java输出数组的内容_一万个小时-CSDN博客_java打印数组内容1. 输出内容最常见的方式// List<String>类型的列表List<String> list new ArrayList<String>();list.add("First");list.add("Second");list.add("Third");list.ad…
暂无图片
编程学习 ·

母螳螂的“魅惑之术”

在它们对大蝗虫发起进攻的时候&#xff0c;我认认真真地观察了一次&#xff0c;因为它们突然像触电一样浑身痉挛起来&#xff0c;警觉地面对限前这个大家伙&#xff0c;然后放下自己优雅的身段和祈祷的双手&#xff0c;摆出了一个可怕的姿势。我被眼前的一幕吓到了&#xff0c;…
暂无图片
编程学习 ·

疯狂填词 mad_libs 第9章9.9.2

#win7 python3.7.0 import os,reos.chdir(d:\documents\program_language) file1open(.\疯狂填词_d9z9d2_r.txt) file2open(.\疯狂填词_d9z9d2_w.txt,w) words[ADJECTIVE,NOUN,VERB,NOUN] str1file1.read()#方法1 for word in words :word_replaceinput(fEnter a {word} :)str1…
暂无图片
编程学习 ·

HBASE 高可用

为了保证HBASE是高可用的,所依赖的HDFS和zookeeper也要是高可用的. 通过参数hbase.rootdir指定了连接到Hadoop的地址,mycluster表示为Hadoop的集群. HBASE本身的高可用很简单,只要在一个健康的集群其他节点通过命令 hbase-daemon.sh start master启动一个Hmaster进程,这个Hmast…
暂无图片
编程学习 ·

js事件操作语法

一、事件的绑定语法 语法形式1 事件监听 标签对象.addEventListener(click,function(){}); 语法形式2 on语法绑定 标签对象.onclick function(){} on语法是通过 等于赋值绑定的事件处理函数 , 等于赋值本质上执行的是覆盖赋值,后赋值的数据会覆盖之前存储的数据,也就是on…
暂无图片
编程学习 ·

Photoshop插件--晕影动态--选区--脚本开发--PS插件

文章目录1.插件界面2.关键代码2.1 选区2.2 动态晕影3.作者寄语PS是一款栅格图像编辑软件&#xff0c;具有许多强大的功能&#xff0c;本文演示如何通过脚本实现晕影动态和选区相关功能&#xff0c;展示从互联网收集而来的一个小插件&#xff0c;供大家学习交流&#xff0c;请勿…
暂无图片
编程学习 ·

vs LNK1104 无法打开文件“xxx.obj”

写在前面&#xff1a; 向大家推荐两本新书&#xff0c;《深度学习计算机视觉实战》和《学习OpenCV4&#xff1a;基于Python的算法实战》。 《深度学习计算机视觉实战》讲了计算机视觉理论基础&#xff0c;讲了案例项目&#xff0c;讲了模型部署&#xff0c;这些项目学会之后可以…
暂无图片
编程学习 ·

工业元宇宙的定义与实施路线图

工业元宇宙的定义与实施路线图 李正海 1 工业元宇宙 给大家做一个关于工业元宇宙的定义。对于工业&#xff0c;从设计的角度来讲&#xff0c;现在的设计人员已经做到了普遍的三维设计&#xff0c;但是进入元宇宙时代&#xff0c;就不仅仅只是三维设计了&#xff0c;我们的目…
暂无图片
编程学习 ·

【leectode 2022.1.15】完成一半题目

有 N 位扣友参加了微软与力扣举办了「以扣会友」线下活动。主办方提供了 2*N 道题目&#xff0c;整型数组 questions 中每个数字对应了每道题目所涉及的知识点类型。 若每位扣友选择不同的一题&#xff0c;请返回被选的 N 道题目至少包含多少种知识点类型。 示例 1&#xff1a…
暂无图片
编程学习 ·

js 面试题总结

一、js原型与原型链 1. prototype 每个函数都有一个prototype属性&#xff0c;被称为显示原型 2._ _proto_ _ 每个实例对象都会有_ _proto_ _属性,其被称为隐式原型 每一个实例对象的隐式原型_ _proto_ _属性指向自身构造函数的显式原型prototype 3. constructor 每个prot…
暂无图片
编程学习 ·

java练习代码

打印自定义行数的空心菱形练习代码如下 import java.util.Scanner; public class daYinLengXing{public static void main(String[] args) {System.out.println("请输入行数");Scanner myScanner new Scanner(System.in);int g myScanner.nextInt();int num g%2;//…
暂无图片
编程学习 ·

RocketMQ-什么是死信队列?怎么解决

目录 什么是死信队列 死信队列的特征 死信消息的处理 什么是死信队列 当一条消息初次消费失败&#xff0c;消息队列会自动进行消费重试&#xff1b;达到最大重试次数后&#xff0c;若消费依然失败&#xff0c;则表明消费者在正常情况下无法正确地消费该消息&#xff0c;此时…
暂无图片
编程学习 ·

项目 cg day04

第4章 lua、Canal实现广告缓存 学习目标 Lua介绍 Lua语法 输出、变量定义、数据类型、流程控制(if..)、循环操作、函数、表(数组)、模块OpenResty介绍(理解配置) 封装了Nginx&#xff0c;并且提供了Lua扩展&#xff0c;大大提升了Nginx对并发处理的能&#xff0c;10K-1000K Lu…
暂无图片
编程学习 ·

输出三角形

#include <stdio.h> int main() { int i,j; for(i0;i<5;i) { for(j0;j<i;j) { printf("*"); } printf("\n"); } }
暂无图片
编程学习 ·

stm32的BOOTLOADER学习1

序言 最近计划学习stm32的BOOTLOADER学习,把学习过程记录下来 因为现在网上STM32C8T6还是比较贵的,根据我的需求flash空间小一些也可以,所以我决定使用stm32c6t6.这个芯片的空间是32kb的。 #熟悉芯片内部的空间地址 1、flash ROM&#xff1a; 大小32KB&#xff0c;范围&#xf…
暂无图片
编程学习 ·

通过awk和shell来限制IP多次访问之学不会你打死我

学不会你打死我 今天我们用shell脚本&#xff0c;awk工具来分析日志来判断是否存在扫描器来进行破解网站密码——限制访问次数过多的IP地址&#xff0c;通过Iptables来进行限制。代码在末尾 首先我们要先查看日志的格式&#xff0c;分析出我们需要筛选的内容&#xff0c;日志…
暂无图片
编程学习 ·

Python - 如何像程序员一样思考

在为计算机编写程序之前&#xff0c;您必须学会如何像程序员一样思考。学习像程序员一样思考对任何学生都很有价值。以下步骤可帮助任何人学习编码并了解计算机科学的价值——即使他们不打算成为计算机科学家。 顾名思义&#xff0c;Python经常被想要学习编程的人用作第一语言…
暂无图片
编程学习 ·

蓝桥杯python-数字三角形

问题描述 虽然我前后用了三种做法&#xff0c;但是我发现只有“优化思路_1”可以通过蓝桥杯官网中的测评&#xff0c;但是如果用c/c的话&#xff0c;每个都通得过&#xff0c;足以可见python的效率之低&#xff08;但耐不住人家好用啊&#xff08;哭笑&#xff09;&#xff09…