爬虫学习笔记(十七)—— 字符验证码

文章目录

  • 一、认识验证码
    • 1.1、概念
    • 1.2、作用
    • 1.3、类别
  • 二、Pillow库
    • 2.1、PIL库和Pillow库
      • 2.1.1、Pillow库安装
      • 2.1.2、PIL与Pillow使用注意
    • 2.2、图形基本概念
      • 2.2.1、尺寸
      • 2.2.2、坐标系统
      • 2.2.3、通道
    • 2.3、图像获取
    • 2.4、获取图像通道
  • 三、简单验证码处理
    • 3.1、灰度化
      • 3.1.1、最大值法
      • 3.1.2、平均值法
    • 3.2、二值化
    • 3.3、降噪
  • 四、Tesseract识别
    • 4.1、OCR识别概念
    • 4.2、Tesseract-OCR
    • 4.3、Pytesser3

一、认识验证码

1.1、概念

验证码(CAPTCHA)是“Completely Automated Public Turing test to tell Computers and Humans Apart”(全自动区分计算机和人类的图灵测试)的缩写,是一种用来区分用户是计算机还是人的公共全自动程序。


1.2、作用

认证码是一种人机识别手段,最终目的是区分正常用户和机器的操作。

可以防止:恶意破解密码、注册、刷票、论坛灌水,防止黑客对用户的密码进行暴力破解。

一般是提出一个问题,这个问题可以由计算机生成并评判,但是必须只有人类才能解答。由于计算机无法解答这个的问题,所以回答出问题的用户就可以被认为是人类。


1.3、类别

图形验证码

这类验证码大多是计算机随机产生一个字符串,在把字符串增加噪点、干扰线、变形、重叠、不同颜色、扭曲组成一张图片来增加识别难度。

滑动验证码

也叫行为验证码,比较流行的一种验证码,通过用户的操作行为来完成验证,其中最出名的就是极验。滑动验证码的原理就是使用机器学习中的深度学习技术,根据一些特征来区分是否为正常用户。通过记录用户的滑动速度,还有每一小段时间的瞬时速度,用户鼠标点击情况,以及滑动后的匹配程度来识别。而且,不是说滑动到正确位置就是验证通过,而是根据特征识别来区分是否为真用户,滑到正确位置只是一个必要条件。

点触验证码

点击类验证码都是给出一张包含文字的图片,通过文字提醒用户点击图中相同字的位置进行验证。


二、Pillow库

2.1、PIL库和Pillow库

PIL库

PIL (Python Image Library) 已经算是 Python 处理图片的标准库了,兼具强大的功能和简洁的 API,但是PIL库的更新非常缓慢, 并且它只支持到python2.7,不支python3。

Pillow库

由于PIL库更新太慢了,于是一群志愿者在PIL库的基础上创建的分支版本,命名为Pillow.
Pillow目前最新支持到python3.6,它的维护和开发十分活跃,兼容PIL库的绝大多数语法,并且增加了许多新的特性,推荐直接使用Pillow


2.1.1、Pillow库安装

命令:

pip install  pillow

2.1.2、PIL与Pillow使用注意

Pillow和PIL不能共存在一个环境中,如果你之前安装了PIL的话,需要删除掉才能在安装Pillow
由于是继承自PIL的分支, 所以Pillow库的导入是这样的:

Import PIL

2.2、图形基本概念

2.2.1、尺寸

图片尺寸(size)指的是图片的宽度和高度,通过size属性可以获取图片的尺寸,它的返回值是一个元组,元组里面有两个值,分别是水平和垂直方向上的像素个数。

代码示例:

from PIL import Image
img = Image.open('xxx.png')  #参数:图片位置
print(img.size)  #(xxx,xxx)

2.2.2、坐标系统

使用笛卡尔像素坐标系,x轴从左到右,y轴从上到下增长


2.2.3、通道

图片均是由一个或者多个数据通道构成。

RGB图像:每张图片都是由三个数据通道叠加构成,分别为R 、G 、B。

PNG图像:有RGBA四个通道,A代表透明度。

灰度图像(没有色彩的图片, RGB色彩分量全部相等):只有一个通道。

灰度指的是黑白图像中点的颜色深度,范围一般是0到255, 白色为255,黑色为0。


2.3、图像获取

  1. 从文件中加载图像

例:

from PIL import Image
img = Image.open('dog2.png')  #open参数: 图片的位置
  1. 创建一个新的图像

例:

img =Image.new("RGB",(200,100),"red")

注意:这里的最后一个参数可以用ImageColor里面的colormap来获得更多初始化的颜色。

  1. 切割图片

函数:

Image.crop(left, up, right, below)

参数:
① left:与左边界的距离
② up:与上边界的距离
③ right:还是与左边界的距离
④ below:还是与上边界的距离

例:

from PIL import Image

img = Image.open('dog2.png')
w,h = img.size

# 准备将图片切割成9张小图片
weight = int(w // 3)
height = int(h // 3)
# 切割后的小图的宽度和高度
print(weight, height)

for j in range(3):
    for i in range(3):
        box = (weight * i, height * j, weight * (i + 1), height * (j + 1))
        region = img.crop(box)
        region.save('imgs/{}{}.png'.format(j, i))

结果:


2.4、获取图像通道

函数:getbands()

例:

from PIL import Image

img = Image.open('dog2.png')
print(img.getbands())  # ('R', 'G', 'B')

三、简单验证码处理

3.1、灰度化

灰度图像上每个像素的颜色值又称为灰度,指黑白图像中点的颜色深度,范围一般从0到255,白色为255,黑色为0。所谓灰度值是指色彩的浓淡程度,灰度直方图是指一幅数字图像中,对应每一个灰度值统计出具有该灰度值的象素数。

灰度就是没有色彩,RGB色彩分量全部相等。如果是一个二值灰度图象,它的象素值只能为0或1,我们说它的灰度级为2。用个例子来说明吧:一个256级灰度的图象,如果RGB三个量相同时,如:RGB(100,100,100)就代表灰度为100,RGB(50,50,50)代表灰度为50。

现在大部分的彩色图像都是采用RGB颜色模式,处理图像的时候,要分别对RGB三种分量进行处理,实际上RGB并不能反映图像的形态特征,只是从光学的原理上进行颜色的调配。

图像灰度化处理可以作为图像处理的预处理步骤,为之后的图像分割、图像识别和图像分析等上层操作做准备。

目的: 为二值化做准备

彩色变黑白,三通道变成一个通道

图片的灰度化,就是让像素点矩阵中的每一个像素点满足 R=G=B,此时这个值叫做灰度值,白色为255,黑色为0

灰度转化一般公式为:

 R=G=B = 处理前的 RX0.3 + GX0.59 + B*0.11

这种灰度转化方法被称为加权平均法。

根据重要性及其它指标,将三个分量以不同的权值进行加权平均。由于人眼对绿色的敏感最高,对蓝色敏感最低,因此,对RGB三分量进行加权平均能得到较合理的灰度图像。除了这种灰度转化方法另外还有两种方法,大家稍作了解:

3.1.1、最大值法

将彩色图像中的三分量亮度的最大值作为灰度图的灰度值。

3.1.2、平均值法

将彩色图像中的三分量亮度求平均得到一个灰度值。

函数:im = img.convert('L')

例:

from PIL import Image

img = Image.open('code.jpeg')
img.show()
im = img.convert('L')  #转为灰度图
print(im.getbands())  #('L',)
im.show()

结果 (左:原图,右:灰度图):


3.2、二值化

图像的二值化,就是将图像的像素点矩阵中的每个像素点的灰度值设置为0(黑色)或255(白色),从而实现二值化,将整个图像呈现出明显的只有黑和白的视觉效果。

二值化原理是利用设定的一个阈值来判断图像像素是0还是255, 一般小于阈值的像素点变为0, 大于的变成255,这个临界灰度值就被称为阈值,阈值的设置很重要,阈值过大或过小都会对图片造成损坏,选择阈值的原则是:既要尽可能保存图片信息,又要尽可能减少背景和噪声的干扰。

常用阈值选择的方法是:

  • 灰度平均值值法: 取127 (0~255的中数, (0+255)/2 = 127)
  • 平均值法:
    计算像素点矩阵中的所有像素点的灰度值的平均值avg
  • 迭代法:
    选择一个近似阈值作为估计值的初始值(比如全图像的平均灰度),然后进行分割图像,产生两组像素,一组大于初始灰度值,另一组小于初始灰度值,根据产生的子图像的特征来选取新的阈值,在利用新的阈值分割图像,经过多次循环,使得错误分割的图像像素点降到最小。

代码(迭代法)

def ImgBinaryzation(img_gray):  #灰度图二值化  传入的图片为灰度图
    w,h=img_gray.size
    temp = 0
    for i in range(w):
        for j in range(h):
            temp += img_gray.getpixel((i,j))
    # 阈值
    avg_pixel = temp /(i*j)
	#像素点和阈值比较
    for x in range(w):
        for y in range(h):
            img_pixel = img_gray.getpixel((x,y))
            if img_pixel < avg_pixel:  #小于像素点 像素点设为0
                img_gray.putpixel((x,y),0)
            else:   #不小于像素点 像素点设为255
                img_gray.putpixel((x,y),255)  
    return img_gray

示例

from PIL import Image

img = Image.open('code.jpeg')
img_gray = img.convert('L')

def ImgBinaryzation(img_gray):  #灰度图二值化
    w,h=img_gray.size
    temp = 0
    for i in range(w):
        for j in range(h):
            temp += img_gray.getpixel((i,j))
    # 阈值  如果二值化效果不好,可以再根据结果乘以百分比
    avg_pixel = temp /(i*j)
	#像素点和阈值比较
    for x in range(w):
        for y in range(h):
            img_pixel = img_gray.getpixel((x,y))
            if img_pixel < avg_pixel:  #小于像素点 像素点设为0
                img_gray.putpixel((x,y),0)
            else:   #不小于像素点 像素点设为255
                img_gray.putpixel((x,y),255)  
    return img_gray

pic = img_binaryzation(img_gray)
pic.show()

结果 (左:原图,右:二值化结果):


3.3、降噪

目的:清除干扰点,让图片更清晰,让计算机更利于识别。

降噪原理:

孤立的噪点,他的周围应该都是白色,或者大多数点都是白色的,所以在判断的时候条件应该放宽,一个点是黑色并且相邻的点为白色的点的个数大于一个固定的值,那么这个点就是噪点。

注:这里只是比较简单的讲一下最基本的图像降噪原理,实际上对图像的降噪有很多种,比如高斯滤波统计中值滤波双边滤波等等,这些就要涉及比较深入的图像处理了。

代码

def GetPointList(x,y,prange):  #获取像素点周围的坐标
    for i in range(x-prange,x+prange+1):
        for j in range(y-prange,y+prange+1):
            if x==i and y == j:
                continue
            yield i,j

def reduceNoise(img_binary):  #二值化后再进行降噪
    w,h = img_binary.size
    prange = 3   #到边界的范围   自己根据降噪效果进行调试
    bound_rate = 0.14  #设置边界比例   自己根据降噪效果进行调试
    count_rate = 0.56  #设置像素点周围灰度值为255的比例    自己根据降噪效果进行调试
    for i in range(w):
        for j in range(h):
            # 处理边界 变白
            if i<bound_rate*w or i>w*(1 - bound_rate) or j<bound_rate*h or j>h*(1 - bound_rate):
                img_binary.putpixel((i,j),255)
                continue
            img_pixel = img_binary.getpixel((i,j))
            if img_pixel < 200:  #二值图像素点只有0和255,随便取个中间的值就行
                count = 0
                for x,y in GetPointList(i,j,prange):
                    if img_binary.getpixel((x,y)) >200:  #计算该像素点周围灰度值为255的个数
                        count += 1
                    if count > count_rate * ((prange*2+1)**2 - 2):  #像素点周围灰度值为255的个数是否超过一定比例来判断是否是噪点
                        img_binary.putpixel((i,j),255)
    return img_binary

示例:

from PIL import Image

img = Image.open('code.jpeg')
img_gray = img.convert('L')

def ImgBinaryzation(img_gray):  #灰度图二值化
    w,h=img_gray.size
    temp = 0
    for i in range(w):
        for j in range(h):
            temp += img_gray.getpixel((i,j))
    # 阈值
    avg_pixel = temp /(i*j)
	#像素点和阈值比较
    for x in range(w):
        for y in range(h):
            img_pixel = img_gray.getpixel((x,y))
            if img_pixel < avg_pixel:  #小于像素点 像素点设为0
                img_gray.putpixel((x,y),0)
            else:   #不小于像素点 像素点设为255
                img_gray.putpixel((x,y),255)
    return img_gray

def GetPointList(x,y,prange):  #获取像素点周围的坐标
    for i in range(x-prange,x+prange+1):
        for j in range(y-prange,y+prange+1):
            if x==i and y == j:
                continue
            yield i,j

def reduceNoise(img_binary):  #二值化后再进行降噪
    w,h = img_binary.size
    prange = 3   #到边界的范围   自己根据降噪效果进行调试
    bound_rate = 0.14  #设置边界比例   自己根据降噪效果进行调试
    count_rate = 0.56  #设置像素点周围灰度值为255的比例    自己根据降噪效果进行调试
    for i in range(w):
        for j in range(h):
            img_pixel = img_binary.getpixel((i,j))
            if img_pixel < 200:  #二值图像素点只有0和255,随便取个中间的值就行
                count = 0
                for x,y in GetPointList(i,j,prange):
                    if img_binary.getpixel((x,y)) >200:  #计算该像素点周围灰度值为255的个数
                        count += 1
                    if count > count_rate * ((prange*2+1)**2 - 2):  #像素点周围灰度值为255的个数是否超过一定比例来判断是否是噪点
                        img_binary.putpixel((i,j),255)
    return img_binary

pic = ImgBinaryzation(img_gray.copy())
for i in range(2):  #可能第一遍降噪效果不大会,进行多次处理
    pic = reduceNoise(pic.copy())

pic.show()

结果 (左:原图,右:降噪结果):


四、Tesseract识别

4.1、OCR识别概念

OCR (Optical Character Recognition)光学字符识别, 指的是对文本资料的图像文件进行分析识别处理,获取文集及版面信息的过程


4.2、Tesseract-OCR

一个开源的字符识别引擎,我们可以用他来识别一些简单的验证码。

Windows下安装:

https://digi.bib.uni-mannheim.de/tesseract/ 可自行下载,点击下一步即可;

Linux安装:

sudo apt-get install tesseract-ocr
sudo apt-get install libtesseract-dev

Mac安装:

brew install tesseract

4.3、Pytesser3

是一个在Python内使用Tesseract-Ocr的库,

Pytesseract文档:https://pypi.org/project/pytesseract/

安装pip install Pytesseract

需要配置:

方法一:将pytesseract包下面__init__文件内tesseract_exe_name的值设置为你的tesseract.exe的路径。

方法二:在代码中指定

pytesseract.pytesseract.tesseract_cmd = r'X:\xxx\tesseract.exe'

示例

import pytesseract
from PIL import Image

pic = Image.open('reduceNoise.png')  #图片为上面降噪结果图
print(pytesseract.image_to_string(pic))
# 结果:7364

注意
Pytesseract识别效果不佳,如果想提高识别率,可以使用jTessBoxEditor对Tesseract进行简单的训练。OCR是一个专门的图像处理的领域,高精度的识别需要依靠深度学习、神经网络等技术。

热门文章

暂无图片
编程学习 ·

Java输出数组的内容

Java输出数组的内容_一万个小时-CSDN博客_java打印数组内容1. 输出内容最常见的方式// List<String>类型的列表List<String> list new ArrayList<String>();list.add("First");list.add("Second");list.add("Third");list.ad…
暂无图片
编程学习 ·

母螳螂的“魅惑之术”

在它们对大蝗虫发起进攻的时候&#xff0c;我认认真真地观察了一次&#xff0c;因为它们突然像触电一样浑身痉挛起来&#xff0c;警觉地面对限前这个大家伙&#xff0c;然后放下自己优雅的身段和祈祷的双手&#xff0c;摆出了一个可怕的姿势。我被眼前的一幕吓到了&#xff0c;…
暂无图片
编程学习 ·

疯狂填词 mad_libs 第9章9.9.2

#win7 python3.7.0 import os,reos.chdir(d:\documents\program_language) file1open(.\疯狂填词_d9z9d2_r.txt) file2open(.\疯狂填词_d9z9d2_w.txt,w) words[ADJECTIVE,NOUN,VERB,NOUN] str1file1.read()#方法1 for word in words :word_replaceinput(fEnter a {word} :)str1…
暂无图片
编程学习 ·

HBASE 高可用

为了保证HBASE是高可用的,所依赖的HDFS和zookeeper也要是高可用的. 通过参数hbase.rootdir指定了连接到Hadoop的地址,mycluster表示为Hadoop的集群. HBASE本身的高可用很简单,只要在一个健康的集群其他节点通过命令 hbase-daemon.sh start master启动一个Hmaster进程,这个Hmast…
暂无图片
编程学习 ·

js事件操作语法

一、事件的绑定语法 语法形式1 事件监听 标签对象.addEventListener(click,function(){}); 语法形式2 on语法绑定 标签对象.onclick function(){} on语法是通过 等于赋值绑定的事件处理函数 , 等于赋值本质上执行的是覆盖赋值,后赋值的数据会覆盖之前存储的数据,也就是on…
暂无图片
编程学习 ·

Photoshop插件--晕影动态--选区--脚本开发--PS插件

文章目录1.插件界面2.关键代码2.1 选区2.2 动态晕影3.作者寄语PS是一款栅格图像编辑软件&#xff0c;具有许多强大的功能&#xff0c;本文演示如何通过脚本实现晕影动态和选区相关功能&#xff0c;展示从互联网收集而来的一个小插件&#xff0c;供大家学习交流&#xff0c;请勿…
暂无图片
编程学习 ·

vs LNK1104 无法打开文件“xxx.obj”

写在前面&#xff1a; 向大家推荐两本新书&#xff0c;《深度学习计算机视觉实战》和《学习OpenCV4&#xff1a;基于Python的算法实战》。 《深度学习计算机视觉实战》讲了计算机视觉理论基础&#xff0c;讲了案例项目&#xff0c;讲了模型部署&#xff0c;这些项目学会之后可以…
暂无图片
编程学习 ·

工业元宇宙的定义与实施路线图

工业元宇宙的定义与实施路线图 李正海 1 工业元宇宙 给大家做一个关于工业元宇宙的定义。对于工业&#xff0c;从设计的角度来讲&#xff0c;现在的设计人员已经做到了普遍的三维设计&#xff0c;但是进入元宇宙时代&#xff0c;就不仅仅只是三维设计了&#xff0c;我们的目…
暂无图片
编程学习 ·

【leectode 2022.1.15】完成一半题目

有 N 位扣友参加了微软与力扣举办了「以扣会友」线下活动。主办方提供了 2*N 道题目&#xff0c;整型数组 questions 中每个数字对应了每道题目所涉及的知识点类型。 若每位扣友选择不同的一题&#xff0c;请返回被选的 N 道题目至少包含多少种知识点类型。 示例 1&#xff1a…
暂无图片
编程学习 ·

js 面试题总结

一、js原型与原型链 1. prototype 每个函数都有一个prototype属性&#xff0c;被称为显示原型 2._ _proto_ _ 每个实例对象都会有_ _proto_ _属性,其被称为隐式原型 每一个实例对象的隐式原型_ _proto_ _属性指向自身构造函数的显式原型prototype 3. constructor 每个prot…
暂无图片
编程学习 ·

java练习代码

打印自定义行数的空心菱形练习代码如下 import java.util.Scanner; public class daYinLengXing{public static void main(String[] args) {System.out.println("请输入行数");Scanner myScanner new Scanner(System.in);int g myScanner.nextInt();int num g%2;//…
暂无图片
编程学习 ·

RocketMQ-什么是死信队列?怎么解决

目录 什么是死信队列 死信队列的特征 死信消息的处理 什么是死信队列 当一条消息初次消费失败&#xff0c;消息队列会自动进行消费重试&#xff1b;达到最大重试次数后&#xff0c;若消费依然失败&#xff0c;则表明消费者在正常情况下无法正确地消费该消息&#xff0c;此时…
暂无图片
编程学习 ·

项目 cg day04

第4章 lua、Canal实现广告缓存 学习目标 Lua介绍 Lua语法 输出、变量定义、数据类型、流程控制(if..)、循环操作、函数、表(数组)、模块OpenResty介绍(理解配置) 封装了Nginx&#xff0c;并且提供了Lua扩展&#xff0c;大大提升了Nginx对并发处理的能&#xff0c;10K-1000K Lu…
暂无图片
编程学习 ·

输出三角形

#include <stdio.h> int main() { int i,j; for(i0;i<5;i) { for(j0;j<i;j) { printf("*"); } printf("\n"); } }
暂无图片
编程学习 ·

stm32的BOOTLOADER学习1

序言 最近计划学习stm32的BOOTLOADER学习,把学习过程记录下来 因为现在网上STM32C8T6还是比较贵的,根据我的需求flash空间小一些也可以,所以我决定使用stm32c6t6.这个芯片的空间是32kb的。 #熟悉芯片内部的空间地址 1、flash ROM&#xff1a; 大小32KB&#xff0c;范围&#xf…
暂无图片
编程学习 ·

通过awk和shell来限制IP多次访问之学不会你打死我

学不会你打死我 今天我们用shell脚本&#xff0c;awk工具来分析日志来判断是否存在扫描器来进行破解网站密码——限制访问次数过多的IP地址&#xff0c;通过Iptables来进行限制。代码在末尾 首先我们要先查看日志的格式&#xff0c;分析出我们需要筛选的内容&#xff0c;日志…
暂无图片
编程学习 ·

Python - 如何像程序员一样思考

在为计算机编写程序之前&#xff0c;您必须学会如何像程序员一样思考。学习像程序员一样思考对任何学生都很有价值。以下步骤可帮助任何人学习编码并了解计算机科学的价值——即使他们不打算成为计算机科学家。 顾名思义&#xff0c;Python经常被想要学习编程的人用作第一语言…
暂无图片
编程学习 ·

蓝桥杯python-数字三角形

问题描述 虽然我前后用了三种做法&#xff0c;但是我发现只有“优化思路_1”可以通过蓝桥杯官网中的测评&#xff0c;但是如果用c/c的话&#xff0c;每个都通得过&#xff0c;足以可见python的效率之低&#xff08;但耐不住人家好用啊&#xff08;哭笑&#xff09;&#xff09…