【python爬虫抓包】Charles抓包工具的下载与配置
Charles下载地址:Charles官网
点击下载:( 注册:charles )
一、配置代理
点击 Proxy->Proxy Settings
,勾选成图中所示,点击OK
二、配置HTTPS
如果没有配置HTTPS,点击抓取的网页是乱码,因为被加密了,所以需要配置HTTPS,使网页可以明文显示
未配置https,网站下显示unknow,contents显示乱码:
-
配置SSL证书:
点击help->SSL Proxying->Install Charles Root Certificate
如图,对于初次安装的用户,会显示如下:
点击安装证书点击下一步,初次安装的用户,需要将证书安装到受信任的根证书颁发机构
点击下一步,点击完成:
导入成功之后,重启Charles,在点击安装证书,就正常显示了 -
配置代理端口
配置完上述证书之后,可能还会出现乱码,需要配置代理端口。
点击Proxy -> SSL Proxying Settings
点击Enable SSL Proxying 启用代理
点击Add添加https端口号(443)
点击OK。当然了,最牛逼的还是要数:
-
测试
原来没有配置是这个样子:
配置之后,点击左上角的扫把图标清空目前的列表,重新抓包:
可以看到成功了
三、Charles配置手机端(设置手机HTTP代理)
-
下载夜神模拟器:https://www.yeshen.com/ 并安装
-
安装成功后如图:
-
配置wifi
点击系统应用->设置
点击WLAN
长按wifi选项,选择修改网络:
点击高级选项:点击代理,选择,手动
显示如图:
这时,在windows的cmd下,查看本机的ip地址:
在Charles中查看一开始设置的代理端口号,点击Proxy->Proxy Settings
:
以上,配置代理服务器的IP和端口号都有了,填入,并点击保存。: -
测试Charles是否可以抓包手机端
点开浏览器,这时会显示:
点击Allow,进行上网。下载时光网专业版:时光网apk,注意要下载apk版,不要下载exe版
下载完成后,将apk拖入模拟器中。模拟器自动进行安装。安装成功后点击进入,这时有的需要更新,可以选择取消不更新
点开后:
可以看到网速太卡了…但是已经渲染出电影名字了。按理来说Charles应该已经抓到了。在Charles里面按 ctrl +f 进行搜索,如:盗梦空间
可以看到已经抓到了
找到对应的网络地址:
将URL粘贴进入浏览器访问:
可以看到一堆电影信息。至此测试完毕