Cloudflare WAF反爬处理

举报
冬晨夕阳 发表于 2022/03/29 22:23:22 2022/03/29
【摘要】 案例地址:https://www.semi.org/en/news-media-press/semi-press-releases 看似普通的get请求,但在本地拿requests请求会返回需要验证 ...

案例地址:https://www.semi.org/en/news-media-press/semi-press-releases

看似普通的get请求,但在本地拿requests请求会返回需要验证
在这里插入图片描述

通过观察可以发现,这是 Cloudflare的反爬措施。

一般情况,只要过了中间的校验,就能正常访问了。


在验证的位置有一个form表单。此时可以判断,如果ID等于challenge-form的元素,那么则需要校验。
在这里插入图片描述
但是html中并没有找到submit的位置。倒是有几个隐藏的input框。


猜测检验过程就在JS文件中, 不过并没有具体看。

网上已经有人开源了解决方法, pip install cloudscraper

示例代码:

import cloudscraper
url = ''
scraper = cloudscraper.create_scraper()
html = scraper.get(url).text

  
 
  • 1
  • 2
  • 3
  • 4

文章来源: blog.csdn.net,作者:考古学家lx,版权归原作者所有,如需转载,请联系作者。

原文链接:blog.csdn.net/weixin_43582101/article/details/122664956

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。