Cloudflare WAF反爬处理
【摘要】
案例地址:https://www.semi.org/en/news-media-press/semi-press-releases
看似普通的get请求,但在本地拿requests请求会返回需要验证 ...
案例地址:https://www.semi.org/en/news-media-press/semi-press-releases
看似普通的get请求,但在本地拿requests请求会返回需要验证
通过观察可以发现,这是 Cloudflare的反爬措施。
一般情况,只要过了中间的校验,就能正常访问了。
在验证的位置有一个form表单。此时可以判断,如果ID等于challenge-form的元素,那么则需要校验。
但是html中并没有找到submit的位置。倒是有几个隐藏的input框。
猜测检验过程就在JS文件中, 不过并没有具体看。
网上已经有人开源了解决方法, pip install cloudscraper
示例代码:
import cloudscraper
url = ''
scraper = cloudscraper.create_scraper()
html = scraper.get(url).text
- 1
- 2
- 3
- 4
文章来源: blog.csdn.net,作者:考古学家lx,版权归原作者所有,如需转载,请联系作者。
原文链接:blog.csdn.net/weixin_43582101/article/details/122664956
【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)