JS逆向:猿人学爬虫比赛第十三题详细题解

实战地址

http://match.yuanrenxue.com/match/13

  

抓包分析

地址栏输入 地址，按下F12并回车，发现数据在这里:

如上分析，这是一个典型的cookie反爬，康康cookie相关的字段是啥:

第一次请求时，返回了一个sessionid的cookie:

第二次请求的cookie是这样的:

由于谷歌浏览器第一次请求看不到结果，因此我推荐用火狐浏览器来进行抓包分析:

可以清楚的看到，第一次请求就是直接设置cookie的JavaScript代码，知道这个以后，可以很快的写出源代码:

   

    

     

      

     
     

      

       import re
      
     
    

     

      

     
     

      

       import requests
      
     
    

     

      

     
     

      
 
      
     
    

     

      

     
     

      
 
      
     
    

     

      

     
     

      

       session = requests.Session()
      
     
    

     

      

     
     

      

       headers = {
      
     
    

     

      

     
     

      
 "User-Agent": "yuanrenxue.project",
      
     
    

     

      

     
     

      

        }
      
     
    

     

      

     
     

      
 
      
     
    

     

      

     
     

      
 
      
     
    

     

      

     
     

      

       url = "http://match.yuanrenxue.com/match/13"
      
     
    

     

      

     
     

      

       r = session.get(url)
      
     
    

     

      

     
     

      

       reg = re.compile("'([a-zA-Z0-9=|_])'")
      
     
    

     

      

     
     

      

       results = reg.findall(r.text)
      
     
    

     

      

     
     

      

       cookie =  ''.join(results)
      
     
    

     

      

     
     

      

       key,value = cookie.split('=')
      
     
    

     

      

     
     

      

       session.cookies.set(key,value)
      
     
    

     

      

     
     

      

       sum = 0
      
     
    

     

      

     
     

      
 
      
     
    

     

      

     
     

      
 
      
     
    

     

      

     
     

      

       for i in range(1,6):
      
     
    

     

      

     
     

      

        api_url =f"http://match.yuanrenxue.com/api/match/13?page={i}"
      
     
    

     

      

     
     

      

        r = session.get(api_url,headers = headers)
      
     
    

     

      

     
     

      

        data = r.json()
      
     
    

     

      

     
     

      

        values = data["data"]
      
     
    

     

      

     
     

      
 for value in values:
      
     
    

     

      

     
     

      

        print (value)
      
     
    

     

      

     
     

      

        sum += value["value"]
      
     
    

     

      

     
     

      
 
      
     
    

     

      

     
     

      
 
      
     
    

     

      

     
     

      

       print (sum)
      
     
   
  

运行后的结果如下:

这个基本没啥难度，对新手来说，是个不错的cookie反爬案例，大概知道什么是cookie反爬，然后就是使用火狐浏览器来进行抓包分析。

主要考察的是正则的使用吧。