演示:
我们需要爬的网站模拟的请求如下:
content-type form data
因为写惯了content-type
是application/json
的格式了,所以习以为常的把form-data
写成了Python
中的dict
格式,结果一直报400
的错误,错误代码大致如下:
import requests
headers = {
"content-type":
}
data = {
"f.req": xxx,
"at": xxx
}
requests.post(url=url,headers=headers,data=data)
之后结合之前做服务端的时候经常被这个content-type
搞懵逼的经历,就看出请求方式的错误,于是把代码改成了这样,就完美的收到200
的响应了。
import requests
from urllib.parse import urlencode
headers = {
"content-type":
}
data = {
"f.req": xxx,
"at": xxx
}
data = urlencode(data)
requests.post(url=url,headers=headers,data=data)
扩展:
- multipart/form-data
- application/json
- text/xml
以上是四种常见的POST
提交数据的方式,我们知道,HTTP
协议是以 ASCII 码传输(可参考),建立在 TCP/IP 协议之上的应用层规范。规范把 HTTP 请求分为三个部分:状态行
、请求头
、消息主体
。类似于下面这样
<method> <request-URL> <version>
<headers>
<entity-body>
议规定 POST
提交的数据必须放在消息主体(entity-body)
中,但协议并没有规定数据必须使用什么编码方式。实际上,开发者完全可以自己决定消息主体的格式,只要最后发送的 HTTP 请求满足上面的格式就可以。
但是,数据发送出去,还要服务端解析成功才有意义。一般服务端语言如 php、python 等,以及它们的 framework,都内置了自动解析常见数据格式的功能。服务端通常是根据请求头(headers)中的 Content-Type
字段来获知请求中的消息主体是用何种方式编码,再对主体进行解析。所以说到 POST
提交数据方案,包含了 Content-Type
和消息主体编码方式
两部分。下面就正式开始介绍它们。
这应该是最常见的 POST
提交数据的方式了。浏览器的原生form
表单,如果不设置enctype
属性,那么最终就会以 方式提交数据。请求类似于下面这样(无关的请求头在本文中都省略掉了):
POST HTTP/1.1
Content-Type:
title=test&sub%5B%5D=1&sub%5B%5D=2&sub%5B%5D=3
2.multipart/form-data
这又是一个常见的 POST
数据提交的方式。我们使用表单上传文件时,必须让 form
的 enctyped
等于这个值。直接来看一个请求示例:
POST HTTP/1.1
Content-Type:multipart/form-data; boundary=----WebKitFormBoundaryrGKCBY7qhFd3TrwA
------WebKitFormBoundaryrGKCBY7qhFd3TrwA
Content-Disposition: form-data; name="text"
title
------WebKitFormBoundaryrGKCBY7qhFd3TrwA
Content-Disposition: form-data; name="file"; filename="chrome.png"
Content-Type: image/png
PNG ... content of chrome.png ...
------WebKitFormBoundaryrGKCBY7qhFd3TrwA--
3.application/json
application/json
这个 Content-Type
作为响应头大家肯定不陌生。实际上,现在越来越多的人把它作为请求头,用来告诉服务端消息主体是序列化后的 JSON
字符串。由于 JSON
规范的流行,除了低版本 IE 之外的各大浏览器都原生支持 JSON.stringify
,服务端语言也都有处理 JSON
的函数,使用JSON
不会遇上什么麻烦。
JSON
格式支持比键值对复杂得多的结构化数据,这一点也很有用。
POST HTTP/1.1
Content-Type: application/json;charset=utf-8
{"title":"test","sub":[1,2,3]}
这种方案,可以方便的提交复杂的结构化数据,特别适合RESTful
的接口。各大抓包工具如Chrome
自带的开发者工具、Firebug
、Fiddler
,都会以树形结构展示 JSON
数据,非常友好。
4.text/xml
它是一种使用 HTTP
作为传输协议,XML
作为编码方式的远程调用规范。典型的XML-RPC
请求是这样的:
POST HTTP/1.1
Content-Type: text/xml
<?xml version="1.0"?>
<methodCall>
<methodName>examples.getStateName</methodName>
<params>
<param>
<value><i4>41</i4></value>
</param>
</params>
</methodCall>
总结:
以上就是关于四种POST
提交数据的方式的不同了,大家可以仔细结合参考资料好好领会。