如何在Python 2中发送HEAD HTTP请求?

我在这里要做的是得到一个给定的网址头,所以我可以确定MIME类型。 我希望能够看到http://somedomain/foo/将返回一个HTML文档或JPEG图像为例。 因此,我需要弄清楚如何发送HEAD请求,以便我可以读取MIME类型,而无需下载内容。 有没有人知道这样做的简单方法?

编辑 :这个答案的作品,但现在你应该只是使用请求库,如下面的其他答案所述。


使用httplib 。

 >>> import httplib >>> conn = httplib.HTTPConnection("www.google.com") >>> conn.request("HEAD", "/index.html") >>> res = conn.getresponse() >>> print res.status, res.reason 200 OK >>> print res.getheaders() [('content-length', '0'), ('expires', '-1'), ('server', 'gws'), ('cache-control', 'private, max-age=0'), ('date', 'Sat, 20 Sep 2008 06:43:36 GMT'), ('content-type', 'text/html; charset=ISO-8859-1')] 

还有一个getheader(name)来获得一个特定的头。

urllib2可以用来执行HEAD请求。 这比使用httplib好一点,因为urllib2为你解析URL而不是要求你将URL分割成主机名和路径。

 >>> import urllib2 >>> class HeadRequest(urllib2.Request): ... def get_method(self): ... return "HEAD" ... >>> response = urllib2.urlopen(HeadRequest("http://google.com/index.html")) 

头像可以通过response.info()像以前一样使用。 有趣的是,你可以找到你被重定向到的URL:

 >>> print response.geturl() http://www.google.com.au/index.html 

强制Requests方式:

 import requests resp = requests.head("http://www.google.com") print resp.status_code, resp.text, resp.headers 

我相信Requests库也应该被提及。

只是:

 import urllib2 request = urllib2.Request('http://localhost:8080') request.get_method = lambda : 'HEAD' response = urllib2.urlopen(request) response.info().gettype() 

编辑:我刚刚意识到有httplib2:D

 import httplib2 h = httplib2.Http() resp = h.request("http://www.google.com", 'HEAD') assert resp[0]['status'] == 200 assert resp[0]['content-type'] == 'text/html' ... 

链接文本

为了完整起见,使用httplib的Python3答案相当于接受的答案。

它基本上是相同的代码,只是该库不再被称为httplib ,而是http.client

 from http.client import HTTPConnection conn = HTTPConnection('www.google.com') conn.request('HEAD', '/index.html') res = conn.getresponse() print(res.status, res.reason) 
 import httplib import urlparse def unshorten_url(url): parsed = urlparse.urlparse(url) h = httplib.HTTPConnection(parsed.netloc) h.request('HEAD', parsed.path) response = h.getresponse() if response.status/100 == 3 and response.getheader('Location'): return response.getheader('Location') else: return url 

另外,当使用httplib(至少在2.5.2)时,试图读取HEAD请求的响应将会阻塞(在readline上)并随后失败。 如果您没有发出读取响应,则无法在连接上发送另一个请求,您将需要打开一个新的请求。 或者接受请求之间的长时间延迟。

我发现httplib比urllib2稍快。 我定时了两个程序 – 一个使用httplib,另一个使用urllib2 – 发送HEAD请求到10,000个URL。 httplib一个更快了几分钟。 httplib的总数据为:real 6m21.334s user 0m2.124s sys 0m16.372s

urllib2的统计数据为:real 9m1.380s user 0m16.666s sys 0m28.565s

其他人对此有何看法?

另一种方法(类似于Pawel的答案):

 import urllib2 import types request = urllib2.Request('http://localhost:8080') request.get_method = types.MethodType(lambda self: 'HEAD', request, request.__class__) 

只是为了避免在实例级别有无限的方法。

可能更容易:使用urllib或urllib2。

 >>> import urllib >>> f = urllib.urlopen('http://google.com') >>> f.info().gettype() 'text/html' 

f.info()是一个类似字典的对象,所以你可以做f.info()['content-type']等。

http://docs.python.org/library/urllib.html
http://docs.python.org/library/urllib2.html
http://docs.python.org/library/httplib.html

该文件指出,httplib通常不直接使用。