webdevqa.jp.net

MultipartPostHandlerを使用してPOST form-data with Python

問題:Pythonのurllib2でデータをPOSTする場合、すべてのデータはURLエンコードされ、Content-Type:application/x-www-form-urlencodedとして送信されます。ファイルをアップロードするとき、代わりにContent-Typeをmultipart/form-dataに設定し、コンテンツをMIMEエンコードする必要があります。この問題の議論はここにあります: http://code.activestate.com/recipes/146306/

この制限を回避するために、一部の鋭いコーダーはMultipartPostHandlerというライブラリを作成しました。これは、urllib2で使用できるOpenerDirectorを作成し、ほとんど自動的にPOST with multipart/form-data。 http://peerit.blogspot.com/2007/07/multipartposthandler-doesnt-work-for.html

Pythonが初めてで、このライブラリを動作させることができません。基本的に次のコードを書きました。ローカルHTTPプロキシでキャプチャすると、データがまだあることがわかります。マルチパートMIMEエンコードではなくURLエンコードです。間違っていることや、これを実現するためのより良い方法を見つけてください。ありがとう:-)

FROM_ADDR = '[email protected]'

try:
    data = open(file, 'rb').read()
except:
    print "Error: could not open file %s for reading" % file
    print "Check permissions on the file or folder it resides in"
    sys.exit(1)

# Build the POST request
url = "http://somedomain.com/?action=analyze"       
post_data = {}
post_data['analysisType'] = 'file'
post_data['executable'] = data
post_data['notification'] = 'email'
post_data['email'] = FROM_ADDR

# MIME encode the POST payload
opener = urllib2.build_opener(MultipartPostHandler.MultipartPostHandler)
urllib2.install_opener(opener)
request = urllib2.Request(url, post_data)
request.set_proxy('127.0.0.1:8080', 'http') # For testing with Burp Proxy

# Make the request and capture the response
try:
    response = urllib2.urlopen(request)
    print response.geturl()
except urllib2.URLError, e:
    print "File upload failed..."

EDIT1:ご回答いただきありがとうございます。これに対するActiveState httplibソリューションを知っています(上記にリンクしました)。私はむしろ問題を抽象化し、最小限のコードを使用してurllib2を使用し続けます。オープナーがインストールおよび使用されない理由は何ですか?

47
Dan

この問題を回避する最も簡単で最も互換性のある方法は、「poster」モジュールを使用することです。

# test_client.py
from poster.encode import multipart_encode
from poster.streaminghttp import register_openers
import urllib2

# Register the streaming http handlers with urllib2
register_openers()

# Start the multipart/form-data encoding of the file "DSC0001.jpg"
# "image1" is the name of the parameter, which is normally set
# via the "name" parameter of the HTML <input> tag.

# headers contains the necessary Content-Type and Content-Length
# datagen is a generator object that yields the encoded parameters
datagen, headers = multipart_encode({"image1": open("DSC0001.jpg")})

# Create the Request object
request = urllib2.Request("http://localhost:5000/upload_image", datagen, headers)
# Actually do the request, and get the response
print urllib2.urlopen(request).read()

これは完璧に機能し、httplibをいじる必要はありませんでした。モジュールはここから入手できます: http://atlee.ca/software/poster/index.html

57
Dan

httplibを直接使用してマルチパートを投稿するためのこのレシピを見つけました(外部ライブラリは含まれません)

import httplib
import mimetypes

def post_multipart(Host, selector, fields, files):
    content_type, body = encode_multipart_formdata(fields, files)
    h = httplib.HTTP(Host)
    h.putrequest('POST', selector)
    h.putheader('content-type', content_type)
    h.putheader('content-length', str(len(body)))
    h.endheaders()
    h.send(body)
    errcode, errmsg, headers = h.getreply()
    return h.file.read()

def encode_multipart_formdata(fields, files):
    LIMIT = '----------lImIt_of_THE_fIle_eW_$'
    CRLF = '\r\n'
    L = []
    for (key, value) in fields:
        L.append('--' + LIMIT)
        L.append('Content-Disposition: form-data; name="%s"' % key)
        L.append('')
        L.append(value)
    for (key, filename, value) in files:
        L.append('--' + LIMIT)
        L.append('Content-Disposition: form-data; name="%s"; filename="%s"' % (key, filename))
        L.append('Content-Type: %s' % get_content_type(filename))
        L.append('')
        L.append(value)
    L.append('--' + LIMIT + '--')
    L.append('')
    body = CRLF.join(L)
    content_type = 'multipart/form-data; boundary=%s' % LIMIT
    return content_type, body

def get_content_type(filename):
    return mimetypes.guess_type(filename)[0] or 'application/octet-stream'
37
nosklo

python-requests を使用するだけで、適切なヘッダーが設定され、アップロードが行われます。

import requests 
files = {"form_input_field_name": open("filename", "rb")}
requests.post("http://httpbin.org/post", files=files)
33
Pawel Miech

同じ問題にぶつかり、外部ライブラリを使用せずにマルチパートフォームポストを実行する必要がありました。 私が遭遇した問題に関するブログ投稿 全体を書きました。

最終的に http://code.activestate.com/recipes/146306/ の修正版を使用しました。そのURLのコードは、実際にはファイルの内容を文字列として追加するだけで、バイナリファイルで問題を引き起こす可能性があります。これが私の作業コードです。

import mimetools
import mimetypes
import io
import http
import json


form = MultiPartForm()
form.add_field("form_field", "my awesome data")

# Add a fake file     
form.add_file(key, os.path.basename(filepath),
    fileHandle=codecs.open("/path/to/my/file.Zip", "rb"))

# Build the request
url = "http://www.example.com/endpoint"
schema, netloc, url, params, query, fragments = urlparse.urlparse(url)

try:
    form_buffer =  form.get_binary().getvalue()
    http = httplib.HTTPConnection(netloc)
    http.connect()
    http.putrequest("POST", url)
    http.putheader('Content-type',form.get_content_type())
    http.putheader('Content-length', str(len(form_buffer)))
    http.endheaders()
    http.send(form_buffer)
except socket.error, e:
    raise SystemExit(1)

r = http.getresponse()
if r.status == 200:
    return json.loads(r.read())
else:
    print('Upload failed (%s): %s' % (r.status, r.reason))

class MultiPartForm(object):
    """Accumulate the data to be used when posting a form."""

    def __init__(self):
        self.form_fields = []
        self.files = []
        self.boundary = mimetools.choose_boundary()
        return

    def get_content_type(self):
        return 'multipart/form-data; boundary=%s' % self.boundary

    def add_field(self, name, value):
        """Add a simple field to the form data."""
        self.form_fields.append((name, value))
        return

    def add_file(self, fieldname, filename, fileHandle, mimetype=None):
        """Add a file to be uploaded."""
        body = fileHandle.read()
        if mimetype is None:
            mimetype = mimetypes.guess_type(filename)[0] or 'application/octet-stream'
        self.files.append((fieldname, filename, mimetype, body))
        return

    def get_binary(self):
        """Return a binary buffer containing the form data, including attached files."""
        part_boundary = '--' + self.boundary

        binary = io.BytesIO()
        needsCLRF = False
        # Add the form fields
        for name, value in self.form_fields:
            if needsCLRF:
                binary.write('\r\n')
            needsCLRF = True

            block = [part_boundary,
              'Content-Disposition: form-data; name="%s"' % name,
              '',
              value
            ]
            binary.write('\r\n'.join(block))

        # Add the files to upload
        for field_name, filename, content_type, body in self.files:
            if needsCLRF:
                binary.write('\r\n')
            needsCLRF = True

            block = [part_boundary,
              str('Content-Disposition: file; name="%s"; filename="%s"' % \
              (field_name, filename)),
              'Content-Type: %s' % content_type,
              ''
              ]
            binary.write('\r\n'.join(block))
            binary.write('\r\n')
            binary.write(body)


        # add closing boundary marker,
        binary.write('\r\n--' + self.boundary + '--\r\n')
        return binary
1
Jason Kulatunga

元のコードが機能しなかった理由に関するOPの質問に答えるために、渡されたハンドラはクラスのインスタンスではありませんでした。この線

# MIME encode the POST payload
opener = urllib2.build_opener(MultipartPostHandler.MultipartPostHandler)

読むべき

opener = urllib2.build_opener(MultipartPostHandler.MultipartPostHandler())
0
Daryl Tester

2年6か月前に、私はプロジェクトを作成しました

https://pypi.python.org/pypi/MultipartPostHandler2 は、utf-8システムのMultipartPostHandlerを修正します。また、いくつかのマイナーな改善も行っています。テストしてください:)

0
Sérgio