webdevqa.jp.net

Node.jsでファイルをダウンロードする方法(他社のライブラリを使用せずに)?

Node.js サードパーティのライブラリを使用せずにを使用してファイルをダウンロードする方法を教えてください。

特別なことは何も必要ありません。特定のURLからファイルをダウンロードし、それを特定のディレクトリに保存するだけです。

347
greepow

HTTPのGETリクエストを作成し、そのresponseを書き込み可能なファイルストリームに渡すことができます。

const http = require('http');
const fs = require('fs');

const file = fs.createWriteStream("file.jpg");
const request = http.get("http://i3.ytimg.com/vi/J---aiyznGQ/mqdefault.jpg", function(response) {
  response.pipe(file);
});

ターゲットファイルやディレクトリ、URLの指定など、コマンドラインでの情報収集をサポートしたい場合は、 Commander のようなものをチェックしてください。

464
Michelle Tilley

エラーを処理することを忘れないでください!次のコードは、Augusto Romanの回答に基づいています。

var http = require('http');
var fs = require('fs');

var download = function(url, dest, cb) {
  var file = fs.createWriteStream(dest);
  var request = http.get(url, function(response) {
    response.pipe(file);
    file.on('finish', function() {
      file.close(cb);  // close() is async, call cb after close completes.
    });
  }).on('error', function(err) { // Handle errors
    fs.unlink(dest); // Delete the file async. (But we don't check the result)
    if (cb) cb(err.message);
  });
};
463
Vince Yuan

Brandon Tilleyが言ったように、しかし適切な制御フローで:

var http = require('http');
var fs = require('fs');

var download = function(url, dest, cb) {
  var file = fs.createWriteStream(dest);
  var request = http.get(url, function(response) {
    response.pipe(file);
    file.on('finish', function() {
      file.close(cb);
    });
  });
}

finishイベントを待たずに、素朴なスクリプトが不完全なファイルになることがあります。

編集: cbは明示的に呼び出されるのではなくfile.closeに渡されるべきであると指摘してくれた@Augusto Romanに感謝します。

123
gfxmonk

エラーの処理と言えば、リクエストエラーも監視するほうがましです。レスポンスコードを確認して検証することもできます。ここでは200レスポンスコードのみの成功と見なされていますが、他のコードでも良いかもしれません。

const fs = require('fs');
const http = require('http');

const download = (url, dest, cb) => {
    const file = fs.createWriteStream(dest);

    const request = http.get(url, (response) => {
        // check if response is success
        if (response.statusCode !== 200) {
            return cb('Response status was ' + response.statusCode);
        }

        response.pipe(file);
    });

    // close() is async, call cb after close completes
    file.on('finish', () => file.close(cb));

    // check for request error too
    request.on('error', (err) => {
        fs.unlink(dest);
        return cb(err.message);
    });

    file.on('error', (err) => { // Handle errors
        fs.unlink(dest); // Delete the file async. (But we don't check the result) 
        return cb(err.message);
    });
};

このコードは比較的単純ですが、 requestモジュール を使用することをお勧めします。/ - ネイティブにはhttpでサポートされていない多くのプロトコル(Hello HTTPS!)を処理するためです。

それはそのようにされるでしょう:

const fs = require('fs');
const request = require('request');

const download = (url, dest, cb) => {
    const file = fs.createWriteStream(dest);
    const sendReq = request.get(url);

    // verify response code
    sendReq.on('response', (response) => {
        if (response.statusCode !== 200) {
            return cb('Response status was ' + response.statusCode);
        }

        sendReq.pipe(file);
    });

    // close() is async, call cb after close completes
    file.on('finish', () => file.close(cb));

    // check for request errors
    sendReq.on('error', (err) => {
        fs.unlink(dest);
        return cb(err.message);
    });

    file.on('error', (err) => { // Handle errors
        fs.unlink(dest); // Delete the file async. (But we don't check the result)
        return cb(err.message);
    });
};
56
Buzut

gfxmonkの答えは、コールバックとfile.close()の完了との間で非常にタイトなデータ競合をしています。 file.close()は実際には終了が完了したときに呼び出されるコールバックを取ります。さもなければ、ファイルの即時使用は失敗するかもしれません(ごくまれに!)。

完全な解決策は次のとおりです。

var http = require('http');
var fs = require('fs');

var download = function(url, dest, cb) {
  var file = fs.createWriteStream(dest);
  var request = http.get(url, function(response) {
    response.pipe(file);
    file.on('finish', function() {
      file.close(cb);  // close() is async, call cb after close completes.
    });
  });
}

Finishイベントを待たずに、素朴なスクリプトが不完全なファイルになることがあります。 closeを介してcbコールバックをスケジュールしないと、ファイルへのアクセスと実際に準備が整ったファイルとの間で競合が生じる可能性があります。

41
Augusto Roman

Node.jsが変更された可能性がありますが、他のソリューション(ノードv8.1.2を使用)にはいくつか問題があるようです。

  1. finishイベントでfile.close()を呼び出す必要はありません。デフォルトではfs.createWriteStreamはautoCloseに設定されています: https://nodejs.org/api/fs.html#fs_fs_createwritestream_path_options
  2. file.close()はエラー時に呼び出されるべきです。ファイルが削除されている(unlink())ときにはこれは必要ないかもしれませんが、通常それは: https://nodejs.org/api/stream.html#stream_readable_pipe_destination_options
  3. 一時ファイルはstatusCode !== 200上で削除されません
  4. コールバックなしのfs.unlink()は非推奨です(警告を出力します)
  5. destファイルが存在する場合上書きされます

下記はこれらの問題を処理する修正された解決策です(ES6とpromiseを使用)。

const http = require("http");
const fs = require("fs");

function download(url, dest) {
    return new Promise((resolve, reject) => {
        const file = fs.createWriteStream(dest, { flags: "wx" });

        const request = http.get(url, response => {
            if (response.statusCode === 200) {
                response.pipe(file);
            } else {
                file.close();
                fs.unlink(dest, () => {}); // Delete temp file
                reject(`Server responded with ${response.statusCode}: ${response.statusMessage}`);
            }
        });

        request.on("error", err => {
            file.close();
            fs.unlink(dest, () => {}); // Delete temp file
            reject(err.message);
        });

        file.on("finish", () => {
            resolve();
        });

        file.on("error", err => {
            file.close();

            if (err.code === "EEXIST") {
                reject("File already exists");
            } else {
                fs.unlink(dest, () => {}); // Delete temp file
                reject(err.message);
            }
        });
    });
}
13
Bjarke Pjedsted

es6スタイルの約束ベースの方法を探しに来た人のために、私はそれがのようなものになると思います:

var http = require('http');
var fs = require('fs');

function pDownload(url, dest){
  var file = fs.createWriteStream(dest);
  return new Promise((resolve, reject) => {
    var responseSent = false; // flag to make sure that response is sent only once.
    http.get(url, response => {
      response.pipe(file);
      file.on('finish', () =>{
        file.close(() => {
          if(responseSent)  return;
          responseSent = true;
          resolve();
        });
      });
    }).on('error', err => {
        if(responseSent)  return;
        responseSent = true;
        reject(err);
    });
  });
}

//example
pDownload(url, fileLocation)
  .then( ()=> console.log('downloaded file no issues...'))
  .catch( e => console.error('error while downloading', e));
13
mido

タイムアウトによる解決策、メモリリークを防ぎます。

次のコードはBrandon Tilleyの回答に基づいています。

var http = require('http'),
    fs = require('fs');

var request = http.get("http://example12345.com/yourfile.html", function(response) {
    if (response.statusCode === 200) {
        var file = fs.createWriteStream("copy.html");
        response.pipe(file);
    }
    // Add timeout.
    request.setTimeout(12000, function () {
        request.abort();
    });
});

エラーが発生したときにファイルを作成しません。また、X秒後にタイムアウトを使用して要求を閉じることを優先します。

13
A-312
const download = (url, path) => new Promise((resolve, reject) => {
http.get(url, response => {
    const statusCode = response.statusCode;

    if (statusCode !== 200) {
        return reject('Download error!');
    }

    const writeStream = fs.createWriteStream(path);
    response.pipe(writeStream);

    writeStream.on('error', () => reject('Error writing to file!'));
    writeStream.on('finish', () => writeStream.close(resolve));
});}).catch(err => console.error(err));
4
kayz1

https://github.com/douzi8/ajax-request#download を使用できます。

request.download('http://res.m.ctrip.com/html5/Content/images/57.png', 
  function(err, res, body) {}
);
4
douzi

Vince Yuanのコードは素晴らしいですが、それは間違っているようです。

function download(url, dest, callback) {
    var file = fs.createWriteStream(dest);
    var request = http.get(url, function (response) {
        response.pipe(file);
        file.on('finish', function () {
            file.close(callback); // close() is async, call callback after close completes.
        });
        file.on('error', function (err) {
            fs.unlink(dest); // Delete the file async. (But we don't check the result)
            if (callback)
                callback(err.message);
        });
    });
}
4
weed

高速を使用している場合はres.download()メソッドを使用してください。それ以外の場合はfsモジュールが使用します。

app.get('/read-Android', function(req, res) {
   var file = "/home/sony/Documents/docs/Android.apk";
    res.download(file) 
}); 

(または)

   function readApp(req,res) {
      var file = req.fileName,
          filePath = "/home/sony/Documents/docs/";
      fs.exists(filePath, function(exists){
          if (exists) {     
            res.writeHead(200, {
              "Content-Type": "application/octet-stream",
              "Content-Disposition" : "attachment; filename=" + file});
            fs.createReadStream(filePath + file).pipe(res);
          } else {
            res.writeHead(400, {"Content-Type": "text/plain"});
            res.end("ERROR File does NOT Exists.ipa");
          }
        });  
    }
2
KARTHIKEYAN.A

Promiseを使用してダウンロードします。これは読み取り可能なストリームを解決します。リダイレクトを処理するための追加のロジックを配置します。

var http = require('http');
var promise = require('bluebird');
var url = require('url');
var fs = require('fs');
var assert = require('assert');

function download(option) {
    assert(option);
    if (typeof option == 'string') {
        option = url.parse(option);
    }

    return new promise(function(resolve, reject) {
        var req = http.request(option, function(res) {
            if (res.statusCode == 200) {
                resolve(res);
            } else {
                if (res.statusCode === 301 && res.headers.location) {
                    resolve(download(res.headers.location));
                } else {
                    reject(res.statusCode);
                }
            }
        })
        .on('error', function(e) {
            reject(e);
        })
        .end();
    });
}

download('http://localhost:8080/redirect')
.then(function(stream) {
    try {

        var writeStream = fs.createWriteStream('holyhigh.jpg');
        stream.pipe(writeStream);

    } catch(e) {
        console.error(e);
    }
});
2
wdanxna

パス:imgタイプ:jpg random uniqid

    function resim(url) {

    var http = require("http");
    var fs = require("fs");
    var sayi = Math.floor(Math.random()*10000000000);
    var uzanti = ".jpg";
    var file = fs.createWriteStream("img/"+sayi+uzanti);
    var request = http.get(url, function(response) {
  response.pipe(file);
});

        return sayi+uzanti;
}
1
databilim

こんにちは、私はあなたが child_process moduleおよびcurlコマンドを使用できると思います。

const cp = require('child_process');

let download = async function(uri, filename){
    let command = `curl -o ${filename}  '${uri}'`;
    let result = cp.execSync(command);
};


async function test() {
    await download('http://zhangwenning.top/20181221001417.png', './20181221001417.png')
}

test()

さらに、大きな、複数のファイルをダウンロードしたい場合は、 cluster moduleを使用して、より多くのCPUコアを使用できます。

0
wenningzhang
function download(url, dest, cb) {

  var request = http.get(url, function (response) {

    const settings = {
      flags: 'w',
      encoding: 'utf8',
      fd: null,
      mode: 0o666,
      autoClose: true
    };

    // response.pipe(fs.createWriteStream(dest, settings));
    var file = fs.createWriteStream(dest, settings);
    response.pipe(file);

    file.on('finish', function () {
      let okMsg = {
        text: `File downloaded successfully`
      }
      cb(okMsg);
      file.end(); 
    });
  }).on('error', function (err) { // Handle errors
    fs.unlink(dest); // Delete the file async. (But we don't check the result)
    let errorMsg = {
      text: `Error in file downloadin: ${err.message}`
    }
    if (cb) cb(errorMsg);
  });
};
0
Alex Pilugin

HttpsファイルのダウンロードURLにres.redirectを使用してみてください。そうすると、ファイルがダウンロードされます。

いいね:res.redirect('https//static.file.com/file.txt');

0
Yin

ライブラリがないと、指摘するだけでバグになる可能性があります。ここにいくつかあります:

  • このURLのようにhttpリダイレクトを処理できません https://calibre-ebook.com/dist/portable これはバイナリです。
  • httpモジュールはURLをhttpsできません。Protocol "https:" not supported.を取得します。

ここに私の提案:

  • wgetcurlなどのシステムツールを呼び出します。
  • node-wget-promise のようなツールを使うのもとても簡単です。 var wget = require('node-wget-promise'); wget('http://nodejs.org/images/logo.svg');
0
Geng Jiawen
var fs = require('fs'),
    request = require('request');

var download = function(uri, filename, callback){
    request.head(uri, function(err, res, body){
    console.log('content-type:', res.headers['content-type']);
    console.log('content-length:', res.headers['content-length']);
    request(uri).pipe(fs.createWriteStream(filename)).on('close', callback);

    }); 
};   

download('https://www.cryptocompare.com/media/19684/doge.png', 'icons/taskks12.png', function(){
    console.log('done');
});
0
Pankaj