工作中难免会遇到处理大文件的时候,有这种stream的处理方式,就不需要一次处理太大的文件,从而导致内存不够用,或者内存占用太多。
fs.createWriteStream 似乎不会自己创建不存在的文件夹,所以在使用之前需要注意,保存文件的文件夹一定要提前创建。
1 2 3 4 5
| const path = '/xxxxxx/ddd/';
if (!fs.existsSync(path)) { fs.mkdirSync(path); }
|
创建完文件夹,我们就可以进行文件添加操作了。我们希望在使用文件添加操作的时候是通过saveFile(filePath, fileData);这样的方式来调用。
这里我采用了Promise的方式,个人比较喜欢这样的方式
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27
|
static saveFile(filePath, fileData) { return new Promise((resolve, reject) => { const wstream = fs.createWriteStream(filePath);
wstream.on('open', () => { const blockSize = 128; const nbBlocks = Math.ceil(fileData.length / (blockSize)); for (let i = 0; i < nbBlocks; i += 1) { const currentBlock = fileData.slice( blockSize * i, Math.min(blockSize * (i + 1), fileData.length), ); wstream.write(currentBlock); }
wstream.end(); }); wstream.on('error', (err) => { reject(err); }); wstream.on('finish', () => { resolve(true); }); }); }
|
实际调用的时候,如下
1 2 3 4 5
| try { await saveFileWithStream(filePath, fileData); } catch (err) { console.log(err.stack); }
|