如何在不阻塞服务器和客户端的情况下实时读取和回显在服务器上写入的上传文件的文件大小?

IT技术 javascript php multithreading file-upload language-agnostic
2021-01-21 18:04:35

问题:

如何在不阻塞服务器和客户端的情况下实时读取和回显在服务器上写入的上传文件的文件大小?

语境:

文件上传进度被从写入到服务器POST请求所作fetch(),其中body被设置为BlobFileTypedArray,或ArrayBuffer对象。

当前实现将File对象设置body传递给 的第二个参数的对象fetch()

要求:

读取和echo客户端正在写入服务器文件系统的文件的文件大小为text/event-stream. 当所有字节(作为变量提供给脚本作为GET请求时的查询字符串参数)都已写入时停止。文件的读取当前发生在单独的脚本环境中,其中GET调用应该读取文件的POST脚本是在将文件写入服务器的脚本之后进行的。

尚未达到对将文件写入服务器或读取文件以获取当前文件大小的潜在问题的错误处理,尽管这将是echo文件大小部分完成后的下一步

目前正在尝试使用php. 虽然也对c, bash, nodejs, python; 或可用于执行相同任务的其他语言或方法。

客户端javascript部分不是问题。只是不太精通php,这是万维网中最常用的服务器端语言之一,可以在不包含不需要的部分的情况下实现该模式。

动机:

获取进度指示器?

有关的:

使用 ReadableStream 获取

问题:

得到

PHP Notice:  Undefined index: HTTP_LAST_EVENT_ID in stream.php on line 7

terminal

另外,如果替换

while(file_exists($_GET["filename"]) 
  && filesize($_GET["filename"]) < intval($_GET["filesize"]))

为了

while(true)

在 处产生错误EventSource

在没有sleep()调用的情况下,正确的文件大小被分派到message事件的3.3MB文件 、、 和时间,分别在上传相同文件 3 次时3321824打印预期的结果是文件的文件大小,因为文件正在写入console 619212621438093

stream_copy_to_stream($input, $file);

而不是上传文件对象的文件大小。fopen()stream_copy_to_stream()堵不如到其他不同php的过程stream.php

到目前为止尝试过:

php 归因于

php

// can we merge `data.php`, `stream.php` to same file?
// can we use `STREAM_NOTIFY_PROGRESS` 
// "Indicates current progress of the stream transfer 
// in bytes_transferred and possibly bytes_max as well" to read bytes?
// do we need to call `stream_set_blocking` to `false`
// data.php
<?php

  $filename = $_SERVER["HTTP_X_FILENAME"];
  $input = fopen("php://input", "rb");
  $file = fopen($filename, "wb"); 
  stream_copy_to_stream($input, $file);
  fclose($input);
  fclose($file);
  echo "upload of " . $filename . " successful";

?>

// stream.php
<?php

  header("Content-Type: text/event-stream");
  header("Cache-Control: no-cache");
  header("Connection: keep-alive");
  // `PHP Notice:  Undefined index: HTTP_LAST_EVENT_ID in stream.php on line 7` ?
  $lastId = $_SERVER["HTTP_LAST_EVENT_ID"] || 0;
  if (isset($lastId) && !empty($lastId) && is_numeric($lastId)) {
      $lastId = intval($lastId);
      $lastId++;
  }
  // else {
  //  $lastId = 0;
  // }

  // while current file size read is less than or equal to 
  // `$_GET["filesize"]` of `$_GET["filename"]`
  // how to loop only when above is `true`
  while (true) {
    $upload = $_GET["filename"];
    // is this the correct function and variable to use
    // to get written bytes of `stream_copy_to_stream($input, $file);`?
    $data = filesize($upload);
    // $data = $_GET["filename"] . " " . $_GET["filesize"];
    if ($data) {
      sendMessage($lastId, $data);
      $lastId++;
    } 
    // else {
    //   close stream 
    // }
    // not necessary here, though without thousands of `message` events
    // will be dispatched
    // sleep(1);
    }

    function sendMessage($id, $data) {
      echo "id: $id\n";
      echo "data: $data\n\n";
      ob_flush();
      flush();
    }
?>

javascript

<!DOCTYPE html>
<html>
<head>
</head>
<body>
<input type="file">
<progress value="0" max="0" step="1"></progress>
<script>

const [url, stream, header] = ["data.php", "stream.php", "x-filename"];

const [input, progress, handleFile] = [
        document.querySelector("input[type=file]")
      , document.querySelector("progress")
      , (event) => {
          const [file] = input.files;
          const [{size:filesize, name:filename}, headers, params] = [
                  file, new Headers(), new URLSearchParams()
                ];
          // set `filename`, `filesize` as search parameters for `stream` URL
          Object.entries({filename, filesize})
          .forEach(([...props]) => params.append.apply(params, props));
          // set header for `POST`
          headers.append(header, filename);
          // reset `progress.value` set `progress.max` to `filesize`
          [progress.value, progress.max] = [0, filesize];
          const [request, source] = [
            new Request(url, {
                  method:"POST", headers:headers, body:file
                })
            // https://stackoverflow.com/a/42330433/
          , new EventSource(`${stream}?${params.toString()}`)
          ];
          source.addEventListener("message", (e) => {
            // update `progress` here,
            // call `.close()` when `e.data === filesize` 
            // `progress.value = e.data`, should be this simple
            console.log(e.data, e.lastEventId);
          }, true);

          source.addEventListener("open", (e) => {
            console.log("fetch upload progress open");
          }, true);

          source.addEventListener("error", (e) => {
            console.error("fetch upload progress error");
          }, true);
          // sanity check for tests, 
          // we don't need `source` when `e.data === filesize`;
          // we could call `.close()` within `message` event handler
          setTimeout(() => source.close(), 30000);
          // we don't need `source' to be in `Promise` chain, 
          // though we could resolve if `e.data === filesize`
          // before `response`, then wait for `.text()`; etc.
          // TODO: if and where to merge or branch `EventSource`,
          // `fetch` to single or two `Promise` chains
          const upload = fetch(request);
          upload
          .then(response => response.text())
          .then(res => console.log(res))
          .catch(err => console.error(err));
        }
];

input.addEventListener("change", handleFile, true);
</script>
</body>
</html>
2个回答

您需要清除statcache才能获得真实的文件大小。修复了其他一些位后,您的 stream.php 可能如下所示:

<?php

header("Content-Type: text/event-stream");
header("Cache-Control: no-cache");
header("Connection: keep-alive");
// Check if the header's been sent to avoid `PHP Notice:  Undefined index: HTTP_LAST_EVENT_ID in stream.php on line `
// php 7+
//$lastId = $_SERVER["HTTP_LAST_EVENT_ID"] ?? 0;
// php < 7
$lastId = isset($_SERVER["HTTP_LAST_EVENT_ID"]) ? intval($_SERVER["HTTP_LAST_EVENT_ID"]) : 0;

$upload = $_GET["filename"];
$data = 0;
// if file already exists, its initial size can be bigger than the new one, so we need to ignore it
$wasLess = $lastId != 0;
while ($data < $_GET["filesize"] || !$wasLess) {
    // system calls are expensive and are being cached with assumption that in most cases file stats do not change often
    // so we clear cache to get most up to date data
    clearstatcache(true, $upload);
    $data = filesize($upload);
    $wasLess |= $data <  $_GET["filesize"];
    // don't send stale filesize
    if ($wasLess) {
        sendMessage($lastId, $data);
        $lastId++;
    }
    // not necessary here, though without thousands of `message` events will be dispatched
    //sleep(1);
    // millions on poor connection and large files. 1 second might be too much, but 50 messages a second must be okay
    usleep(20000);
}

function sendMessage($id, $data)
{
    echo "id: $id\n";
    echo "data: $data\n\n";
    ob_flush();
    // no need to flush(). It adds content length of the chunk to the stream
    // flush();
}

几点注意事项:

安全。我的意思是它的运气。据我所知,这是一个概念证明,安全性是最不关心的问题,但免责声明应该在那里。这种方法从根本上是有缺陷的,只有在您不关心 DOS 攻击或有关您的文件的信息丢失时才应该使用。

中央处理器。没有usleep脚本将消耗 100% 的单个内核。如果长时间休眠,您将面临在一次迭代中上传整个文件的风险,并且永远不会满足退出条件。如果您在本地测试它,则usleep应该完全删除它,因为在本地上传 MB 只需几毫秒。

打开连接。apache 和 nginx/fpm 都有有限数量的 php 进程可以为请求提供服务。上传文件所需的时间为单个文件上传时间为 2。对于慢速带宽或伪造请求,此时间可能会很长,并且 Web 服务器可能会开始拒绝请求。

客户端部分。您需要分析响应并最终在文件完全上传后停止侦听事件。

编辑:

为了使其或多或少对生产友好,您将需要一个内存存储,如 redis 或 memcache 来存储文件元数据。

发出 post 请求,添加一个唯一的令牌来标识文件和文件大小。

在你的 javascript 中:

const fileId = Math.random().toString(36).substr(2); // or anything more unique
...

const [request, source] = [
    new Request(`${url}?fileId=${fileId}&size=${filesize}`, {
        method:"POST", headers:headers, body:file
    })
    , new EventSource(`${stream}?fileId=${fileId}`)
];
....

在 data.php 中注册令牌并按块报告进度:

....

$fileId = $_GET['fileId'];
$fileSize = $_GET['size'];

setUnique($fileId, 0, $fileSize);

while ($uploaded = stream_copy_to_stream($input, $file, 1024)) {
    updateProgress($id, $uploaded);
}
....


/**
 * Check if Id is unique, and store processed as 0, and full_size as $size 
 * Set reasonable TTL for the key, e.g. 1hr 
 *
 * @param string $id
 * @param int $size
 * @throws Exception if id is not unique
 */
function setUnique($id, $size) {
    // implement with your storage of choice
}

/**
 * Updates uploaded size for the given file
 *
 * @param string $id
 * @param int $processed
 */
function updateProgress($id, $processed) {
    // implement with your storage of choice
}

所以你的 stream.php 根本不需要命中磁盘,只要 UX 可以接受它就可以休眠:

....
list($progress, $size) = getProgress('non_existing_key_to_init_default_values');
$lastId = 0;

while ($progress < $size) {
    list($progress, $size) = getProgress($_GET["fileId"]);
    sendMessage($lastId, $progress);
    $lastId++;
    sleep(1);
}
.....


/**
 * Get progress of the file upload.
 * If id is not there yet, returns [0, PHP_INT_MAX]
 *
 * @param $id
 * @return array $bytesUploaded, $fileSize
 */
function getProgress($id) {
    // implement with your storage of choice
}

除非您放弃 EventSource 以获得旧的良好拉动,否则无法解决 2 个开放连接的问题。没有循环的stream.php的响应时间是几毫秒,一直保持连接打开是很浪费的,除非你需要每秒更新数百次。

没问题,从问题中就很清楚了。任何键值存储都可以。最受欢迎的redis.iomemcached.orgPHP 与 js、python 等有点不同,因为脚本是无状态的。存储需要在 2 个进程之间共享信息:data.php 和 stream.php。
2021-03-20 18:04:35
存储可以在没有第三方外部服务的情况下实现吗?该方法可以使用单个php脚本实现吗?
2021-03-26 18:04:35
是的,但它甚至比直接检查文件大小效率更低。想想对服务器的不同请求,就像浏览器中的不同选项卡。您不能直接在不同选项卡中的 javascript 之间共享数据,并使用 localstorage,顺便说一句,这是一个 sqlite 数据库。抱歉,SO 注释的格式不太适合解释整个 LAMP 堆栈的工作原理。希望我回答了文件锁没有问题的问题。
2021-03-27 18:04:35
你说的“存储”是什么意思?你能创建一个完整实施的要点吗?
2021-03-28 18:04:35
请注意,php这里只有适度的经验
2021-03-30 18:04:35

您需要使用 javascript 在块上中断文件并发送这些块。上传块时,您确切知道发送了多少数据。

这是唯一的方法,顺便说一句,这并不难。

file.startByte  += 100000;
file.stopByte   += 100000;

var reader = new FileReader();

reader.onloadend = function(evt) {
    data.blob = btoa(evt.target.result);
    /// Do upload here, I do with jQuery ajax
}

var blob = file.slice(file.startByte, file.stopByte);
reader.readAsBinaryString(blob);