当前位置:首页 > PHP > 正文内容

php下载远程文件(支持断点续传,支持超大文件)

高老师6年前 (2019-09-29)PHP2043

断点下载的原理:http请求头添加Range参数告诉文件服务器端需要的字节范围

例如1个文本文件的字节为1000,

第一次请求Range: bytes=0-500

第二次请求Range: bytes=501-1000

通过每次的请求将返回的流追加写入到文件。

注意的项目:断点下载服务器端的每次只返回字节传输的范围的字节流,同时返回的状态码应该为206。

以下是我封装的php下载远程文件,可以通过命令行执行,也可以通过fpm执行,由于web服务器存在执行超时的问题,代码中做了重复执行继续断点下载,超时后再次执行即可,解决大文件下载超时问题。例如我没有服务器,只有虚拟主机,就可以用这个脚本来下载超大文件。

<?php

class download
{
    /**
     * 远程文件的路径
     * @var string
     */
    private $siteUrl = '';

    /**
     * 分片下载大小
     * @var int
     */
    private $burstBytes = 2048;

    /**
     * 设置远程下载文件的路径
     * @param string $url 远程文件的路径
     * @return $this
     */
    public function setUrl($url)
    {
        $this->siteUrl = $url;
        return $this;
    }

    /**
     * 设置分段下载字节大小
     * @param int $byte 字节大小
     * @return $this
     */
    public function setBurst($byte)
    {
        $this->burstBytes = $byte;
        return $this;
    }

    /**
     * 获取远程文件的信息
     * @return array
     * @throws Exception
     */
    private function getSiteFiLeInfo()
    {
        if (!$this->siteUrl)
        {
            throw new Exception('请先设置远程文件url!');
        }
        $responseHeader = get_headers($this->siteUrl, 1);
        if (!$responseHeader)
        {
            throw new Exception('获取远程文件信息失败!');
        }
        if (!empty($responseHeader['Location']))
        {
            //处理文件下载302问题
            $this->siteUrl = $responseHeader['Location'];
            return $this->getSiteFiLeInfo();
        }

        return $responseHeader;
    }

    /**
     * 保存文件到本地
     * @param string $fileName 保存到本地的文件名称
     * @throws
     */
    public function saveFile($fileName)
    {
        //获取远程文件的信息
        $siteFileInfo = $this->getSiteFiLeInfo();
        $siteFileLength = $siteFileInfo['Content-Length'] ?? 0;

        //根据文件是否存在创建文件句柄、计算断点下载开始字节
        $fd = null;
        if (file_exists($fileName))
        {
            $fd = fopen($fileName, 'ab');

        }
        else
        {
            $fd = fopen($fileName, 'wb');
        }
        if (!$fd)
        {
            throw new Exception('创建或打开本地文件失败!');
        }

        //加上文件锁,防止刷新抢占资源句柄
        if (!flock($fd, LOCK_EX | LOCK_NB))
        {
            throw new Exception('已有相关进程操作执行下载本文件!');
        }

        //检查文件是否已经下载完成
        $fileSize = filesize($fileName);
        if ($fileSize && $fileSize >= $siteFileLength)
        {
            throw new Exception('原文件已下载完成,请勿重复下载!');
        }

        //计算断点下载结束字节
        $sByte = $fileSize;
        $eByte = $sByte + $this->burstBytes;

        //循环下载文件
        while (true)
        {
            //文件下载完成
            if ($fileSize >= $siteFileLength)
            {
                fclose($fd);
                break;
            }

            //传递分片范围
            $xRange = "{$sByte}-$eByte";

            //请求curl
            $result = $this->curl($xRange);

            //检查是否正常请求
            $code = $result['code'] ?? 0;
            if (!$code)
            {
                throw new Exception('Http请求异常!');
            }
            if ($code != 206)
            {
                throw new Exception('Http状态码异常,可能不支持断点的资源或已完成下载!');
            }

            //返回流长度
            $streamLength = $result['length'] ?? 0;

            //返回流内容
            $streamContent = $result['stream'] ?? '';
            if ($streamLength > 0)
            {
                file_put_contents('log.txt', $xRange . PHP_EOL, FILE_APPEND);
                $saveRes = fwrite($fd, $streamContent);
                if (!$saveRes)
                {
                    throw new Exception('写入流到文件失败!');
                }
                if ($saveRes != $streamLength)
                {
                    //讲道理这种情况基本不会遇到,除非分段数设置过大,暂时未做兼容处理,重新执行就行
                    throw new Exception('数据异常:返回大小和写入大小不一致!');
                }

                //递增range
                $sByte = $eByte + 1;
                $eByte = $sByte + $this->burstBytes;

                //记录文件大小
                $fileSize = $fileSize + $saveRes;
            }
        }
    }

    /**
     * 获取下载文件流
     * @param string $range 分片字节范围
     * @param array $header Http请求头
     * @return array
     * @throws
     */
    private function curl($range, $header = [])
    {
        $ch = curl_init();
        curl_setopt($ch, CURLOPT_URL, $this->siteUrl);
        curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
        curl_setopt($ch, CURLOPT_CUSTOMREQUEST, 'GET');
        curl_setopt($ch, CURLOPT_HEADER, TRUE);

        //设置关闭SSL
        curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, 0);
        curl_setopt($ch, CURLOPT_SSL_VERIFYHOST, 0);

        //设置分片
        curl_setopt($ch, CURLOPT_RANGE, $range);

        //设置header
        if ($header)
        {
            curl_setopt($ch, CURLOPT_HTTPHEADER, $header);
        }

        //执行请求
        $response = curl_exec($ch);
        if (curl_errno($ch))
        {
            throw new Exception('下载文件异常:' . curl_error($ch));
        }

        //提取response_header和response_body
        $headSize = curl_getinfo($ch, CURLINFO_HEADER_SIZE);
        $httpHeader = substr($response, 0, $headSize);
        if (!$httpHeader)
        {
            throw new Exception('下载文件异常:未获取到响应头');
        }
        $fileStream = substr($response, $headSize);

        //解析header
        $length = $this->getResHeaderValue('Content-Length', $httpHeader);
        $httpCode = $this->getResHeaderValue('Http-Code', $httpHeader);
        curl_close($ch);

        //返回
        return [
            'code' => $httpCode,
            'length' => $length,
            'stream' => $fileStream,
        ];
    }

    /**
     * 获取响应头某个Key的值
     * @param string $key header头的key
     * @param string $responseHead header头字符串
     * @return string
     */
    private function getResHeaderValue($key, $responseHead)
    {
        $value = '';
        $headArr = explode("\r\n", $responseHead);
        foreach ($headArr as $loop)
        {
            if ($key == 'Http-Code')
            {
                if (preg_match('/HTTP\/1\.[0-9]{1} ([0-9]{3})/', $loop, $matches))
                {
                    return $matches['1'];
                }
            }
            else
            {
                if (strpos($loop, $key) !== false)
                {
                    $value = trim(str_replace($key . ':', '', $loop));
                }
            }
        }

        return $value;
    }

}


//设置下载文件的url
$url = 'https://blog.20230611.cn/demo/1.tar.gz';

//设置分段下载的字节大小
$burst = 4048;

//设置保存到服务器本地的文件名
$filename = '11.tar.gz';

try
{
    //初始化下载器
    $download = new download();

    //开始下载
    $download->setUrl($url)->setBurst($burst)->saveFile($filename);
}
catch (Exception $exception)
{
    var_dump($exception->getMessage());
}

脚本是单进程下载文件,如果你愿意可以修改为curl批量请求,每个请求执行一个范围,保存为多个文件,最后合并文件即可。

扫描二维码推送至手机访问。

版权声明:本文由高久峰个人博客发布,如需转载请注明出处。

本文链接:https://blog.20230611.cn/post/108.html

分享给朋友:

“php下载远程文件(支持断点续传,支持超大文件)” 的相关文章

php 将数组键值转为变量

php 将数组键值转为变量

<?php $data=array('a'=>1,'b'=>2,'c'=>3,'d'=>4); extract($data); var_dump($a,$b,$c,$d); ?>在人人商城中捡到的...

全方位认识PHP的SESSION

全方位认识PHP的SESSION

【一】.介绍session由于HTTP是无状态的请求,创建一个会话需要保持必须需要身份标识。当用户第一次访问,PHP会为用户创建一个唯一的sessionid,并将sessionid通过cookie发送给浏览器,并在服务器的临时文件创建一个以sessionid为名的文件用来保存这个sessionid保...

php redis事务

php redis事务

概念请参考w3school文章: redis watch ,redis exec (看完基本秒懂)(1)基本事务://连接本地的 Redis 服务 $redis = new Redis(); $redis->con...

windows安装php event扩展问题

windows安装php event扩展问题

php event扩展在windows中依赖于php_sockets扩展,因此在php.ini中必须先加载php sockets扩展,如下。extension=sockets extension=event...

php pecl设置代理,php pear设置代理

php pecl设置代理,php pear设置代理

pear config-set http_proxy 47.94.200.124:3128 pecl config-set http_proxy 60.216.101.46:32868家里的长城宽带什么都上不去,安装php扩展真麻烦,使用网...

thinkphp断线重连

thinkphp断线重连

在编写thinkphp常驻内存的命令行应用中我们需要保证数据库连接不会断开,保证断开还能重新连接,因此大部分人的方案是直接修改tp的数据库配置文件database.php// 开启断线重连 'break_reconnect' => true,通常...