详细介绍在Mail.Ru云端视频播放器的工作原理
Mail.Ru是俄罗斯最受欢迎的网站,最近我们在Mail.Ru云端新增了视频流媒体服务,最初开发者想要的是“瑞士军刀”那样的通用型功能——可以播放任何格式的文件,并且可以在任何云设备上播放。
上传到云端的视频内容大多分为两类:电影/剧集&用户视频。后者指的是用户用手机或摄像机拍摄的视频,这些视频包括各种各样的格式和编码方式。由于多种原因,想要在其他终端用户的设备上观看这些视频,如果不提前进行标准化,就会出现“需要的解码器不存在”,或者“文件大小超出限制无法下载”等错误信息。
本文将详细介绍在Mail.Ru云端视频播放器的工作原理,以及我们是如何使得云播放器“兼容并收”以确保最大限度支持终端用户设备播放的。
存储与缓存:两种方式
类似YouTube、社交网络等很多服务会将用户所上传的视频自动转成恰当的格式。只有转化后的视频才能播放。在Mail.Ru云,我们采用了另一种办法:在原始文件播放时进行转化。与一些专门的视频托管网站不同,我们不能修改原始文件。为什么要选择这种办法呢?Mail.Ru云主要提供云存储功能,如果用户在下载文件时发现他们的文件质量下降或者大小改变,就算只有轻微变化,也会招致用户的不满情绪。此外我们也无法支持存储所有文件的预转化副本——会占据太多空间。而且某些存储文件可能根本不会有人去看,这样做会导致很多的无用功。
动态实时转换还有一个优势:如果要修改转换设置或增加功能,就无需对之前的视频做重新转换了。在这种情况下,一切都是动态实时执行的。
工作原理
针对在线视频流,我们使用了苹果创建的HLS(HTTP实时流媒体)格式。HLS的原理是将每个视频文件切分成较小的片段(即“媒体分段文件”),然后加入播放列表,每个片段都有指定的名称和时间长度。举个例子:时长2小时的电影会被切分为720个媒体片段文件,每个时长10秒。播放器根据用户想要观看的进度,向列表请求相应片段。HLS的好处之一在于:在播放器读取文件标头时,用户无需等待便可开始播放。
这种格式还提供了重要的可能,那就是允许根据用户的网速,实时调整所播放媒体的质量,这就是所谓的自适应流媒体(adaptive streaming)。例如,用户一开始使用3G网络,观看媒体的分辨率为360p;但进入LTE(4G格式的一种)地区时,就会自动切换到720p或1080p。使用HLS时部署起来非常简单:播放器获取“主播放列表”,其中包括适用于不同带宽的交替播放列表。加载一个片段之后,播放器会评估当前的网速,并据此确定下一个片段的质量:是要保持相同、更低还是更高。我们目前支持的分辨率包括:240p、360p、480p、720p和1080p。
后端

The Mail.Ru云服务包括三组服务器。第一组是应用服务器,负责接收视频流媒体请求:创建和返回HLS播放列表,分发转化后的片段,设置转换任务。第二组是数据库服务器,使用嵌入式逻辑(Tarantool),负责存储视频信息和管理转换队列。第三组是转换服务器,负责接收从Tarantool传回的任务队列,并在数据库中记录任务完结。当接收到视频文件片段的请求时,我们首先会检查数据库服务器,查看其中是否包含已经转化好可用的相应分辨率片段。这里有两个可能的场景:
第一个:已经有转换好的片段,此时,我们立刻将其返回。如果有人发送过请求,相应片段就会存在。这属于第一个缓存级别,对所有转换文件都有效。值得一提的是:我们还有一个缓存级别,经常被请求的文件会分发到多台服务器上,避免网络接口过载。
第二个场景:没有转换好的片段。此时,数据库会创建转换任务。之前提过,我们的数据库服务器使用了Tarantool,这是一个速度非常快的开源NoSQL数据库,可以用Lua写入存储过程。这里数据库服务器负责存储视频信息及管理转换队列。应用服务器与数据库之间的通讯方式如下:应用服务器发送请求:“我需要movie.mp4的第二个片段,分辨率为720p;请于4秒内准备好”。4秒内它会收到在何处寻找相关片段的信息,或者错误信息。因此,数据库客户端其实对如何执行任务并不关心(无论是立即执行还是通过一系列的复杂操作):它使用简单的接口,允许发送请求和接收被请求的数据。
我们提供数据库容错的办法是主-副本故障转移。数据库客户端只向主服务器发送请求,如果当前的主服务器出现问题,我们会将某个副本服务器标记为主服务器,然后将客户端重定向到新的主服务器上。在客户端持续与主服务器交互时,对于客户端来说,这样的主-副本切换是透明化的。
除了应用服务器之外,转换服务器也可以作为数据库客户端。转换服务器负责对视频片段执行转换,现在需要一个与来源视频文件相关联的参数化的HTTP链接。数据库与这种转换服务器之间的通讯,类似于它与应用服务器之间的通讯。转换服务器发送请求:“给我一个任务,我会等待10秒”,如果在10秒内收到任务,就会发送给正在等待的那个转换服务器。在Tarantool中,我们使用Lua的IPC通道,实现客户端到转换服务器的任务转发。通道允许不同请求之间的通讯,下面是转换片段的简单代码:
functionget_part(file_hash, part_number, quality, timeout)-- Trying to select the requested fragmentlocalt = v.fragments_space.index.main:select(file_hash, part_number, quality) -- If it exists — returning immediatelyift ~= nil thenreturnt end-- Creating a key to identify the requested fragment, and an ipc channel, then writing it-- in a table in order to receive a “task completed” notification laterlocaltable_key = msgpack.encode{file_hash, part_number, quality} localch = fiber.channel(1) v.ctable[table_key] = ch -- Creating a record about the fragment with the status “want to be converted”v.fragments_space:insert(file_hash, part_number, quality, STATUS_QUEUED) -- If we have idle workers, let’s notify them about the new taskifs.waitch:has_readers() thens.waitch:put(true, 0) end-- Waiting for task completion for no more than “timeout” secondslocalbody = ch:get(timeout) ifbody ~= nil thenifbody == falsethen-- Couldn’t complete the task — return errorreturnbox.tuple.new{RET_ERROR} else-- Task completed, selecting and returning the resultreturnv.fragments_space.index.main:select{file_hash, part_number, quality} endelse-- Timeout error is returnedreturnbox.tuple.new{RET_ERROR} endendlocaltable_key = msgpack.encode{file_hash, part_number, quality} v.ctable[table_key]:put(true, 0)
真正的代码会更复杂:比如还得考虑请求的时候,片段出现“被转换”状态。多亏了这个方案,有新任务时转换服务器会立刻获得通知,任务完成时客户端会立刻获得通知。这一点非常重要,因为视频加载的时间越久,用户越有可能在视频开始播放前关闭页面。
非常好我支持^.^
(0) 0%
不好我反对
(0) 0%
