超高密度游戏直播转码架构

超高密度游戏直播转码架构•Twitch.tv是干嘛的？•Twitch直播平台架构，极低成本转码的商业需求•FFmpeg有点小毛病，还是得重起炉灶•Shopping也很难：各种转码方案的利弊•大团圆结局以及未来努力的方向Twitch.tv是干嘛的？总部位于旧金山，是亚马逊AWS的子公司全球（除中国市场外）最大的互动直播平台主播、观众主要集中在北美、欧洲，但亚太、南美是新增长点服务：直播、聊天室、直播录像、上传视频、短视频、社区、游戏整合营收模式：广告、打赏、游戏商店有关Twitch.tv的统计数据1500万+日活跃用户220万+月活跃主播200万+高峰并发观众4万+高峰并发直播频道106分钟用户平均每天浏览时间$6500万+Twitch社群筹集的慈善捐款与Netflix受众的不耦合性注：Netflix为美国以及全球最大的付费内容网络视频服务商，美国75%的网络视频观众是其注册用户电竞已成为深受年轻人喜爱的大众内容Twitch直播平台架构Twitch直播平台架构转码的商业需求“Providingtranscodingtoourbroadcasterswouldhelpthemgivetheirviewersbetteruserexperiences.”Twitch的直播转码系统FFmpeg做RTMP转HLS实时转码1进N出并转码每个variant：ffmpeg-iinputfileorRTMPstream\-c:vlibx264-x264optskeyint=120:no-scenecut-s1920x1080-r60-b:vtargetbitrate-profile:vmain-presetveryfast-c:alibfdk_aac-sws_flagsbilinear-hls_list_sizenumberofplaylistentriesoutputfileorplaylist.m3u8\-c:vlibx264-x264optskeyint=120:no-scenecut-s1280x720-r60-b:vtargetbitrate-profile:vmain-presetveryfast-c:alibfdk_aac-sws_flagsbilinear-hls_list_sizenumberofplaylistentriesoutputfileorplaylist.m3u8\-c:vlibx264-x264optskeyint=60:no-scenecut-s1280x720-r30-b:vtargetbitrate-profile:vmain-presetveryfast-c:alibfdk_aac-sws_flagsbilinear-hls_list_sizenumberofplaylistentriesoutputfileorplaylist.m3u8\-c:vlibx264-x264optskeyint=60:no-scenecut-s852x480-r30-b:vtargetbitrate-profile:vmain-presetveryfast-c:alibfdk_aac-sws_flagsbilinear-hls_list_sizenumberofplaylistentriesoutputfileorplaylist.m3u8若要转封装某个variant：-c:vcopy-c:acopy-hls_list_sizenumberofplaylistentriesoutputfileorplaylist.m3u8\有点问题之一：转码+转封装的IDR对齐有点问题之一：转码+转封装的IDR对齐有点问题之一：转码+转封装的IDR对齐有点问题之二：单线程结构影响软件性能有点问题之二：单线程结构影响软件性能TwitchTranscoder的高性能：多路输出方显优势TwitchTranscoder的高性能：多路输出方显优势TwitchTranscoder的高性能：多路输出方显优势Shopping一个低成本、高密度的转码方案成本、成本、成本I稳定性画质3年的总体拥有成本：1/5现有的软件解决方案48小时不间断运行，能对付各路畸形码流对比基准：x264veryfastTwitch的测试内容：软件集成运维TimetomarketH.264编码的API：IDR插入，码率控制平均故障间隔，零件物流，NetBoot，IPMI现成的服务器产品，软件开发支持Shopping还真有点难优点缺点玄灵活成本太高，特别是egress流量成本巨大软件部署便捷，高画质低密度ASIC高密度，低功耗（低OPEX)无现成的服务器产品GPU高密度，现成的服务器产品画质不够理想NvidiaNvencH.264codec100%用ASIC实现测试了Maxwell代的QuadroM5000,TeslaM60行业最高的编码器密度高画质（SDK2016.3以后版本）解码器资源不够，拖累转码器密度新Pascal代的TeslaP4或有突破IntelQuicksyncH.264codecGPGPU和ASIC混合实现Broadwell代在密度方面有显著提高市面上有多个基于XeonE3服务器产品软硬件成熟，运行稳定，极佳的技术支持SDK支持对一进N出ABR转码的性能优化画质不能算非常理想IntelQuicksync：小心SKUIntelQuicksyncSkylake：末代皇帝？•Skylake和Broadwell比，SDK的软件优化+更大的GPGPU，能带来10-20%的性能提高•未来新版SDK对于ABR转码的性能或有大幅提升•KabyLake的转码性能缩水50%，因为VDBOX用了老一代GT2•KabyLake的新功能仅限于增加了HEVC10bit硬件解码的功能•KabyLake并无VP9硬件编码的功能讨论：后H.264时代（好像有点混乱）•编码器的优化努力基本集中在基于内容的VBR，比如Beamr、Harmonic、Ateme等等•实时H.264编码效率超过x264medium很难：x264slow/slower提高不明显，veryslow提高明显但无法实时编码•VP9：解码已被广泛支持（除iOS），编码效率确有提高，但实时编码依然有难度（libvpxspeed4就已难做到1080p60）•HEVC：专利池依然混乱，依然没有浏览器支持，但被机顶盒、SmartTV广泛支持，编码效率出色，并有众多软硬件实时编码产品•数（2020年的）风流人物，还看AV1（但估计实时编码有难度）大团圆结局，但依然有进步的空间•Twitch是全球（除中国市场以外）最大的互动直播平台，峰值并发直播频道超过4万路•软件优化+硬件转码方案的部署使Twitch的转码容量在2017年提高了10倍，同时正式支持1080p606mbps高清，超过50%的Twitch用户观看1080p高清码流•有必要跟进Skylake在密度方面的提升，以降低转码器成本•有必要评估基于SkylakeQuicksync的第三方编码器（用GPGPU做ME等），以提升画质•对于超高观众的频道，可考虑广播VP9、HEVC以降低流量成本