在写代码的时候，有一些技巧和方法已经快成为成为了众矢之的，主要还在于代码的可阅读性，以及易错性上。

被列为经典的几种方法或技巧中有一些还是能用尽量少用：goto、递归、状态机。

goto

写过汇编的人都知道，汇编改变指令执行地址的方法里，除了call/ret，还有大量的jmp/sjmp来构成一个程序，如果仅仅使用call/ret来写，有时候代码会变得非常臃肿，而且让本来就难以理解的汇编变成更难阅读的代码，所以就会用jmp/sjmp来改变指令执行的地址。当然这只是抛砖引玉，在汇编里改变指令执行地址可不仅仅这两对指令，还有很多其他指令和方法。

而goto是我在学c语言的时候接触到的，c++也依然部分支持（具体看编译器和相应语言标准）。goto更像是汇编中变成思维的一种移植，类*inx系统的内核代码里也拥有大量的goto使用。

在面向过程变成里，使用goto似乎并没有太大不适，而且也能在一定程度上减少代码规模。但goto若用的不好，带来的效果适得其反。而且容易使得代码逻辑变得极其复杂，非常的绕思维。

goto在短小精干的代码里，可以较少的带来阅读和易错现象，而且要把goto用的好，用的巧妙，还非常考验写代码的人如何编排代码流程和排版。

若没有过硬的逻辑思维能力和计算机式的思维能力，goto能避免最好避免，尤其是在写一些对代码体积和性能要求不是太高的情况下。

代码的性能和体积其实可以通过其它方式优化，未必非要这样。

递归

在数据结构和一些基本算法的教学里，递归是用的最频繁的。因为一些解题思路用递归来执行比较接近人类的思维方式，更容易理解。

栈帧的维护和执行，也是通过递归的方式进行的；可见递归的重要性。但是递归还存在容易让栈空间溢出，以及无限递归的出现，同样也存在一些不便于理解代码的情况。因为每一次递归函数的重入，都会使用新的栈帧对象，导致局部变量不是同一个的现象，这恰恰很有可能会让人在无意间错会递归的过程。

若不是解决问题的模型比较接近递归或代码短小精干的情况下，能用别的方式化解递归，最好通过其它方式。

状态机

状态机是一个基本的原型机或记录器，要从时间的角度出发讨论，状态机应该最先出现在高频模拟电路里，一些信号同步机制与触发应该是最接近状态机思维。

只不过后面称做状态机的都是从数字电路开始，状态机在设计门电路时，是最好用的一种分析工具或辅助工具。但在协议栈、驱动、直接和硬件交互的代码里，往往有着很多的状态机。

状态机由于仅仅是表征一种状态跃迁并联系成一个系统的工具，并未对状态跃迁的规则做约束，因此状态机很有可能会被设计的非常复杂，详情可以参考协议栈代码。若是过于强调状态机的特性，在写一些复杂度较高的策略模型时，往往是容易简单问题复杂化，甚至力不从心。

建议将状态机解耦，改为状态化就好。接触每种一状态之间的耦合度，会让代码较为简单些，如非常强调性能，可以通过其它方式解决。

先来说说什么是RUDP，RUDP全称Reliable User Datagram Protocol，译文为可靠的UDP传输。

准确的说RUDP应该是一种概念，而不是某个开源库。他是利用UDP无连接的特性中的优点，通过模拟TCP的可靠性传输来实现。

换句话说，从OSI模型或常规的四层网络模型的角度说，本质上就是一个UDP协议的通讯机制，只不过认为的加入了TCP中的握手、重传等功能。虽然有相应的标准规范给了RUDP一个身份，但可以看做一种应用层协议。

RUDP概念实现的协议有很多，由最初的RUDP库，也有后来用的较多的UDT，也有现在的SRT等等。

UDT：起初在做P2P网络传输的时候，当时用的是UDT（已经停更很久了），现在网上放眼望去也出现很多RUDP概念的实现。这个库据说是，当年提出RUDP概念的作者所做，由于是半路参与P2P传输这块，也就无从得知为何要选择UDT，但后来从UDT的写代码来看，UDT实现的侧重点在于如何模拟TCP进行可靠的传输，并尽量处理好UDP的分组问题，对于传输的效率方便考虑并不是考虑很多。在非实时和大吞吐量传输中还是具备一定的优势（尤其是可靠性方面）。

RUDP（非开源）：这是当前接触到的，看着代码不太像网上某个具体的库，而很像多个库中的实现理论依据“粘合”出来。这个代码与业务的耦合性非常高，不是一套纯粹协议栈的代码，其中比较“机智”的利用了业务特性来节省掉纯协议上的可靠性实现，代码看上去要去UDT在协议实现部分会“短小精干”不少，估计在所谓“性能”上应该会比UDT好一些（cpu执行效率，因为要传输音视频数据），但这个库存在的问题实际上要比“UDT”严重很多，因为这套代码并没有在传输上做太大优化，导致在需要做稍微大一点的吞吐时，数据经常被拥塞（堵住）。随着现在带宽越来越大，小运营商也越来越让人抓狂，加上网络承载数据逐渐增加，这套RUDP代码已经不够用了，除了所谓的CPU执行效率较高以外，网络传输效率低的可怜，对带宽的有效利用率非常低。

SRT：从官方的README来看，并通过和最后一个版本的UDT代码做了比较之后发现，事实上SRT的代码确实源自UDT，并且在这个基础上做了ARQ，Buffer控制的改进，加密功能。

并没有完完整整的去看并理解SRT，仅从代码差异上的走马观花式的来看，SRT确实有着跟灵敏的丢包感知和处理，这也是ARQ的一个特性之一。同时在Buffer的控制上，增加了Buffer的双端反馈机制。主观上理解，SRT的吞吐能力应该会比原始的UDT代码弱一些，并且带宽的有效利用率可能会差一些。因为侧重点在于实时性，因此可能会对带宽的有效利用率做出一定的牺牲，在P2P传输场景下，可能还好说，但对于P2SP的情况下，可能会对服务器带宽的需求有一定的增加。

尤其是这个buffer控制，很耐人寻味，没有详细看，不是很清楚有没有特意做了数据的分段/分组优化。

后续还需要认真看看SRT的代码，详细的了解一下整个机制的发挥情况。不过看官方文档的介绍，给人感觉借鉴了不少RTCP/RTP的协议特点。不晓得有没有拿了一些RTSP，毕竟三者是可以放在一起做组合的。

Article Form :
https://www.haivision.com/blog/broadcast-video/created-srt-difference-srt-udt/

Editor’s Note: This post originally appeared on the GitHub Wiki for SRT. It has been slightly modified for formatting. 

Some people have asked us why we’re using the UDT library within our SRT protocol. Actually, some people claimed that SRT is just a slightly modified version of UDT and that UDT is known to be useless for live video transmission. Guess what, the latter is true. UDT has been designed for high throughput file transmission over public networks. However, SRT is far from being a slightly modified version of UDT. I’ll get into the details, but will start with a little bit of history.

Haivision has always been known for lowest latency video transmission across IP based networks — typically MPEG-TS unicast or multicast streams over the UDP protocol. This solution is perfect for protected networks and if packet lossbecame a problem, enabling forward error correction (FEC) fixed it. At some point we were getting questioned as to whether it would be possible to achieve the same latency between customer sites in different locations, between different cities, countries or even continents.

Of course it’s possible with satellite links or dedicated MPLS networks, but those are quite expensive solutions, so people wanted to use their public internet connectivity instead. While it’s possible to go with FEC in some cases, that’s not a reliable solution, as the amount of recoverable packet loss is limited, unless you accept a significant amount of bandwidth overhead.

After evaluating the pros and cons of different third party solutions, we found that none satisfied all our requirements. The lack of insight into the underlying technology drove us to the the decision to develop our own solution, which we then could deeply integrate into products. That way, it would become the “glue” that enables us to transmit streams between all our different products, locally or across far distances, while maintaining our low latency proposition.

There were a few of possible choices to consider:

• The TCP based approach. Problem for live streaming: Network congestion, too slow packet loss recovery.
• The UDP based Approach. General problem: Packet loss, jitter, packet re-ordering, delay
• Reliable UDP. Adds framing and selective retransmit.

Having had a history with UDT for data transmission, I remembered its packet loss recovery abilities and just started playing with it. Though not designed for live streaming at all, it kind of worked when using really big buffers. I handed it over to one of our extremely talented networking guys in the embedded software team (thanks, Jean!) and asked him whether he’d be able to make this a low latency live streaming solution. I didn’t hear anything back for quite a while and had almost lost my hope, when he contacted me to tell me he had to rewrite the whole packet retransmissionfunctionality in order to be able to react to packet loss immediately when it happens and that he added an encryption protocol, which he had specified and implemented for other use cases before. Nice 🙂

We started testing sending low latency live streams back and forth between Germany and Montreal and it worked! However, we didn’t get the latency down to a level we had hoped to achieve. The problem we faced turned out to be timing related (as it often is in media).

What happened was this: 

The characteristics of the original stream on the source network got completely changed by the transmission over the public internet. The reasons are delay, jitter, packet loss and its recovery on the dirty network. The signal on the receiver side had completely different characteristics, which led to problems with decoding, as the audio and video decoders didn’t get the packets at the expected times. This can be handled by buffering, but that’s not what you want in low latency setups.

The solution was to come up with a mechanism that recreates the signal characteristics on the receiver side. That way we were able to dramatically reduce the buffering. This functionality is part of the SRT protocol itself, so once the data comes out of the SRT protocol on the receiver side, the stream characteristics have been properly recovered.

The result is a happy decoder: 

We publicly showed SRT (Secure Reliable Transport) for the first time at IBC 2013, where we were the only ones to show an HEVC encoded live stream, camera to glass, from a hotel suite outside the exhibition directly onto the show floor, using the network provided by the RAI. Everybody who has been at a show like this knows how bad these networks can get. And the network was bad. So bad that we expected the whole demo to fall apart, having pulled the first trial version of SRT directly from the labs. The excitement was huge, when we realized that the transmission still worked fine!

Since then, we added SRT to all our products, enabling us to send high quality, low latency video from and to any endpoint, including our mobile applications. Of course there were improvements to be made and the protocol matured on the way. Until NAB 2017, where we announced that SRT is now Open Source.

You can learn more about SRT at the SRT Alliance website here.

To view the SRT on GitHub and start contributing to this open-source movement, click here!

由于之前主机提供商的openvz系列已经不再提供续费服务，后来一直找到一个相对稳定的提供商，下单后限制了几天，偶然发现刚好只有这个主机可以正常访问，另外一个备份服务器已经ping不通了。

然后就趁openvz主机还有几天时间，果断把整个站点都迁过来。基本还算顺利，目前就看这个刚成立的提供商会不会跑路了。

恩，先这样。

首先按照原先的配置方案如下：

1. 设置http_proxy和https_proxy环境变量

2. 设置winhttp代理

3. 配置git代理

但在执行gclient自身更新时，总是发现cipd更新失败。简单跟踪了一下cpid，发现cpid的更新有两种，第一种是cpid自身自动更新，另一种是通过执行bootstrap来更新cpid。
cpid是使用go写的，虽然网上一堆教程说配置了http_proxy之后就可以等等，但这其中cpid存在一个问题，即在进行https请求时，会对证书做校验，若https_proxy配置的代理是一个https真实代理服务器，那么cpid做校验时会失败，具体未看代码，估计webdav执行过程中需要用到https中的证书做登录校验。

至于对cipd的更新处理方式为：

因此将https_proxy有意配置成http服务器，即可破。这会让cipd自更新时强制通过ensure方式进行更新

同时在其他一些脚本执行时，似乎用到了类似原先的csript，因此最好在ie代理时也配上相应的代理服务器地址。这样就可以正常更新gclient了。

最近在ios上出现将多个sdk放到一个app时，有各种开源静态库冲突的问题；于是考虑将自己用到的库进行打包成动态库版本，以此解决冲突问题。

在进行打包成动态库时，发现x264问题最大。打包出来的库在链接期出现text relocations错误，网上找了以后发现基本都是进行忽略这个错误，事实上这个错误忽略了没用，app启动时还是会出现相应的crash。

换了几个版本的xcode进行测试，发现x264编译会出现不同情况的告警和错误，根据底部罗列的参考文章，估计xcode的编译器可能也有一些bug。

后来模仿android上的编译方式，在x264里加入了–enable-pic和–disable-asm顺利编译通过，但由于osx和xcode版本的因素，模拟器上的并没有编译出来，仅仅编译了armv7和arm64。

 

参考文章:

MacOSX下编译linphone(text-relocation错误说明)

libxxx.so- text relocations问题的终极解决方案（android）

Linker error when using incremental builds on iPhone

Android Gradle编译so库或运行时出现 text relocations 崩溃的正确解决方法

设计模式一直给我的感觉都是天书一样，一方面理解起来困难。另一方面书上的解释也较为枯燥，况且现在也还有很多号称设计模式大神的出现，也可能间接的让大家对同一个模式有了各种千奇百怪的理解。

设计模式这个东西出现初衷本来就是解决工程问题，而在解决工程问题时，每个人的角度不同，观点也就不同，并且在《head frist 设计模式》中，作者也强调过，没有任何一种模式的选择和使用是正确或者错误的，只有适合与否。同时对设计模式理解有偏差，甚至初学者也才会去讨论某某模式好，某某模式如何。对设计模式理解较为全面，工程经验较为丰富的人，只会说某种模式用起来较为自然。

代理模式可以的重点可以看作主要是屏蔽了实现细节，同时也对任务执行做了一个中转。让两个模块之间进行解耦。

例如一个消息队列的实现，对于消息队列来说，实现可复杂可简单。为了让消息队列的使用者能够更清晰的了解如何使用，首先需要对消息队列的一些内置方法进行屏蔽，在C++中，继承是无法做到这一点的，所以只能通过包装的方式来实现。

因此就产生了代理类来将消息队列的实现类进行包装，让消息队列的使用者更加关注与如何使用，让消息队列的实现者来关注如何实现，而对于代理来说，仅仅需要关注如何流转数据和流程即可。

先看如下代码片段

#include <vecotr>
#include <string>

#include "boost/algorithm/string/split.hpp"
#include "boost/algorithm/string/classification.hpp"
#include "boost/algorithm/string.hpp"

std::vector vStrArray; //里面存着一堆字符串，其中有一个字符串是这样的： " a.kbasdasdsad"

for (auto a : vector)
{
  boost::trim(a);
}

#include
#include

#include "boost/algorithm/string/split.hpp"
#include "boost/algorithm/string/classification.hpp"
#include "boost/algorithm/string.hpp"

std::vector vStrArray; //里面存着一堆字符串，其中有一个字符串是这样的： " a.kbasdasdsad"

for (std::vector::iterator a = vector.begin();
     a != vector.end();
     ++a)
{
  boost::trim(*a);
}

编译环境是vs 2015 update 3
分别执行完以后会发现，A代码片段没有任何变化，B代码片段的” a.kbasdasdsad”变成了”a.kbasdasdsad”。

单步的时候发现，a变量在A代码片段中，实际上是已经对被修改了。后来网上查了几篇资料，怎么也没有找到对auto的详细说明。加上c++ 11每个编译器实现可能存在一定的差异，因此只能认为，在auto修饰的for循环里，变量使用了写时复用的方式来处理。
如果要对vector里面的值进行修改，还是只能使用最原始的迭代器方法。

再说baseline做强交互不利因素之前，先说说现在直播的场景情况。

 

场景如上图，推流段不是移动平台，就是PC机。当然最近几年也出现专门用来推流的定制盒子，本质不是一个嵌入式windows，就是一个android设备（android设备较多）。

• 而对于PC机作为推流端来说其实问题并不大，只要在保证带宽足够理想的情况下，采用264的任何一种profile都能尽可能的做到最大延时接近编码器固有延时的效果。同样对于使用何种容器来说问题都不大。

 

• 但对于移动设备来说，需要匹配的情景就很多了，主要是由于移动设备的电池续航能力、操作系统小类别太多、整体性能表现。在使用264编解码时，一般尽量采用硬编解码，对于实在没有办法的情况下才使用软编解码。就仅仅一个硬编解码上就存在诸多差异，例如有些profile硬件不支持，或者rom上存在一些问题导致本该支持的profile，支持的不好或者根本不支持。

 

• 除了上述提到的问题以外，其实还有一个隐形问题，那就是用户使用习惯问题。现在的用户越来越偏向于使用web方式展现的产品，一方面对于开发者来说，界面改动较为简单灵活，另一方面对于用户来说，只需要打开浏览器即可，简化使用步骤。

然而上述提到的这些问题，就造就了可能大家会想到flash、h5和native应用，对于native应用来说还好，开发起来虽然周期长，但可塑性比较强。对于flash和h5来说可选择余地就非常小了。

暂时不说flash和h5本身在做双向强交互直播是否可行，先说一说两者采用的协议类型。对于flash来说：

• 通讯协议为rtmp系列协议（包括rtmpt等），协议本身并不是太复杂，但涉及当初并不是用来做双向强交互的直播协议，因此协议本身就没有在双向强交互上做太多的考虑。

 

• 由于协议本身所承载的流媒体容器格式为flv或f4v，现在大部分直播平台基本采用的是flv作为容器，同时flv也是一种较为简单易用的容器

 

• 但由于flv容器格式的限制，在adobe官方手册中就已经说明，flv容器支持的264的profile范围中，目前仅对baseline、extended、main、high、high10、high4:2:2、high4:4:4，在经过简单测试之后，如果不考虑flash端推流的情况下，用户电脑（移动端一般用h5，不用flash）性能具备一定保证的情况下，再根据官方手册并测试(as3手册)，没有实际去测试过high10，不过脑补得知high10也是可以的，但延时太大，也有可能会引起其他flash异常。因此往往最佳的选择就在baseline、main、high中选择，因为他们的颜色编码是8bit的。从解码效率和广泛性来说，这三种都可以。

 

• 但由于是双向直播，因此，在这时就需要考虑编解码器的时延问题。这时，大家一贯的做法就是关闭B帧编码，这样即可极大的提高编解码延时。当关闭了B帧编码之后，剩下几种profile互相比拼的就是在给定的一个平均分辨率、gop的情况下，编解码固有时延和数据码率，以及支持的广泛性。实测之后发现high其实在不同浏览器的flash上表现存在一定差异，主要情形为编解码速度、性能开销等等。因此在flash上使用high这种方式时，还需要综合考虑。

 

接下来说一说h5方式的直播：

• h5方式的直播一般是通过websocket进行通讯，协议是hls，容器格式为ts、ps。然而我对hls和ts、ps都不是很了解。

 

• h5支持还有待进一步推广，目前在较新的chrome系浏览器和较新的firefox浏览器上均支持较好。IE系暂时较弱（我把edge理解成IE系）。

 

• 就目前来说，从开发手机端开发难度，和各手机厂商的支持力度上，无论是webview app还是native app来说，hls+ps/ts也是较优选择。

 

• 通过看了苹果官方的FAQ得知，hls协议似乎仅仅支持baseline、main、high三种，不清楚是由于ts、ps容器特性导致的，还是hls协议特点。因此在决定使用哪一种profile时，又回到了和flash一样的情况下。

 

通过以上可以得知，实际上在使用x264编码时，最终在profile的选择上基本就限制在了baseline、main、high三种。从算法复杂度上来上讲，baseline是最为简单，而high是较为最为复杂（主要是预测模型比前两者多不少）。

不过在实际工程应用中，我们还是做了一个比较脑残又没有办法的决定，那就是使用baseline。原因有二：

1. 我们使用的编码库是openh264，早期版本的openh264宏块分割方式较小，也仅仅支持baseline，对main也只是仅限于试验阶段。
2. 在同样的profile级别下，参数大致相同的情况下，openh264的编码时延比x264的utral模式下略高，但码率略低（未做定量测试，简单定性测试得到的结论）。编码完的数据解码出来的视觉感受差别不大，反正都是渣画质。

考虑到使用场景和当时网络的大环境，确实选择openh264，即是无奈的选择，也是一个极其脑残的选择。说无奈主要是现实，说脑残是因为压根就没有做过定性分析。。。。。。

然后接下来就开始“数落数落”baseline不适合做双向强交互直播的原因。在看x264的代码时，偶然对编码中的预测做了少许的了解。

—- 我是装逼的分割线 1号 —-

传统上对一副图像的处理，一般的理论是基于“分割”，由于图像一般情况下具有前景和后景之分，也就是说，前景和背景之间存在着大量的局部图像细节，对于图像压缩中的思路往往是，尽量将相似的区域用差别不大的统一一个区域去表达，对于差异较大的区域，尽量在用较多的数据量去存储以此保留图像的局部细节。

那么就会存在如何分割图像的问题。如果是一副简单单值图，例如大学时代我做的非矢量图压缩（理论基础差不多），那么只需要根据图像分辨率，做相应的最佳分割快大小计算，并做简单切割即可。将区域内的有色的点和无色的点进行记录，并按做纵向或横向切割成色带，记录色带中有色点或者无色点的坐标值即可。整个思路转换成代码思维，类似于多级联映射表。当然这个做法的关键还在于公式如何设计，即如何动态计算切割区域的大小。由于是做印章方面，所以图像不会太大，因此公式也非常简单。

最终压缩可以理解成单值图的无损压缩，实测试之后，和转换成矢量图之后的文件大小相比，应该两者都会比现在主流的大部分图像编码小非常多。

接着通过类似7z、rar工具里面的二进制压缩算法进行再次压缩，文件最大还能缩小60%左右。一个500k的位图最终生成文件在3k左右。

—- 我是装逼的分割线 2号 —-

由于有上面的实践基础，因此在理解264的压缩时，我也能够理解到“分割”时的重要性。

首先，在baseline模式下，x264的预测模型相对于其他high来说，非常简单。这样的情况就决定了，在局部的细节切块相比high来说有着很多不足，对二进制数据进行压缩前就已经输在起跑线了。即细节丢失比high多。

其次在编码算法上（或者说压缩算法上），baseline仅仅使用cavlc，而对其他两者来说他们既可以使用cavlc也可以使用cabac。没有做过定性或者定考量分析，但通过网上资料获知，cavlc的效率似乎没有cabac高，具体在哪些指标有所体现目前暂时并不清楚。

因此，可以得知。baseline除了在实时性上满足了双向强交互直播对时间的要求，对于相同质量下的压缩比并不是很好。但又由于baseline相对其他profile的简单特点，其实广泛性还是比较不错的。

手里有台android 2.3时代的三星手机，对baseline的视频进行解码，手机基本可以应付（不清楚是硬解还是软解，因为当时的arm好像还有没有对264硬解做太多优化），但相同视频长度的main和high的话，那就有点头疼了。看来baseline对老旧手机还是比较“良好”的。

在x264中，由于单一宏块预测方向与264规范定义实际上是一直的，即预测方向只有：左(left)、上(top)、左上(left-top)、右上(right-top)。

没有其他的另外四个方向，估计可能是zig-zag的数据排列有关，或只是由于对称关系，不需要做重复预测。

有上述4中预测方向，x264中定义了几种邻居关系（下面拿I帧4×4的宏块距离说明）：

• 垂直方向，即I_PRED_4x4_V、I_PRED_4x4_DC_TOP，实际上是向上方向预测（top）
• 水平方向，即I_PRED_4x4_H、I_PRED_4x4_HU、I_PRED_4x4_DC_LEFT，实际上是向左方向预测（left）
• 左边和向上方向，即I_PRED_4x4_DC
• 向上旋转到右上方向，即I_PRED_4x4_DDL、I_PRED_4x4_VL
• 左边旋转到向上方向，即I_PRED_4x4_DDR、I_PRED_4x4_VR、I_PRED_4x4_HD
• 左边旋转到向上方向，即I_PRED_4x4_VL
• I_PRED_4x4_DC_128代表自身？

在看x264代码的时候，总是会看到sad、satd、subpixel。

至于sub pixel这个单词还算比较直观，子像素。当时脑补中的理解是，相邻像素按照不同权重计算出来的一种抽象像素，类似插值像素一样。

后来简单查了一下，才知道这玩意是亚像素。

即像素是感光器件上的实际一个像素点，对于亚像素就是感光器件上像素之间的抽象点。网上说是为了提高器件分辨率的一种抽象，但具体上我也没有实际有多少理解。

出于好奇最近在看x264的源代码。

对于不管是263、264还265编码来说，图像的压缩大题思路实际上是没有太大变化的。

对图像的压缩和编码，分为相关和非相关部分。又由于263、264、265并没有定义一定是无损压缩，所以在压缩和编码上与音频的编码和压缩也有着相似的处理方式；即，按照人的视觉特性进行编码（人眼分辨画面细节的能力是有限的）。

相关性压缩（和编码）又分为帧内相关和帧间相关，即编码出来的I帧就是我们所说帧内相关，B、P帧则是帧间相关。

对于非相关编码部分，大部分都集中在图像的前期处理上，例如归一化、白平衡、色度调节等。步骤大致如下：

• 在图像预处理完成后（归一化、降噪等），接下来就是x264较多需要做的事情图像编码与压缩（虽然x264自身也会做一些降噪、再降噪、色度调节等）。
• 先说编码部分，x264里面先将一副raw数据（可能是yuv420，可能是yv12等等），进行切块（即宏块分割，图像简单预测）。
• 将分割好的图像在做块内再分割（细节预测，找出图像细节部分，对细节部分在切割，变成小块）
• 接着又对每一个块做相邻之间的差异化计算（其实就是求出差异），这个过程是最复杂的一个。

 

下面是对于不同类型帧切块分类的说明其他具体的解释会在后续说：

 

---

 

其中对于不同类型的输出帧，宏块的大小如下：

I帧：

16*16、8*8、4*4

---

P帧：

L0、8*8、SKIP

---

B帧：

DIRECT、L0L0、L0L1、L0BI、L1L0、L1L1、L1BI、BIL0、BIL1、BIBI、8*8、SKIP

 

---

 

 

最近osx环境无意间升级了所有的包，并把xcode升级到了9。按部就班的继续编译之前可以正常编译的webrtc，后来不料，除了这么一个错误：

error: nullability specifier ‘_Nullable’ cannot be applied to non-pointer type ‘uuid_t’ (aka ‘unsigned char [16]’)

 

东查西查。最后就查到了之前的猜测，这里有解释：

https://forums.xamarin.com/discussion/103773/will-there-be-support-for-ios-11-sdk

因为xcode自带的是ios sdk 11的。就目前来说，这一点比较坑人，因为ios sdk 11的库和ios sdk 10的库在部分函数上的定义上有所区别。

而webrtc和相应的depot_tools也是今年年初的，因此使用的第三方clang编译器也相对xcode 9的步调来说老了一些。

为了不想增加麻烦，也就不打算用gclient了，因为当时不是我去拿的webrtc代码，也不知道会不会有坑。就果断把xcode降级为xcode 8。

xcode 8的下载地址：

https://developer.apple.com/download/more/

降级的方法：

http://osxdaily.com/2012/02/20/uninstall-xcode/

 

看来用第三方编译器也是让人比较头疼的一件事情。有时候ios上遇到的坑不比android少。。。

 

在编译x264和ffmpeg时会出现警告，截图如下：

实际上在命令行中已经看到，已经通过sysroot设置过目标平台的sdk的位置，但还是报错。通过google发现，新版本的xcode对sysroot参数关键字做了修改，将–sysroot改为-isysroot ，其他不变，编译通过。

由于最近使用的ffmpeg及其相关的库太过于老旧，所以需要进行更新。

对于视频方面的编码主要用到h264，音频则用到mp3、aac、speex。

其中最为坑的，还是mp3和aac。因为mp3中的分支太多，为了简化问题，最后还是选用lamemp3作为编码器。在ffmpeg 3.0开始，ffmpeg就停止了aacplus的使用，改为使用fdk aac。并且ffmpeg还自带了一个aac编码器。

在编译过程中由于没有注意到这个问题，因此使用了内置编码器，导致he aac编码出来的数据缺少sbr段。因此需要外部加入fdk aac来完成。

 

• 先说一说需要提前做的一些准备：

1、lamemp3源代码

2、speex源代码

3、fdk_aac源代码

4、x264源代码

5、ffmpeg源代码

6、安装msys2极其相应的工具（如果在windows上编译）

7、vs2015（如果在windows上编译）

 

lamemp3编译步骤：

直接代开源代码下vc_solution目录，使用vs2015编译即可

 

speex编译步骤：

打开win32目录下的vs2008直接用vs2015编译即可

 

fdk_aac编译步骤：

fdk_aac编译比较坑，不能在msys2中编译，需要用nmake(vs工具链)直接编译就好……

 

x264编译步骤：

在msys2中直接编译即可

 

ffmpeg编译步骤：

1，将speex、mp3、aac中include的部分代码拷贝到ffmpeg根目录下

2，在将相应的lib文件拷贝到根目录下的某个文件，这里用3rdparty来代表目录

3，执行编译命令

./configure –prefix=/c/work/github/ffmpeg_src_3.2/out –toolchain=msvc –enable-libx264 –enable-libmp3lame –enable-libfdk-aac –enable-nonfree –enable-libspeex –enable-gpl –extra-cflags=-IC:\\work\\github\\ffmpeg_src_3.2 –enable-shared –extra-ldflags=-LIBPATH:C:\\work\\github\\ffmpeg_src_3.2\\3rdparty\\lib

4，执行make和 make install之后即可