FFmpeg采集摄像头图像并推流至RTSP/RTMP

雨点打透心脏的1/2处 2023-10-16 12:02 46阅读 0赞

在很典型的一种应用场景：把流推送到RTSP、RTMP、HLS服务器，由服务器转发给其他用户观看。很多开发者也是调用FFmpeg API来实现推流的，用FFmpeg 做一个推流器很简单，调用流程跟输出文件的基本相同，稍微修改就可以做出一个采集+编码+推流的软件。这里，我先假设读者已经会用FFmpeg API保存或录制文件，但没有实现过推流功能，我将给大家说一下做推流跟录制文件的区别，还有说一下要注意的几个问题，希望能帮助大家在开发推流功能时减少一些问题的出现。

首先，做推流和录制文件都需要调用到封装器对象的接口，我们需要定义一个封装器（或叫混合器）：

AVFormatContext\* m\_outputAVFormatCxt;

创建封装器对象，根据输入的协议类型生成对应的封装器。

比如，对于RTSP，我们生成如下的推流封装器：

res = avformat\_alloc\_output\_context2(&m\_outputAVFormatCxt, NULL, "rtsp", m\_outputUrl.c\_str());

对于RTMP，生成封装器的代码如下：

res = avformat\_alloc\_output\_context2(&m\_outputAVFormatCxt, NULL, "flv", m\_outputUrl.c\_str());

其中，上面的m\_outputUrl是推流地址。

然后，向封装器添加要发送的流（视频、音频），设置每个流的属性。假如我们要推送的流来源于一个文件，那就要先把文件的流枚举出来，获得每个流的信息，然后把这几个流“插入”到封装器里面，这样封装器才能识别这些流的格式。下面是从文件提取流的信息并添加到封装器的代码：

AVOutputFormat* fmt = m_outputAVFormatCxt->oformat;
     
    	//  fmt->video_codec = AV_CODEC_ID_H264;
    	//	fmt->audio_codec = AV_CODEC_ID_AAC;
     
    	for (int i = 0; i < m_inputAVFormatCxt->nb_streams; i++)
    	{
    		AVStream *in_stream = m_inputAVFormatCxt->streams[i];
     
    		if(in_stream->codec->codec_type != AVMEDIA_TYPE_VIDEO && in_stream->codec->codec_type != AVMEDIA_TYPE_AUDIO)  //忽略掉不是视频和音频的流
    		{  
    			continue;  
    		} 
     
    		AVStream *out_stream = avformat_new_stream(m_outputAVFormatCxt, in_stream->codec->codec);
    		if (!out_stream)
    		{
    			TRACE("can not new out stream");
    		}
    		res = avcodec_copy_context(out_stream->codec, in_stream->codec);
    		if (res < 0)
    		{
    			string strError = "can not copy context, filepath: " + m_filePath + ",errcode:" + to_string(res) + ",err msg:" + av_make_error_string(m_tmpErrString, AV_ERROR_MAX_STRING_SIZE, res);
    			TRACE("%s \n", strError.c_str());
    		}
     
    		out_stream->codec->codec_tag = 0; 
    		if (m_outputAVFormatCxt->oformat->flags & AVFMT_GLOBALHEADER)
    		{
    			out_stream->codec->flags |= CODEC_FLAG_GLOBAL_HEADER;
    		}

我们调用avformat\_new\_stream生成一个新的流，然后调用avcodec\_copy\_context将文件的视频流或音频流的上下文属性拷贝到新流的目标上下文中，这样新的流就具有了和输入流同样的属性了（编码格式、分辨率、采样率等）。

发送数据到网络可能因为网络阻塞而发送超时，超时有可能发生在连接或中间数据传输的时候，如果连接超时，用户程序就会很久阻塞在连接函数里。解决这个问题的方法是：我们设置一个回调函数，FFmpeg在发送数据或连接超时会调用到该回调，如果超过某个时间，我们在回调里返回某个标志，让IO函数马上返回，用户的程序就不会一直卡在IO函数里。设置回调函数的代码如下：

m_outputAVFormatCxt->flags |= AVFMT_FLAG_NONBLOCK;
     
    	av_dump_format(m_outputAVFormatCxt, 0, m_outputUrl.c_str(), 1);
    	if (!(fmt->flags & AVFMT_NOFILE))
    	{	
    		AVIOInterruptCB icb = {interruptCallBack,this};
     
    		m_dwStartConnectTime = GetTickCount();
     
    	   // res = avio_open(&m_outputAVFormatCxt->pb, m_outputUrl.c_str(), AVIO_FLAG_WRITE);
    		res = avio_open2(&m_outputAVFormatCxt->pb, m_outputUrl.c_str(), AVIO_FLAG_WRITE, &icb, NULL);
    		if (res < 0)
    		{
    			string strError = "can not open output io, URL:" + m_outputUrl;
    			TRACE("%s \n", strError.c_str());
    			return FALSE;
    		}
    	}

用户定义的回调函数如下所示：

static int interruptCallBack(void *ctx)
    {
        FileStreamPushTask * pSession = (FileStreamPushTask*) ctx;
     
       //once your preferred time is out you can return 1 and exit from the loop
        if(pSession->CheckTimeOut(GetTickCount()))
        {
          return 1;
        }
     
       //continue 
       return 0;
     
    }
     
    BOOL   FileStreamPushTask::CheckTimeOut(DWORD dwCurrentTime)
    {
    	if(dwCurrentTime < m_dwLastSendFrameTime) //CPU时间回滚
    	{
    		return FALSE;
    	}
     
    	if(m_stop_status)
    		return TRUE;
     
    	if(m_bInited)
    	{
    		if(m_dwLastSendFrameTime > 0)
    		{
    			if((dwCurrentTime - m_dwLastSendFrameTime) > 15000) //发送过程中超时
    			{
    				return TRUE;
    			}
    		}
    	}
    	else
    	{
    		if((dwCurrentTime - m_dwStartConnectTime) > 5000) //连接超时
    		{
    			TRACE("Connect timeout! \n");
    			m_stop_status = true;
    			return TRUE;
    		}
    	}
    	return FALSE;
    }

接着，就开始连接服务器，并与服务器进行握手交互。

AVDictionary* options = NULL;
    	if(bIsRTSP)
    	    av_dict_set(&options, "rtsp_transport", "tcp", 0); 
    	av_dict_set(&options, "stimeout", "8000000", 0);  //设置超时时间  
     
    	res = avformat_write_header(m_outputAVFormatCxt, &options);
     
    	TRACE("avformat_write_header() return: %d\n", res);
     
    	if (res < 0)
    	{
    		string strError = "can not write outputstream header, URL:" + m_outputUrl + ",errcode:" + to_string(res);
    		TRACE("%s \n", strError.c_str());
    		m_bInited = FALSE;
    		return FALSE;
    	}
     
    	m_bInited = TRUE;

如果执行到这一步而没有错误，表示已经成功连接服务器，并可以向服务器推流了。

而发送数据就简单了，流程跟输出文件的一样。我们调用av\_interleaved\_write\_frame 函数往封装器写入一个帧，让封装器打包数据和发送到服务器。但是，有个地方要注意，就是从文件读出来的帧（输入帧）的时间戳要转换为封装器对应输出流的时基。比如对于视频流，我们需要这样处理：

if(in_stream->codec->codec_type == AVMEDIA_TYPE_VIDEO)  //视频
    	{
    		if(pkt.pts == AV_NOPTS_VALUE) //没有时间戳
    		{
    			AVRational time_base1 = out_stream->time_base; 
     
    			//Duration between 2 frames (us) 
    			int64_t calc_duration =(double)AV_TIME_BASE/av_q2d(in_stream->r_frame_rate); 
     
    			pkt.pts = (double)(nVideoFramesNum*calc_duration)/(double)(av_q2d(time_base1)*AV_TIME_BASE); 
    			pkt.dts = pkt.pts; 
    			pkt.duration = (double)calc_duration/(double)(av_q2d(time_base1)*AV_TIME_BASE); 
    		}
    		else
    		{
    			pkt.pts = av_rescale_q_rnd(pkt.pts, in_stream->time_base, out_stream->time_base, (AVRounding)(AV_ROUND_NEAR_INF | AV_ROUND_PASS_MINMAX));
    			pkt.dts = av_rescale_q_rnd(pkt.dts, in_stream->time_base, out_stream->time_base, (AVRounding)(AV_ROUND_NEAR_INF | AV_ROUND_PASS_MINMAX));
    			pkt.duration = av_rescale_q(pkt.duration, in_stream->time_base, out_stream->time_base);
    			pkt.pos = -1;
    		}
     
    		nVideoFramesNum++;
    	}
     
    	// write the compressed frame to the output format
    	int nError = av_interleaved_write_frame(m_outputAVFormatCxt, &pkt);

推流完毕，我们要关闭推流器，其实是关闭封装器对象，我们一般会这样关闭：

int res = av_write_trailer(m_outputAVFormatCxt); 
    	
    	if (!(m_outputAVFormatCxt->oformat->flags & AVFMT_NOFILE))
    	{
    		if(m_outputAVFormatCxt->pb)
    		{
    			avio_close(m_outputAVFormatCxt->pb);
    			m_outputAVFormatCxt->pb = nullptr;
    		}
    	}

但是这样写还不完善。经测试，如果前面的连接握手失败了，则强行调用av\_write\_trailer会出错的。所以，还需要加个标志变量判断一下连接是否已经初始化成功（我用布尔变量m\_bInited表示），修改后的代码如下：

if (m_outputAVFormatCxt)
    	{
    		if(m_bInited)
    		{
    		  int res = av_write_trailer(m_outputAVFormatCxt); 
    		}
     
    		if (!(m_outputAVFormatCxt->oformat->flags & AVFMT_NOFILE))
    		{
    			if(m_outputAVFormatCxt->pb)
    			{
    				avio_close(m_outputAVFormatCxt->pb);
    				m_outputAVFormatCxt->pb = nullptr;
    			}
    		}
     
    		avformat_free_context(m_outputAVFormatCxt);
    		m_outputAVFormatCxt = nullptr;
          ｝