多输入多输出(MIMO)技术能够充分利用空间资源来对抗无线信道的衰落,从而在不增加系统带宽和发送功率的情况下,可以提高了通信系统的可靠性和频谱利用率。然而在一些实际的应用场景,比如蜂窝系统的上行链路,无线自组织网络和无线传感器网络,移动终端或者网络节点受到自身体积,复杂度和功耗的限制,很难直接应用MIMO技术。于是,一种新的空间分集技术—协作分集技术应运而生。它的基本思想是参与协作通信的多个终端或者节点通过组成一种虚拟的MIMO系统来彼此共享链路资源从而获得空间分集增益。协作分集技术突破了传统MIMO技术对移动终端设备的限制,为其走向实用化提供了新思路。本论文在研究了现有分集技术和MIMO技术的基础上,提出了下述几种协作传输方案:1.差分协作传输方案首先,提出了一种采用正交幅度调制(QAM)的差分空时协作传输(DSTCT)方案。虽然在差分解调过程中需要估计信道功率(CP)和功率归一化系数(NPF),但与传统采用PSK调制的DSTCT方案相比,所提方案具有更高的信噪比(SNR)增益。仿真结果显示,在时变衰落信道下当调制阶数大于8时,DSTCT-QAM方案可以获得比DSTCT-PSK方案更优的误符号率(SER)性能。尤其是当调制阶数为64时,DSTCT- QAM方案可以获得5.35dB的SNR增益。虽然随着多普勒频率的增加,DSTCT-QAM方案的SNR增益随之下降,但只要CP的估计范围选择得合适,仍然可以获得更好的性能。其次,为了克服协作传输中的载波频率偏移,提出了一种采用QAM调制的双差分协作传输(DDCT)方案。推导了闭合的SER近似表达式, SER上界以及高SNR下的渐进近似。基于SER的渐进近似,推导了最佳功率分配(OPA)策略在高SNR下的近似解。仿真结果显示,该OPA策略在实际中等的SNR环境下仍然有效。同时比较了DDCT方案分别采用QAM调制和PSK调制的SER。仿真结果显示,当调制阶数大于8时,DDCT-QAM方案可以获得比DDCT-PSK方案更优的SER性能。尤其是当调制阶数为64时,DDCT-QAM可以获得4.5dB的SNR增益。2.差分中继选择方案研究了一种联合差分调制和中继选择(DM-RS)的多中继协作传输方案。该方案包含一个源节点, N_R个采用检测转发(DetF)协议的中继节点和一个目的节点。首先讨论了采用PSK调制的DM-RS方案,简称为DPSK-RS-DetF方案。利用中继链路的SNR近似,推导了DPSK-RS-DetF方案中断概率的闭合表达式以及高SNR下的渐进近似。该近似表达式证明DPSK-RS-DetF方案可获得的分集增益阶数为N_R+ 1。同时推导了所提方案闭合的SER近似表达式以及表达形式更简单的SER上界。最后,仿真结果验证了推导的理论结果。其次,将QAM调制应用到DM-RS方案中,提出了DQAM-RS-DetF方案。由于在差分QAM解调过程中需要估计CP和NPF,因此在不使用训练符号的前提下,提出了一种CP的估计方法和两种NPF的估计方法。同时分析了CP和NPF估计方法的均方误差(MSE),并在时变衰落信道下比较了这两种NPF估计方法的性能。另外,在假设目的端已知CP的前提下,推导了所提方案闭合的SER近似表达式。同时比较了DQAM-RS-DetF方案和DPSK-RS-DetF方案的SER性能。仿真结果显示,在时变衰落信道下当调制阶数大于8时,DQAM-RS-DetF方案可以获得比DPSK-RS-DetF方案更优的SER性能。3.准正交空时协作传输方案首先,提出了一种在MIMO中继系统中采用准正交空时分组码(QOSTBC)的协作传输方案。与传统采用正交空时分组码(OSTBC)的方案相比,所提方案可以在相同的译码复杂度下获得更高的频谱效率。其次,提出了一种基于1比特信道状态信息(CSI)反馈的自适应译码转发(ADF)协议。根据反馈的CSI,ADF协议可实现在译码转发(DF)协作传输和直接传输之间自适应地选择。再次,分析了所提方案的中断概率性能,推导了中断概率上界的闭合表达式。理论分析结果证明,所提方案可以获得全分集增益且比DF协作传输和直接传输的分集增益都高。最后,仿真结果验证了推导的理论结果。4. MIMO中继系统的发送天线选择(TAS)方案首先研究了MIMO放大转发(AF)中继系统中三种TAS方案在独立同分布(IID) Nakagami-m衰落信道下的中断概率性能,推导了中断概率闭合的渐近下界,比较了这三种方案的分集增益;其次研究了MIMO DF中继系统中三种TAS方案在IID Nakagami-m衰落信道下的中断概率性能,推导了中断概率闭合的渐近近似,比较了这三种方案的分集增益阶数。上述推导的理论结果可以应用于具有任意发送和接收天线数目的MIMO中继系统以及具有任意衰落参数( m≥0.5)的IID Nakagami-m衰落信道。