空间涡旋孤子从空间孤子的研究发展而来,因其波前位错引起的涡旋和涡旋带来的拓扑荷数而不同于简单的空间光孤子。这些特点都为利用空间孤子开辟了新途径并极大的丰富了对非线性光学的研究。目前人们在众多非线性光学介质中都观察到了涡旋孤子,这些研究结果为光信息、光储存、光计算等领域的研究和应用提供了帮助。现在对涡旋光孤子的研究主要集中在常温介质中,在低温和超低温介质中却鲜有报道。本论文研究了在电磁感应透明(EIT)态下的冷原子系统中的空间涡旋光孤子。本文首先介绍了冷原子介质,并以有衰减的阶梯型三能级原子系统为模型,分析了冷原子介质在干涉耦合状态下的电磁感应透明技术,研究了冷原子介质对光的折射率影响,得到EIT态下的冷原子介质对探测光具有极大的非线性折射率和极低的吸收率,因而冷原子可以作为研究非线性光学的良好介质。然后本文从基本的电磁波方程出发推导了空间光孤子方程及其解,讨论了暗亮空间涡旋孤子的产生和稳定性,研究了亮涡旋孤子波前相位调制的稳定性,得到光的线性衍射被介质中的非线性折射率抵消时就能产生稳定空间涡旋孤子的结论。在第四章中我们将非线性光学引入到冷原子介质,具体研究了有衰减三能级原子模型下的冷原子系统中的空间涡旋孤子。文中先采用理论近似和数值模拟的方法,并选择适当的参量数值,在介质中得到了满足非线性薛定谔方程表征的暗亮空间涡旋孤子;然后利用微扰法和合适的实验参数对涡旋孤子的稳定性进行了研究,得出孤子在加微扰条件下仍能保持稳定,并且暗孤子较亮孤子容易保持稳定,对不同状态的亮孤子有一个使其能够保持稳定的传播常数阈值βst;最后用数值模拟的方法研究了冷原子介质中环状亮涡旋孤子间的相互作用,结果表明孤子间距大于半径时孤子对没有相互影响,小于半径时孤子对仍能保持稳定传输。这些研究结果表明,在冷原子介质中满足条件的入射光能够产生稳定的暗亮空间涡旋孤子。EIT态下的冷原子介质不同于常温下非局域非线性介质中的稳定性条件说明其类似于电磁学中的超导体,是理想的非线性光学研究介质。本文在三能级阶梯型冷原子模型中的研究将能够为涡旋孤子及光学非线性的其它研究提供帮助和参考,有助于对涡旋孤子的进一步认识和利用。