鲁道夫・伊凡诺维奇・阿贝尔1902年出生于列宁格朝,年轻时曾是苏联红军中的一名无线电技术工程师。他生性聪颖,机智过人,富有事业进取心,而且具有语言方面的天赋。20岁的阿贝尔讲得一口流利的英语和德语,他说德语时完全跟一个德国人没有什么区别。因此,阿贝尔很快被苏联情报机关看中,并于1927年5月被招募为情报人员,从事对外谍报工作。

​第二次世界大战爆发后,阿贝尔奉命执行第一步潜伏计划。他化名约翰・利贝尔,以一名孤身德国人的身份迁居苏联立陶宛共和图首都里加,并加入了德国少数民族俱乐部。这个俱乐部是一个与盖世太保有联系的秘密组织,目的是建立第五纵队,阿贝尔经常在这里发表一些亲纳粹的“爱国言论”,因而引起了纳粹分子的注意。不久,阿贝尔随同在里加的大批德国人离开苏联迁往德国。他被编入驻波兰的纳粹占领军,分配在德军最高统帅部军事谍报局的一个部门里开车。

德国入侵苏联后,阿贝尔所在部队开赴东线与苏军作战。在一次战斗中,他立功负伤,得到了纳粹第一枚勋章,并取得了谍报局的初步信任。很快,他成了一名情报军官,加入了纳粹党。此后,阿贝尔逐步建立起自己的谍报网，还吸引了一名有反纳粹思想的党卫军保安局军官。这个谍报组织不断进行秘密活动,开展卓有成效的情报工作,而且进一步向第三帝国的核心情报机构渗透。

机会终于来了。1943年秋天,希姆莱的亲信、德国国家保安总局第六处(国外政治情报处)处长瓦尔特·舒伦堡将军向军事谍报局要一名助手。条件必须是“纯阿利安人,无任何亲人,受过良好教育,精通外语,而且具有间谍才能的纳粹党员”。阿贝尔完全符合这些严格条件,他被推荐给了舒伦堡,并经受了种种生与死的考验,得了希姆莱和舒伦堡的特殊信任,被授予党卫军旗队长衔(相当于德国陆军上校)。一份份情报通过阿贝尔谍报组送回了莫斯科。

1944年夏末,阿贝尔向苏联情报部门透露了德国人秘密派造特务小组深入苏联后方进行暗系和破坏活动的“旋风计划,并以假乱真派手下一名特工冒名顶替这个小组的负责人,配合苏军消灭了纳粹这支特种小队。1945年春天,他设法弄清了希姆莱的代表沃尔夫将军在瑞士伯尔尼同美国战略情报局的杜勒斯进行秘密谈判的事实真相。还得知德国空军首脑戈林、外交部长里宾特洛甫、党务部长鲍曼以及盖世太保头目缪勒都各自企图与西方盟国搭上关系。阿贝尔将这一重要情况密报了莫斯科,同时在纳粹各派系势力之间制造矛盾,再加上苏联向盟国施加了政洽和外交压力,因而使希姆莱等纳粹头目与西方单独沟通和阴谋破了产。

不久,他又千方百计搞到了盖世太保一批潜伏特务的名单和照片,用微型胶卷拍摄下来然后把原件交给了舒伦堡,进一步得到了他的器重。在此期间,阿贝尔同时获得了两枚高级勋章一一纳粹铁十字勋章和苏联英雄勋章,并晋升为红军上校。苏军攻入柏林前夕,他秘密返回了苏联。

此时的阿贝尔已精通英、法、德、意等数国语言。1947,他受莫斯科情报总部的派遣持美国公民安德烈·卡约蒂斯的护照由加拿大潜入美国,担任了苏联驻美国情报站站长。控制着美国各种以及美洲的好几个谍报网。以后的十年间,他换了许多名字,以不同的身份从事间谍活动,窃取了美国大量的机密情报,尤其是军事情报。然而,一次小小的疏忽却使苏联的谍报组织露出了破绽。

​阿贝尔谍报网的一名成员无意中将一枚装有微型胶卷的5美分硬币花掉了。这枚硬币从一位报童手中不慎掉在地上裂成两半,他发现了里面的微型胶卷,把它交给了警察,因此引起了美国联邦调查局的重视。

1957年5月,阿贝尔手下一名间谍叛逃,向美国警方供出了他。联邦调查局的反间谍人员根据线索,寻踪而至,在一家小旅店逮捕了化名为马丁·柯林斯的阿贝尔。当时,他非常镇静,只说了一句:“是的,我是苏联上校鲁道夫伊凡诺维奇阿贝尔。我为自己的国家从事情报活动这是我能告诉你们的全部情况。”在审讯期间,阿贝尔拒绝同联邦调查局合作。四个月后,他被判处三十年监禁。

阿贝尔身陷囹圄,使苏联国家安全委员会大为震惊。1960年5月,美国U-2高空侦察机在苏联上空进行间谍活动时被击落。美方急于弄清飞机被击落的真相,要求用阿贝尔换回活着的飞行员鲍尔斯,苏方立即应允。1962年春,在东西柏林间一个交界处,双方交换了各自的情报人员。阿贝尔在度过了五年铁窗生活中,回到苏联被授予最高荣誉奖列宁勋章,并晋升为将军。