1905年，年轻的刘玉麟被任命为首任驻南非总领事。两年的任期内，他为维护当地华人的权益和社会地位做出了努力，不仅赢得当地华人的拥戴，也得到清政府的重用。 刘玉麟（1862～1942），字运道，号葆森，广东香山（今中山）县人。其父刘福谦是清朝首任驻秘鲁领事。1875年，刘玉麟作为第四批留美幼童成员赴美。1881年回国，入天津北洋学堂习医，后任天津电报学堂教习，被李鸿章聘为家庭教师。由于李鸿章的赏识，刘玉麟开始涉足外交领域。1886年任驻纽约领事馆翻译官，1889年任驻美使馆翻译官，1893年又被派往新加坡总领事馆出任翻译官，并于1894年署理新加坡总领事。1898年，刘玉麟出任驻比利时使馆二等参赞，代办驻比利时出使大臣事务。1905年，刘玉麟被任命为首任驻南非总领事，1910年9月又任出使英国大臣，民国成立后继任为驻英全权公使。
出任首任驻南非总领事
1904年5月，中英在伦敦签订了《会订保工章程》，使契约华工出国合法化。随后，大批的中国工人先后到达英属殖民地南非，到1906年已达六万多人。为了保护在南非的华工利益，清政府在南非设立了领事馆，这是近代中国政府在非洲大陆设立的第一个外交机构。刘玉麟被任命为首任驻南非总领事，并于1905年3月抵达南非约翰内斯堡。在此后的两年任期中，刘玉麟为保护华人华工权益不遗余力地与南非政府进行了交涉。
上任之初，刘玉麟就积极与南非政府商洽，争得了视察各金矿的权利。之后，他多次微服探寻矿区，对雇有华工的数十座金矿进行巡视，不仅对西方人管理华工和矿区的方法详加视察，还就华人的居住及伙食等具体问题进行询问调查，对不合格处当面驳斥，并提出改善意见。针对华工受虐事件，刘玉麟向南非政府提出了严正抗议，要求其就华工待遇、人身安全及医疗费用等问题加以改进。刘玉麟的多方交涉不仅使华工生活水平有所改善，还使中国驻南非总领事取得了对任意居留在殖民地的中国人的终审权。为了加强华人华侨的自我保护能力，刘玉麟积极倡导和推动南非华人社会建立了超越地域、血缘、帮派的联合组织――中华总会馆，由会馆代表南非华人与南非政府打交道，以最大限度地协调各帮派利益，维护华人权益，联合所有华人力量抗议南非政府的歧视政策。
刘玉麟任职期间的护侨活动，为南非华人社会所称道。在他期满离任时，华人代表送给他一个缀满华人姓名的银盘和一把象征着华人爱戴的万民伞。刘玉麟在护侨问题上的出色表现赢得了清政府的赞赏和认可，故被升任为主持中英禁烟谈判和参加万国禁烟大会的中国首席专员。1907年8月13日，刘玉麟启程回国，奉调筹办禁烟事务。
参与中英缅甸片马交涉
19世纪末20世纪初，英国以缅甸为跳板，不断对我国云南边境地区进行蚕食。1910年12月，滇缅边境的登埂土司去片马征收杉板税，与当地头人发生冲突。英国趁机指责登埂土司派兵越界，对所谓“缅甸居民”进行“烧杀”，并派军队2000多人越过野人山，占据片马各山寨。
面对英军的侵略，清政府希望通过外交途径，促使英国撤兵。清外务部一方面与英国驻华公使朱尔典进行交涉，要求英国军队撤离中国土司治理的片马之地；另一方面，又电令驻英大臣刘玉麟，要求其与英国政府就英军占据片马之事，进行直接磋商，务求英国先行退兵，再由两国讨论滇缅界务问题。1911年1月22日，刘玉麟面见英国外交大臣格雷，要求英国在中国政府面对巨大的政治危机和严重的瘟疫之际，勿在片马问题上再给中国制造困难。然而，英国外交部却于1月30日交给刘玉麟一份《滇缅界务节略》，妄言英国出兵占领片马等地，是实行1906年英驻华公使萨道义关于尖高山以北如中国不允以伊洛瓦底江与怒江分水岭为界，英国“即将该地土占领治理”的预告。之后，刘玉麟就片马问题与英方又进行了谈判，然而英国一心依仗武力强占中国领土，不仅拒不退兵，还对刘玉麟及清政府进行恐吓威胁，致使清政府企图通过外交谈判解决边界争端的愿望化为泡影。
民国成立后，刘玉麟又代表民国政府与英国就片马问题再次进行交涉，但英国却将此问题的解决作为承认中华民国的重要筹码。1912年7月5日，英外交部就承认中华民国问题致函驻英使节刘玉麟，特别提到片马等问题，要求民国政府制止当地民众反对英国侵略的行为，迅速将反英将领降职并调离，否则英国将不承认民国政府。朱尔典在同袁世凯的谈话中，也总是以滇缅问题相恐吓。只是由于云南地方政府和人民的强烈反对，英国的图谋才未能得逞。
主持克里斯浦借款
以袁世凯为首的北京政府“仰给外债以度岁月”，将外债作为维持中央和地方财政的主要来源。为了打破当时六国银行团在借款上的垄断局面，北京政府授意驻欧各国公使向欧洲各国的资本家借款。驻英公使刘玉麟为此与英国一些财团进行了接洽。1912年8月30日，在袁世凯的直接支持下，刘玉麟和英国克里斯浦财团签署了《五厘金镑借款合同》，借款总额1000万英镑，在次年9月30日前分五次支付，年息五厘，八九折扣，以盐税作为担保。9月15日，该项借款的首批款项50万英镑交付北京政府。克里斯浦借款设立后，刘玉麟又奉袁世凯之命，与克里斯浦财团就合办中英商业银行之事进行磋商。
克里斯浦借款的设立打破了六国银行团的垄断局面，遭到六国的联合反对，一方面，六国公使以克里斯浦借款以盐税为担保问题向中国政府提出抗议，理由是银行团在同中国商谈大借款的时候已垫借中国政府180万镑之多，这些借款是用盐余作担保的，应对盐余有优先权；另一方面，六国银行团通电各国分行，阻止金融汇兑，并相约不准买卖麦加利银行（克里斯浦财团的机构）汇票。在六国银行团的阻挠和破坏下，克里斯浦借款最终未能全部执行，合办银行之事也不了了之。
参与西藏问题交涉
民国成立后，刘玉麟作为驻英全权公使，直接参与了中英之间关于西藏问题的交涉。1914年2月17日，即西姆拉会议第三次会谈进行期间，英方代表麦克马洪正式提出了将西藏划分为内藏与外藏的建议，并将青海全境及属四川管辖的巴塘、理塘等地一并划入西藏所辖范围。对此，刘玉麟奉命向英国政府强调，中央政府与西藏地方的管辖界线应以江达为界，并对麦克马洪袒护西藏，妄想划分内、外藏等事向英国政府提出抗议。
1914年3月13日，顾维钧在与朱尔典的会谈中，对中央政府与西藏地方的管辖界线作出以怒江为界的让步，却遭到其拒绝后，刘玉麟又奉命直接向英国政府表明川、藏以怒江为界的立场，指出怒江以东均归中央政府完全治理，怒江以西至江达均归入西藏自治范围之内，并进一步声明西藏为中国领土，青海及三十九族仍归中国完全治理。然而，中国的让步远远不能满足英国的要求，4月23日，外交部收到刘玉麟发自伦敦的电报：“英外交部拒绝接受中国政府抗议英专员袒护西藏之事，并声明西姆拉会议若中止，英不任其咎。”尽管如此，外交部仍于4月25日再度致电刘玉麟，要求其向英方强调，中央政府对西藏界线已经让步五次之多，不能接受麦克马洪线，令刘玉麟据理力争。在朱尔典拒绝再议、刘玉麟抗议无效及印度催迫签约的多重压力下，中国代表陈贻范被迫于4月27日草签《西姆拉条约》。4月28日，外交部分别致电陈贻范及刘玉麟，声明草约取消，刘玉麟并奉命向英国外交部声明，中国谈判代表陈贻范是在没有得到中国政府指示和被迫情况下，草签《西姆拉条约》的，中国政府对此不予承认，但如果英国愿意续商，仍可再议，中国并不愿就此停议。然而，英国态度强硬，仅要求刘玉麟转告中国政府：“既不签押草约，画行（即“草签”）自然取消，惟会议即于今日告终，决不续议。”在这种情况下，刘玉麟只得电告国内，英国政府已正式拒绝再议，中英关于西藏问题的交涉陷入僵局。同年6月，刘玉麟辞去驻英公使职务。
此后曾任广州军政府陆海军大元帅高等顾问等职。之后，刘玉麟隐居澳门，并一度被聘为澳门政务会议华人议员。