康熙二十七年（1688年）五月二十日，清政府在商讨与沙俄谈判方针时，索额图提出：“察鄂罗斯所据尼布楚，本系我茂明安部游牧之所，雅克萨系我达呼儿总管倍勒儿故墟，原非罗刹所有，亦非两界隙地也。”“尼布楚、雅克萨、黑龙江上下，及通此江一河一溪皆属我地，不可弃之于鄂罗斯”。他认为：如果沙俄能归还逃人，承认尼布楚、雅克萨、黑龙江是清朝领土，即“与之画疆分界，贸易往来。否则，臣当即还，不与彼议和矣”。康熙帝同意这一谈判方针，遂命索额图、佟国纲出发，前往色冷格，与沙俄使臣戈洛文谈判。六月，索额图等使臣行至喀尔喀地方，正值准噶尔领袖噶尔丹大举侵犯喀尔喀蒙古，道路被阻，便退回了北京。
康熙二十八年（1689年）四月，经中俄两国代表重新商定，谈判地点改在尼布楚。索额图等人在出发前向康熙帝奏陈：“尼布潮（楚）、雅克萨既系我属所居地，臣等请如前议，以尼布潮为界，此内诸地均归我朝。”康熙帝指示：“今以尼布潮为界，则鄂罗斯遣使贸易无栖托之所，势难相通。尔等初议时，仍当以尼布潮为界。彼使者若恳求尼布潮，可即以额尔古纳为界。”康熙帝考虑到噶尔丹正在进攻喀尔喀，希望尽早与沙俄划定国界，腾出手来对付噶尔丹，为此作出了重大让步。索额图率领包括传教士徐日升、张诚在内的清朝使团启程前往尼布楚，经过两个多月的艰苦跋涉，六月抵达尼布楚，驻扎在尼布楚河南岸，与尼布楚城相距三里。
七月初五日，中俄两国代表在尼布楚郊外开始谈判，关于尼布楚地区的归属问题成为谈判的焦点。清方代表一开始即指出“贝加尔海这边的全部土地，则完全属于中国汗所有，因为贝加尔海这边的土地全是蒙古汗的领地”，“而所有的蒙古人自古以来就是中国汗的臣民”。戈洛文则强调不久前俄国人才知悉并予以侵占的这个地区“自古以来即为沙皇陛下所领有”。索额图予以驳斥，要求俄国人退到色楞格河以西去。但俄方坚持其要求。
