德璀琳于11月26日到达日本，持李鸿章给日本当时首相伊藤博文的私人信函要与日本首相谈判。日本当时还未达到他们军事上的最大目的，而且更担心由于接受德璀琳会引起列强的介入，从而会使日本处在不利的地位，因此以德璀琳不能作为清政府的正式代表为由而坚决拒绝。战场上不断失利，清政府在1895年1月派总理衙门大臣张荫桓、湖南巡抚邵友濂作为正式使节赴日进行谈判。2月11日，双方谈判一开始，日本谈判代表伊藤博文即以中国代表“全权不足”为由，拒绝进行谈判。日本认为清政府派出较低级的官员担任谈判代表是中国方面还不能承认处于完全失败地位的表现，清政府也还不能完全接受日方提出的苛刻条件。因此就采取了这样一种方式来拖延时间，以期在军事上取得更多的胜利来达到对清政府进行最大勒索的可能。2月17日，日本政府正式提出和谈的条件：除承认朝鲜独立外，中国要赔偿日本的军费、割让土地，并要求派出全权使节进行谈判。在此之前，日本政府已经提醒过清政府谈判代表可派恭亲王奕忻或李鸿章作为谈判代表。皇族担任这一屈辱的使命会有损于满族皇帝的形象。在这种情况下，清政府决定由李鸿章担任全权使节准备赴日谈判。当时日本已放风，非割地不能言和。李鸿章感到割地事关重大，因此特别奏明光绪皇帝，以决定他能否在谈判时答应割地这一要求。光绪当然不敢做主，还是要就此请示慈禧。慈禧老奸巨猾，知道同意割地必然遭到国内百姓和朝野上下的唾骂，借口有病躲避深宫避不见人，让太监传出话来此事交光绪全权处理。光绪不肯轻易担此骂名，迟迟不肯表态。然而辽东战场的一再失利迫使光绪不得不应允李鸿章有允许割地等在内的谈判、签字画押的权利。这样，李鸿章才率随从从天津上船前往日本。3月20日，以李鸿章为首的谈判代表团在日本的马关与日本政府的代表伊藤博文开始耻辱的谈判。
　　早在1894年10月，日本政府内部就开始酝酿如何利用战争向中国勒索的阴谋。日本外相陆奥宗光提出的方案就有中国割让台湾予日本的内容。日本决定要求中国割让台湾出于两点考虑：台湾可以作为他们今后进攻中国大陆和南下太平洋的一个落脚点；台湾丰富的资源可以弥补日本物产匮乏的情况，为日本带来巨大的财富。随着战场的胜利，向中国索地赔款的要求在日本更加高涨起来。军部、财相、驻各国大使以及各政党纷纷表达意见，献计献策。一时间要求中国赔偿巨款、割让包括台湾在内中国领土的声浪甚嚣尘上。
　　谈判在日本进行的情况为外电所报导，逐渐为国内及台湾民众所闻。李鸿章赴日本前后，一些地方大员纷纷电询北京有无割地之事。3月2日，台湾巡抚唐景崧电询军机处有无割地之事，军机处没有正面回答有无日本索台之说，只是让唐景崧加紧戒备，不能大意。实际上当时清政府已决定接受日本提出的在割地赔款基础上才能进行谈判的屈辱条件，光绪也已准备批准给予李鸿章谈判时允许割地之权。但此时又不可对外泄漏，只好搪塞愚弄来自各方的询问。