黄海决战失利之后，死里逃生的定远、镇远、来远、靖远、平远等舰返回旅顺船坞等待大修，但日军显然不会给北洋舰队休整的时间。掌握日本联合舰队时常有军舰出没在威海附近的情报之后，北洋高层判定“不日必有大警”，于是顾不上舰队亟待修理，匆忙派出定远、镇远、平远和广丙4舰赶赴威海卫。

威海与旅顺互为犄角，共同拱卫渤海，两地的防御工事都曾投入巨资，花费无数人力财力，历数十年心血倾力打造而成，可谓固若金汤。威海军港依地形而建，南岸是巩字营防守的南帮炮台群，共有炮台5座，装备克虏伯火炮37门；北岸是绥字营防守的北帮炮台群，同样是炮台5座，装备火炮24门。此外，军港正前方还有刘公岛炮台群和日岛炮台，分别由北洋护军和海军专职防守。

刘公岛是北洋海军提督衙门所在地，因此防卫格外严密，共修建炮台6座，装备火炮62门。北洋余舰退守威海之后，又在港口周围设置铁链、防材，布设水雷300多枚。此时北洋舰队虽然元气大伤，但主力尚存，完全不致于将海洋控制权拱手相让，但黄海决战之后已然胆气丧尽，此时龟缩于威海，名为“避战保舰”，实则做困兽之斗。而日军方面，经过前期侦查，已然得知威海军港防卫之森严，于是联合舰队驻泊于刘公岛外围海域严密监视，不敢正面强攻。

1895年1月，大本营在反复推演之下确定了“海陆夹攻”的作战方针，即以舰队主力封锁军港，防止北洋水师逃脱，同时陆军登陆山东，从岸上摧毁南北帮炮台，继而与海军形成夹击之势。1月20日，日军第二、第六师团组成“山东作战军”，以八重山、摩耶、爱宕为先导，分乘19艘运兵船从山东荣成登陆。荣成位于威海以东60公里，这里港阔水深，便于军队大规模集结和登陆，是从背后袭击威海的理想之所。山东半岛点多面广，清军弄不清敌方战略意图，只能分兵把守，结果留至荣成的守军仅有少数巩军前哨。登陆之前，日军先是派出50名敢死队员上岸侦查，结果被清军击退，之后联合舰队使用大口径舰炮对岸猛轰，守军抵挡不住，向威海撤去，于是登陆场得以顺利开辟。占领荣成之后，第二、第六师团分成南北两路向威海进攻，而首当其冲的就是南帮炮台。

彼时，南帮炮台群共有摩天岭、龙庙嘴、鹿角嘴、杨枫岭等几处高地，其中以摩天岭海拔最高，视野最为开阔，如果拿下摩天岭，便可居高临下攻击其余炮台。25日，日军开始集中攻击摩天岭炮台，守将周家恩以300兵力拼死固守，终因寡不敌众而全部殉国。时刻关注陆上战况的丁汝昌深知摩天岭炮台对于北洋舰队意味着什么，在炮台陷落之后命令定远赶紧使用305毫米口径舰炮向摩天岭炮击，这不是为了杀伤敌人，而是为了毁掉炮台。而日军拿下摩天岭之后，龙庙嘴、鹿角嘴等较低处的炮台也接连失陷。攻占龙庙嘴之后，日军俘获几门未被损坏的克虏伯岸防巨炮，但苦于己方全是步兵，无人懂得如何操纵。而恰在此时，被缚在地的守军俘虏充当了临时炮手，日军逼迫他们向北洋舰队开炮，战斗正酣的定远无论如何也想不到射向自己的炮弹竟是出自陆军之手。

南帮炮台全部失陷之后，日军折而向北，北帮炮台绥字营守军已然四散溃逃，守将戴宗骞不能制止。丁汝昌无奈只能派出海军陆战队携炸药将炮台全部炸毁，大清帝国苦心经营几十年的岸防体系至此化为一片瓦砾。南北帮炮台尽数落入日军之手，北洋水师的覆灭已成定局。在日本工兵的日夜修理之下，南帮炮台竟有5门火炮被复原，此后尽管炮弹日夜不停地从岸上射向港口，但北洋水师誓死不降，舰炮与岸炮的对轰从未停止。

日军见战况胶着，决定另生他计，2月4日、5日和10日先后派出鱼雷艇进行夜间偷袭，来远、威远、宝筏均被击沉，靖远搁浅，定远尾部受伤之后失去动力，但仍停泊在威海港南口，做“水炮台”使用。

11日日军对刘公岛和日岛发动总攻，在密集的炮击之下日岛最终失陷，丁汝昌苦等援军不至，而战败已成定局。为避免残存的战舰被日军俘虏，丁汝昌下达生前最后一个命令：自沉。之后定远被炸沉，靖远被广丙炮击沉没，而水师提督丁汝昌、定远管带刘步蟾、镇远管带杨用霖也先后自杀。部分主降将领担心炸沉全部战舰会激怒倭人，拒不执行命令，这也导致后来镇远、济远、平远和广丙等舰被俘。其中日军将康济号教练舰拆除武装之后交还中方以运送丁汝昌等人的灵柩北上，而丁汝昌至死也不会想到自己的棺椁会被清廷加捆三道铜锁以示罪罚。至此昔日号称世界第三的大清舰队彻底湮灭，北洋之后再无北洋。