對安納托利亞突厥人的消耗戰
在約翰統治的早期，突厥人的推進使得帝國在小亞細亞西部的邊境戰事十分的緊迫，他于是決心要將突厥人驅趕回去。1119年，塞爾柱人切斷了安納托利亞西南海岸城市安塔利亞附近的道路聯系。約翰二世與約翰阿克蘇赫收復了老底嘉與索佐波利斯之后，帝國與安塔利亞、奇里乞亞乃至敘利亞十字軍諸國的陸上聯系也被打通了。
隨著匈牙利戰事的結束，約翰得以將他余下的大部分時間集中在小亞細亞的局勢中。11301135年，他在幼發拉底河上游的馬拉蒂亞開展了一場對抗達尼什曼德酋長國的戰役。在他的大舉進攻之下，突厥人暫停了在小亞細亞擴張的腳步，之后約翰準備主動打擊敵人。為了將科穆寧家族的發祥地卡斯塔莫努科穆寧堡重新掌握在帝國的控制之下，約翰緊密謀劃了一系列針對突厥人的戰役并且在干革拉城留下了兩千多名衛戍部隊。由于約翰一座接一座的攻克了敵人的據點，他很快就贏得了一個令人敬畏的稱號“破城者“。許多在曼齊克特戰役之后失去的地區都被收復并駐守。然而，在東北方達尼什曼德王朝的強大威脅下，這些難以防守的新占領區例如卡斯塔莫努甚至在約翰還在君士坦丁堡慶祝它光復時就被突厥人重新占領了。然而在約翰的堅持不懈下，卡斯塔莫努又再一次易手。
1139年春，皇帝與一群在sangarios河流域劫掠的突厥人也有可能是土庫曼牧民的交戰中取得了勝利，并通過驅散他們牲畜的方式顯著地斷絕了這些人的生活來源。他之后率領軍隊沿著黑海南岸經過比提尼亞和帕夫拉果尼亞行軍來對抗達尼什曼德突厥人。隨著ega
as在特拉布宗獨立政權的結束，chadia所管轄的地區又重新回到了帝國的控制之下。但約翰卻沒能在1140年對新凱撒利亞城的包圍戰中奪取該城。拜占庭軍隊的戰敗更多的原因是天氣而不是與突厥人的戰斗:當時的天氣非常糟糕，大量的軍馬死亡，糧食也開始短缺。
在奇里乞亞與敘利亞的戰役
在黎凡特，皇帝再次主張增強帝國對十字軍諸國宗主權并聲稱他在安條克的權利。1137年他從奇里乞亞亞美尼亞公國手中奪取了塔爾蘇斯、阿達納、摩普綏提亞，奇里乞亞亞美尼亞國王列翁一世與他的大部分家人都成為了俘虜被掠到君士坦丁堡，這為帝國打通了通往安條克公國的路徑。
1137年，在約翰二世的壓力下，安條克親王普瓦捷的雷蒙德、埃德薩伯爵喬斯林二世分別向皇帝稱臣。甚至的黎波里伯爵雷蒙德二世也急忙向約翰表示臣服，就如同他的前任在1109年向約翰的父親所做的一樣。這些舉動使約翰接下來能夠領導一直由拜占庭安條克以及埃德薩組成的聯軍共同對抗敘利亞的。盡管阿勒頗因守軍太過強大而不能進攻，但巴拉特、bizaa、athereb、馬拉特努曼以及kafartab等堡壘都被相繼攻取。
盡管約翰為了基督徒的事業在敘利亞戰場艱難戰斗，他的盟友安條克親王雷蒙德和埃德薩伯爵喬斯林二世卻在約翰二世圍攻夏薩期間坐在一起玩骰子袖手旁觀。十字軍王公們與約翰之間互不信任，并且沒人希望別人參加戰爭來取得利益。雷蒙德也想保住安條克，因為他曾承諾:如果約翰成功奪取了阿勒頗、夏薩、霍姆斯以及哈馬，他將把安條克轉交給約翰。拉丁和方面的史料描述了圍城中約翰表現出的活力和武勇。這座城市最終被攻陷，但其衛城依然在負隅頑抗。夏薩的埃米爾同意支付一筆巨額賠款，成為了約翰的臣屬并支付年貢。約翰此時已經對他的盟友們失去了所有的信心，并且贊吉王朝的軍隊就要馳援這座城市，因此皇帝只好不情愿地接受了這個條件。
最后的出征