內政
家族內興起的反對約翰登基的陰謀活動，影響了約翰的統治方式他任用王族外的人擔任官職以幫助治理帝國，這一點與其父將王室成員與大部分軍政要職相聯系的方式顯著不同。
約翰阿克蘇赫是約翰二世惟一的摯友，也是皇帝最親近的顧問。他本是一個突厥人，尼西亞城破后還是孩子的他便被俘并被作為禮物獻給了約翰的父親阿萊克修斯一世。阿萊克修斯皇帝認為阿圖什將是他兒子的一位好伙伴，所以阿圖什得以與皇子一同在帝國宮廷中成長。約翰二世即位后阿克蘇赫立即就被任命為大統領egsdestiks即為拜占庭軍隊的總司令。曼努埃爾一世統治早期，還成為了帝國內政的首席管理者并掌管“國璽“。這個非正式的職位就像當時的eszn也相當于維齊爾或現代的首相。這次委任是標志性的，徹底背離了阿萊克修斯一世時任人唯親的方針。皇室成員們隱藏了他們對這個決定的怨恨，當雙方會面的時候，他們被迫對阿圖什表示敬意。
皇帝完全信任他所任命的官員，他們往往因自己的能力被選拔而不是與皇室家族和貴族宗族的聯系。直到他的統治結束，他也不希望皇室成員干涉政治事務。約翰還指定了許多他父親以前的仆從擔任高官如tthisytzes，iheitzestyeites和erekns。在阿萊克修斯一世統治晚期、約翰的母親處于支配地位的那段時間里，這些人都在政治上受到排擠。約翰二世也培養了許多優秀的人才其中包括regryrnites，nuenes和hedrettzes。他們的后兩位還成為了約翰的義子。
盡管約翰二世失去了對皇親國戚們的依賴與信任，但他的政府也與其父父親依然有許多的相似之處，例如對宗教的虔誠與嚴肅的政治基調。其實，一些阿萊克修斯對于政務上的建議還被以詩歌的形式被收集起來并被稱作i。這本書是為了告誡約翰而寫的書中勸誡他在治國上首要的是維護公平正義并保持財政上的充足。即使在老皇帝去世之后，他的執政建議也能因此繼續影響他的兒子。
約翰的軍事行動使得安娜托利亞西部的軍事實力與經濟得到了穩定的恢復，這使他可以開始對這些地區設立普羅尼亞制度了。行政中心在非拉鐵非城的色雷斯松軍區被重新建立。在色雷斯松以南一個名為ysndenud的軍區也被建立。
外交手腕
約翰二世對西方外交政策的核心就是與神圣羅馬帝國皇帝結盟。這一政策是很有必要的，因為可以減少南意大利的諾曼人對帝國巴爾干領土所造成的威脅。在西西里的羅杰二世稱王并在南意大利獲得了至高無上的地位，并建立了一支強大的海軍之后，這一威脅變得尤其嚴重了。為了報答神羅皇帝洛泰爾三世在1136年入侵諾曼人的領地并向南一直推進到巴里，他獲得了拜占庭的回報，其中包括一份巨大的酬金。由于教宗英諾森二世與教會在意大利的領地受到了支持對立教宗的羅杰二世的威脅，所以他也加入了約翰與洛泰爾的聯盟。然而事實上該同盟難以抗衡羅杰二世，羅杰于1139年通過米尼亞諾條約從教皇處獲得了君位。洛泰爾三世的繼任者康拉德三世尋求約翰最小的兒子曼努埃爾能與德國皇室聯姻。最終，康拉德的小姨子erthfuzbh出嫁到了拜占庭。與此同時，羅杰二世也希望能與約翰二世的兒子聯姻，但他卻沒能成功。
約翰二世傾向于干涉妻子的娘家匈牙利王室，拜占庭帝國把在君士坦丁堡接待流亡的匈牙利王位競爭者視為擴大帝國影響力的方法和有用的安全策略。然而，匈牙利人卻將這種干涉視為戰爭的挑釁。匈牙利與塞爾維亞的聯盟給拜占庭在巴爾干西部的領土造成了嚴重的威脅。