Šljivančanin a été inculpé en 1995[4], aux côtés de Mile Mrkšić,Miroslav Radić et Slavko Dokmanović, par le Tribunal pénal international pour l'ex-Yougoslavie (TPIY). L'acte d'accusation l'a accusé de "responsabilité du massacre d'environ 260 hommes non serbes captifs à Ovčara, près de Vukovar", pour les raisons suivantes :
- il était sous le commandement direct des forces de la JNA (alors contrôlées par la Serbie et le Monténégro et composées de Serbes et d'une minorité de Monténégrins) qui ont pris le contrôle de l'hôpital de Vukovar le 18 novembre 1991 et qui dans les jours suivants ont évacué des personnes vers le bâtiment de la ferme d'Ovčara ;
- il a personnellement dirigé la sélection et l'évacuation de l'hôpital d'environ 400 non-Serbes que la JNA soupçonnait d'être des paramilitaires croates ;
- il a ensuite ordonné aux soldats de la JNA sous son commandement de livrer les détenus à d'autres forces serbes qui les ont exécutés rapidement.
Il a été arrêté à Belgrade par les autorités serbes le 13 juin 2003[5], dans le cadre de la nouvelle politique de la Serbie. Il a été remis au TPIY le 1er juillet. Le procès contre lui a débuté en octobre 2005. Le verdict du tribunal, le 27 septembre 2007, a déclaré Šljivančanin coupable d'"aide et complicité à la torture des prisonniers" et l'a condamné à cinq ans de prison. Il a été déclaré non coupable de crimes contre l'humanité, le tribunal ayant estimé que la Défense territoriale serbe et les paramilitaires serbes locaux avaient commis les meurtres. Le tribunal a jugé que Šljivančanin, en tant qu'officier de la JNA, n'avait pas empêché les passages à tabac de prisonniers par les forces serbes locales.
La sentence a provoqué l'indignation du public et de la presse croate, les dirigeants politiques de la Croatie exprimant leur colère face au verdict.
Le BBC World Service a interviewé l'un des ambulanciers qui était de service à l'hôpital de Vukovar, qui a déclaré : "si vous voliez une voiture aujourd'hui, vous obtiendriez une peine plus sévère que ce qu'ils ont obtenu pour le plus grand crime commis ici au cours des 50 dernières années"[6].
Le 5 mai 2009, le tribunal a annoncé qu'il augmenterait la peine de Šljivančanin à 17 ans pour aide et complicité au meurtre de prisonniers de guerre après la chute de Vukovar, tandis que sa culpabilité pour aide et complicité à la torture était réaffirmée[7]. La déclaration officielle indique que la Chambre d'appel a estimé que la Chambre de première instance avait commis une erreur en acquittant Šljivančanin d'aide et de complicité au meurtre à Vukovar. Le juge Theodor Meron a déclaré que "Šljivančanin avait le devoir de protéger les prisonniers de guerre détenus à Ovčara et que cette responsabilité incluait l'obligation de ne pas permettre le transfert de la garde des prisonniers de guerre à qui que ce soit sans s'être d'abord assuré qu'ils ne seraient pas blessés. L'ordre de Mile Mrkšić de retirer les troupes de la JNA ne le déchargeait pas de son poste d'officier de la JNA." Sa peine a été réduite à 10 ans en décembre 2010 sur la base du témoignage de Miodrag Panić, un officier de la JNA qui a déclaré que Šljivančanin n'avait pas été informé par Mile Mrkšić que les soldats de la JNA seraient retirés d'Ovčara[8].
Šljivančanin a été libéré de manière anticipée pour bonne conduite et temps passé. Le TPIY a ordonné sa "libération anticipée" et qu'il "soit libéré de la garde du Tribunal dès que possible et une fois les procédures administratives terminées"[9],[10].