Der Nikkei lag bis zur Mittagspause um 0,23% niedriger bei 33.370,40, nachdem er um 0,22% höher eröffnet hatte.
"Der Nikkei hat es in letzter Zeit dreimal nicht geschafft, über dem höchsten Schlussstand seit drei Jahrzehnten zu schließen, der am 3. Juli erreicht wurde", sagte Jun Morita, General Manager der Research-Abteilung bei Chibagin Asset Management.
"Unter diesen Bedingungen wollten kurzfristige Anleger Aktien verkaufen, um vorerst Gewinne zu verbuchen."
Der Index erreichte am 20. November den höchsten Stand seit März 1990 und hat sich seither in zwei Sitzungen diesem Niveau angenähert.
Keine dieser Sitzungen schloss jedoch höher als der Schlussstand vom 3. Juli.
Der breiter gefasste Topix fiel um 0,45% auf 2.371,13, wobei Toyota Motor um 1,03% nachgaben und den Index nach unten zogen.
Seiichi Suzuki, leitender Aktienmarktanalyst beim Tokai Tokyo Research Institute, sagte, dass die Stimmung auch durch den Anstieg des Yen beeinträchtigt wurde, der einen Ausverkauf auslöste.
Der Yen hielt sich um die Marke von 148,10, während der US-Dollar am Dienstag auf ein Dreimonatstief gegenüber den anderen Währungen sank, nachdem er über Nacht aufgrund von schwächer als erwartet ausgefallenen Daten zu neuen Hausverkäufen gefallen war.
Die Aktien des Betreibers des Markengeschäfts Uniqlo stiegen um 1,48% und die des Technologieinvestors SoftBank Group gewannen 0,28%. Der Betreiber von Möbel- und Haushaltswarengeschäften Nitori Holdings stieg um 2,05%.
Taisho Pharmaceutical wurden aufgrund einer Flut von Kaufaufträgen noch nicht gehandelt, nachdem sie in der vorangegangenen Sitzung auf ihr Tageshoch gestiegen waren.
Der Arzneimittelhersteller kündigte letzte Woche eine Übernahme durch das Management zu einem Preis von 8.620 Yen pro Aktie an, wodurch das Unternehmen in die Privatwirtschaft überführt würde. Die Aktie notierte bis zur Mittagspause an ihrer täglichen Kursobergrenze von 7.545 Yen.
Die Aktien des Handelsunternehmens Sojitz stiegen um 7,15% und waren damit der beste Wert im Nikkei.
Der Fernsehgerätehersteller Sharp verlor 7,93% und war der schlechteste Wert im Index.