Der Nikkei sank bis zur Morgenpause um 0,56% auf 38.189,54.
Der breiter gefasste Topix sank um 0,64% auf 2725,70.
Es wird allgemein erwartet, dass der Offenmarktausschuss der Federal Reserve (FOMC) die Zinssätze am Ende seiner zweitägigen Sitzung am Mittwoch unverändert lässt, da sich die Inflation in den USA als hartnäckig erweist.
US-Aktien schlossen über Nacht niedriger, da die Märkte die Wirtschaftsdaten, die auf steigende Arbeitskosten und eine Verschlechterung des Verbrauchervertrauens hinwiesen, bewerteten.
Während die Märkte die Erwartungen an eine Zinssenkung der Fed in diesem Jahr bereits zurückgeschraubt haben, bleiben die Anleger vorsichtig, was die hawkische Botschaft des Fed-Vorsitzenden Jerome Powell auf seiner Pressekonferenz angeht.
Die große Zinsdifferenz zwischen Japan und den USA setzt den Yen weiterhin unter Druck und wirft die Frage auf, wie sich eine übermäßige Währungsschwäche auf die lokale Wirtschaft und den Zinsausblick der Bank of Japan auswirken wird.
Das Risiko von Währungsinterventionen und der Verdacht, dass Tokio bereits interveniert hat, hielt die Anleger ebenfalls in Alarmbereitschaft.
"In diesem Sinne glaube ich nicht, dass die Menschen sehr daran interessiert sein werden, Aktien zu kaufen, solange der Yen so schwach ist", sagte Hiroshi Namioka, Chefstratege bei T&D Asset Management.
Von den 225 Titeln des Nikkei legten nur 44 zu, während 181 zurückgingen.
Bei den Einzeltiteln gab es aufgrund von Ertragsergebnissen und aktienspezifischen Nachrichten einige deutliche Gewinner und Verlierer.
Die Aktien des Chipausrüsters Lasertec stiegen um 16,1%, nachdem das Unternehmen am Dienstag nachbörslich einen Gewinn veröffentlicht hatte, der die Schätzungen übertraf.
West Japan Railway Co legten am Mittwoch um 7,7% zu, nachdem das Unternehmen beschlossen hatte, 4,1% seiner eigenen Aktien zurückzukaufen.
JGC Holdings Corp waren der größte Verlierer und fielen um 11,2% nach einer enttäuschenden Umsatzprognose.
