¿Puedo salir y volver a entrar en Japón en esta situación?

Tener dos pasaportes es como tener dos identidades. Por lo tanto, lo que ocurre en el pasaporte A no afecta al pasaporte B.

Creo que si te quedas en Japón con un visado con el pasaporte A, debes mantener el pasaporte A activo y válido pase lo que pase.

Un inciso. Me enteré de un caso en el que una ciudadana japonesa con un hijo de doble nacionalidad salió de Japón y al volver a entrar en el país presentó accidentalmente el pasaporte extranjero del niño, que estaba debidamente sellado con un visado de turista de 90 días. Cuando más tarde se dio cuenta de lo que había hecho tuvo muchos problemas para resolverlo. Lo más sencillo hubiera sido salir de nuevo del país con el niño y volver con el pasaporte japonés antes de que expirara el visado de turista.

Así que intentar hacer malabares con los visados en dos pasaportes entra en la categoría de "No hagas eso".

Hay un poco que desenredar aquí, que creo que sería mejor en una respuesta separada.

Puntos generales

Cuando entras en Japón con un visado de media o larga duración (por ejemplo, un visado de trabajo o de estudiante), ese visado se tacha en el puerto de entrada y en su lugar recibes una tarjeta de residente. A partir de entonces, la pegatina del visado es sólo un poco de color en su pasaporte; la tarjeta de residencia es lo que importa tanto al control de inmigración japonés como a las compañías aéreas que comprueban si pueden dejarte embarcar.

Cuando entras en Japón como ciudadano de un país sin visado, obtienes una pegatina de desembarco en tu pasaporte que sirve efectivamente como sello de entrada. Cuando salga de Japón, el agente de inmigración buscará ese sello de entrada y aplicará allí el correspondiente sello de salida.

Cuando sale de Japón temporalmente mientras su tarjeta de residencia es válida (es decir, el sistema especial de permiso de reentrada), rellena un formulario a la salida cuya mitad se grapa al pasaporte y se coloca un sello de salida al lado. Al regresar, se retira la mitad que estaba grapada y se coloca el sello de (re)entrada cerca del sello de salida.

(Todavía no he probado lo que ocurre cuando uno abandona Japón por completo al final de su periodo de visado de media o larga duración. Espero una versión en sentido inverso a la primera)

Así pues, desde el punto de vista de la burocracia japonesa, estas entradas y salidas siempre vienen de dos en dos, pero el par al que puedes optar depende de tu estatus. Querrá un sello de entrada como visitante de corta duración o una tarjeta de residencia y un permiso de reentrada a la salida y querrá un pasaporte de un país sin visado o un permiso de reentrada y un sello de salida a la vuelta.

Su tarjeta de residencia sólo indica la nacionalidad A

Ahora bien, mientras en su tarjeta de residencia no figure su nacionalidad B, no podrá salir por el sistema de permiso de reingreso utilizando el pasaporte B, ya que el ciudadano que figura en su tarjeta de residencia tiene la nacionalidad A. Asimismo, si presenta el pasaporte B como si fuera un visitante de corta duración sin visado, el agente de inmigración se dará cuenta de que no existe el correspondiente sello de entrada y eso le acarreará problemas.

No se detiene ahí. Supongamos que, de alguna manera, has salido con el pasaporte B; ¿qué pasa cuando vuelves? Cada vez que facturé mis vuelos de vuelta a Japón como residente de media o larga duración, me pidieron un viaje confirmado o una tarjeta de residencia. (De hecho, al facturar para el salida pierna, las aerolíneas ya querían ver mi tarjeta de residencia además de mi pasaporte). Probablemente no suponga un problema en la frontera en sí, ya que los visitantes de corta duración suelen pasar con bastante rapidez (mi nacionalidad europea puede ser un prejuicio en este sentido), pero de repente tienes un sello de entrada sin el correspondiente sello de salida en el pasaporte B, lo que probablemente te causará problemas después de su residencia si vuelve a visitarla con el pasaporte B.

tl;dr: puede que funcione, pero seguro que no merece la pena probarlo y explicar todos los tejemanejes.

Su tarjeta de residencia indica las nacionalidades A y B

En el seguimiento de tu propia respuesta y en los comentarios lo describes como un proceso sorprendentemente fácil. Una vez que la tarjeta de residencia indica ambas nacionalidades, puedes presentar cualquier pasaporte a la salida y/o a la reentrada. Creo firmemente que el funcionario de inmigración a la hora de volver a entrar querrá ver el mismo pasaporte con el que saliste (véase más arriba, los sellos de los pasaportes y el formulario grapado), pero incluso podría ser posible salir y volver a entrar utilizando los dos pasaportes diferentes.

Como he mencionado anteriormente, la pegatina del visado es prácticamente irrelevante una vez que estás dentro y está marcada, por lo que el pasaporte B o un pasaporte A renovado que no lo tenga no importa.

tl;dr: Apueste por esta solución si surge la necesidad.