También, físicamente hablando (toma por ejemplo salir de un estado santuario en Amtrak hacia otro país), ¿sales de aduana de Estados Unidos antes de entrar al país siguiente? ¿O son uno y lo mismo sin ningún espacio físico de "limbo"?
No estoy seguro de cómo funciona con Amtrak, y nunca he estado en México, pero he cruzado la frontera entre Estados Unidos y Canadá en ambas direcciones varias veces, y en general hay un punto en suelo estadounidense más allá del cual no puedes evitar presentarte ante los inspectores de aduanas canadienses. Si pasas este punto e intentas retroceder para evitar llegar al puesto de inspección canadiense, serás detenido por oficiales estadounidenses. Entonces, ciertamente, una vez que has llegado al puesto de inspección canadiense, si te rechazan sin detenerte entonces deberás dirigirte al puesto de inspección estadounidense.
Estoy bastante seguro de que es seguro asumir que si Estados Unidos y Canadá te niegan la entrada, uno de ellos te detendrá para deportarte a tu país de ciudadanía o residencia.
No importa de qué estado salgas de Estados Unidos. El proceso de reingresar a Estados Unidos será el mismo. La inspección de inmigración es completamente un asunto federal, al igual que cada aspecto de la ley de inmigración.
Otras preguntas:
¿Alguien con una visa/viaje sin visa válida ha sido alguna vez rechazado al entrar por tierra a Canadá/México?
No conozco casos específicos, pero por supuesto que esto ha sucedido. Hay algunas preguntas relacionadas aquí que pueden ser instancias de esto; no recuerdo exactamente. Una búsqueda rápida en la web muestra que es difícil encontrar este tipo de incidentes porque la mayoría de los informes se refieren a ciudadanos canadienses o estadounidenses, para quienes esta pregunta no es relevante.
¿Simplemente te devuelven a Estados Unidos? Pero ya no tienes una visa/ESTA válida, ni puedes solicitar una.
No estoy seguro de que no puedas solicitar una ESTA. Es posible que los oficiales de inmigración te permitan sentarte en la sala de espera y solicitarla. Sin embargo, es más probable que, asumiendo que no eras elegible para readmisión o revalidación como se describe en la respuesta de usuario102008, te "pongan en libertad condicional" en Estados Unidos por un período limitado para permitirte partir (libertad condicional significa que se te permite ingresar a Estados Unidos sin ser "admitido" legalmente) o te detengan para deportación.