Las normas de Schengen dan vueltas a esta cuestión. El acervo de Schengen no crea ni suprime ningún requisito específico de posesión de documentos para cruzar las fronteras interiores. También prohíbe explícitamente control (con algunos matices y salvedades), de modo que si se exigía estar en posesión de un documento específico, ese requisito no podía exigirse legalmente, al menos no de forma sistemática.
De hecho, sospecho que históricamente en muchos lugares lo ilegal es cruzar fuera de un puesto de control fronterizo oficial. Y si no puedes identificarte en un puesto de control fronterizo oficial, lo normal es que te rechacen, lo que hace que la cuestión sea discutible. En estas circunstancias, incluso cuando hay un requisito administrativo de tener algún documento específico, no es necesariamente un delito aparte cruzar sin él, sino algo que se supone que deben comprobar los guardias fronterizos.
Al mismo tiempo, muchos países Schengen (incluida, al parecer, Austria) imponen estrictos requisitos de identificación y registro incluso cuando se reside en el país. El Código de fronteras Schengen lo permite explícitamente en los artículos 23(c) y 23(d). Esto hace que la pregunta sea bastante irrelevante en otro sentido: Si llamas la atención de la policía y realmente quieren crearte problemas, tienes las mismas probabilidades de que te detengan, multen o procesen en virtud de estas leyes que de que te castiguen específicamente por tener cruzado la frontera.
Por el contrario, en un país en el que no existe tal requisito (por ejemplo, Francia), no estarías cometiendo un delito específico al cruzar la frontera sin tu pasaporte y no veo nada ilegal en ello. Por último, ten en cuenta que la proximidad a una frontera puede ser motivo legítimo de controles que, de otro modo, serían técnicamente ilegales (es el caso explícito de Francia y creo que también de Alemania). Así que cruzar la frontera puede no ser necesario para que la policía te pida que te identifiques y, en última instancia, te detenga por no llevar el pasaporte encima (cuando sea obligatorio) o incluso por un delito no relacionado con ese control.