Los musulmanes no obtienen ningún tipo de documentación cuando se hacen musulmanes, aunque en los pasaportes de algunos países puede constar la religión.
Así que, en general, cuando te encuentres con una señal de "sólo musulmanes", con decir que eres musulmán debería ser suficiente. Si no lo eres y no conoces los principios básicos, es posible que no te vean con buenos ojos o que te echen enfadado del local.
Nací en Irán (de padre técnicamente musulmán) y eso significa que soy musulmán por defecto, aunque no practique. He visitado varios lugares que eran "sólo para musulmanes" (fuera de Irán) y, como no hablo, actúo ni visto como alguien que ha crecido en Irán, a veces me han preguntado. Simplemente decía que era musulmán y ya está, siempre.
Sin embargo, la foto que comparte se refiere específicamente a La Meca. Arabia Saudí solía ser muy restrictiva a la hora de permitir la entrada de extranjeros, musulmanes o no. En el pasado, creo que esto significaba sobre todo que la peregrinación a La Meca (para los no saudíes) sólo era posible si se organizaba a través de organizaciones reconocidas oficialmente, que normalmente operaban a través de la mezquita local. Por tanto, las posibilidades de entrar en una zona "sólo para musulmanes" en Arabia Saudí como no musulmán son tan escasas que resultan prácticamente irrelevantes.
Más recientemente, Arabia Saudí ha empezado a abrir el acceso al país a los turistas, musulmanes o no. Si eres turista y musulmán y te encuentras con un cartel de "sólo musulmanes", creo que es muy probable que, si te preguntan, con que digas que eres musulmán sea suficiente. Dicho esto, a pesar de la barrera lingüística, es posible que te sometan a algún escrutinio. Aunque si sabes lo que haces (mostrar un respeto especial, lavarte antes de entrar en una mezquita, vestir de forma conservadora, etc.), sospecho que este interrogatorio será limitado. Si tienes un aspecto muy occidental, supongo que sobre todo experimentarás mucha curiosidad.
Quizás no sea una respuesta completa, pero también es imposible predecir lo que ocurriría en cada ocasión.
Adenda: Convertirse al islam no requiere que una institución externa "pruebe" su conversión. Sin embargo, según este página, la obtención del visado para el Hayy exige un certificado notarial de un Centro Islámico, para los conversos. Sin embargo, dado que Arabia Saudí ha abierto recientemente el país a un mayor número de turistas regulares, no tengo ni idea de lo que eso significa en el contexto de la visita a La Meca. ¿Se ha cambiado el cartel de la imagen de la OP por el de "sólo titulares de visado para el Hajj"?