¿Puedo llevar 50 ml de vitamina D3 en el equipaje de mano en un vuelo de Alemania a Austria?

Puedes llevar hasta 100 ml en una botella de 100 ml como parte de tu equipaje de mano, por lo que tus 50 ml están dentro de los límites siempre que la botella no sea mayor de 100 ml. (Y puedes llevar todas las que quepan en una bolsa, que puedes sellar, de un litro).
Algunos aeropuertos disponen de las bolsas de forma gratuita, otros las venden por más de lo que se paga por una caja de bolsas en un supermercado.
A veces he utilizado una bolsa más pequeña si sólo tenía un artículo y si sólo tienes un artículo pequeño pueden incluso aceptar una bolsa más grande. Si tienes alguna bolsa en casa que pueda servir y no tienes tiempo de ir a una tienda donde las vendan, utiliza esa bolsa y sustitúyela en el aeropuerto si allí tienen otras mejores (de tamaño). Las bolsas de un litro son más o menos del tamaño de las bolsas para sándwiches, en caso de que no tenga una caja con el tamaño.

La congelación es un mal plan por varias razones. La seguridad ha impedido a la gente llevar líquidos congelados a los aviones, diciendo que todavía eran líquidos. (No siempre es así, pero ha ocurrido).
El aceite no puede congelarse, ya que todos los aceites tienen sus propios puntos de congelación.
Y puedes dañar la bondad del aceite cuando lo congelas. La mayoría de los aceites medicinales deben mantenerse entre determinadas temperaturas para que se conserven mejor.

Viajando entre Alemania y Austria es muy poco probable que te encuentres con problemas en la aduana, pero si sientes la necesidad puedes ir a la salida roja de "algo que declarar" del aeropuerto y preguntar.

50ml está dentro de los límites de líquido que puedes llevar en el equipaje de mano en casi cualquier vuelo. No tendrás problemas para llevarlo a bordo.

Es poco probable que la supuesta toxicidad sea un problema. Los suplementos de vitamina D no tienen prohibida su importación ni su transporte y, como dices, muchas otras cosas son tóxicas si se toman en cantidades muy grandes.