¿Cómo se enteraría el INS de que un visado se ha excedido?

Sí, te falta algo. La compañía aérea tiene que informar a las autoridades de que estás en el avión y te vas.

Si sale por una frontera terrestre o por barco, su salida también puede quedar registrada, aunque no en todos los casos.

Si no hay constancia de su salida, pueden suponer que sigue en el país.

A mucha gente le ha pasado que ha intentado entrar en los Estados Unidos o conseguir un visado o ESTA y le han dicho que había sobrepasado la estancia cuando se había ido, pero ese registro se ha perdido.

Como complemento a la respuesta de @Willeke, hay una pregunta más genérica de "cómo pillan a los que se pasan de la raya". Y la verdadera respuesta es que muchas veces no son atrapado. Decenas de millones de personas en todo el mundo se encuentran en situación de inmigración dudosa y ninguna autoridad es capaz de identificarlas a todas. Incluso China tiene inmigrantes ilegales a pesar de sus amplias capacidades de vigilancia. ¿En qué situaciones acaban encontrando las autoridades de inmigración a los inmigrantes ilegales?

1. Al intentar salir y volver. Como menciona @Willeke, si no tienen constancia de que te has marchado, es posible que asuman que te has quedado más tiempo del permitido y se nieguen a dejarte entrar. O en el caso de los países con inmigración de salida, recibirás una prohibición de entrada al salir del país. Vivir de incógnito no es una experiencia agradable, así que la mayoría de las veces la gente acaba volviendo a casa.
2. Finalmente legalizan su estancia. Es decir. tres millones de personas consiguieron resolver su situación migratoria en EE.UU. durante la amnistía de 1986. En el Reino Unido puedes solicitar la regularización de tu situación si consigues permanecer ilegalmente durante 20 años .
3. Alguien los denuncia, normalmente un antiguo amigo o compañero. Rompes con tu novio o novia, se enfadan contigo y llaman a los servicios de inmigración para denunciarte.
4. A través de redadas en lugares conocidos de personas que han sobrepasado el visado. Esto ocurre periódicamente en los Estados Unidos aunque la gran mayoría de los inmigrantes ilegales nunca verán una.

Y por último... algunos podrían no ser atrapados nunca. Estoy seguro de que hay millones de personas que entraron en EE.UU. (tal vez ni siquiera a través de un punto de inspección oficial), permanecieron allí durante unos años, volvieron y el CBP sigue sin enterarse. Al igual que hay gente que se ha librado del robo, la evasión de impuestos, la venta de narcóticos ilegales, el contrabando de mercancías, etc. Pero aún así estarás mejor si sigues todas las reglas de inmigración, incluso si existe la posibilidad de que te salgas con la tuya.