En fin, la cosa es que estuve todo el viernes y todo el lunes sin poderlo hacer andar. La caja me respondía perfecto salvo en un caso: cuando me llegaba 0x3F pinchaba. Lo peor es que era un valor que me llegaba sospechosamente seguido para ser aleatorio.

Le dimos mil vueltas con Tulku hasta que finalmente encontramos el problema, que obviamente era yo , o más bien la implementación de SerialPort de .NET (de Microsoft al menos, el programa no corre en Mono todavía) que tiene defaults ridículos .

El problema era que yo estaba usando un método que lee todo lo que está pendiente, pero justo ese método pasa los bytes por un Encoder, ¿y a que no adivinan? … Si, el Encoder por default es ASCII7BIT, por lo que me tiraba a la basura el bit más significativo del byte leído, haciendo que no hubiera chance de responder correctamente para terminar el handshaking.

Reemplazando el método por un while y leyendo byte a byte de manera RAW, el problema se solucionó.