Имеется функция Windows API, преобразующя уродливые Windows-окна, информирующие об ошибках в в привычные исключения Delphi, что, по крайней мере, более эстетично и полезно (поскольку в этом случае ошибка может быть перехвачена и обработана вашей программой).
SetErrorMode(SEM_FAILCRITICALERRORS);
Это все! Эта функция сообщает Windows о том, что вызвавшая ошибку программа будет сама обрабатывать критические ошибки.