Данная проблема - "При подключенном USB устройстве не включается (зависает) компьютер" была у меня на ноутбуке HP Probook 4540s. Причина оказалась в следующем:
На основном жестком диске в процессе установки Windows было создано три раздела: Зарезервировано системой, системный - C:, пользовательский - D:. ОС была установлена на первый доступный раздел (диск C

, а второй доступный раздел (диск D

-
не был отформатирован. Подключаемая флешка была размечена в режиме USB HDD Single partition, несла на себе дистрибутив Windows 7. Скорее всего BIOS ноутбука "впадал в ступор" от того, что воспринимал содержимое флешки как второй основной раздел (неотформатированный) жесткого диска.
Решение проблемы очень просто: загрузился в ОС и стандартными средствами отформатировать второй основной раздел жесткого диска - диск D:. После этого флешка не "мешала" загрузке ноутбука.