Может, немного не в тему отвечаю, но особого смысла изобретать флешку с ключами нет. Их уже изобрели.
![Smile](images/smilies/new/smile.gif)
Называются security token. Из совместимых с механизмом PAM, первое, что нагуглилось:
http://blog.stalkr.net/2012/04/yubik...ity-token.html
Публичные ключи можно держать в LDAP, pam_ldap в помощь. Ну и емнип, у fusion directory даже есть плагин для хранения публичных ключей.