[Serguei Kouzmine]

может быть закрывать его

Код:

$process = [System.Diagnostics.Process]::GetCurrentProcess() | Get-Process

Код:

$form.add_FormClosing({
    $form.Hide()
    $notifyIcon.Visible = $true
    $_.Cancel = $true
    $notifyIcon.Visible = $false
    $notifyIcon.Dispose()
    $process.CloseMainWindow()
    $process.Dispose()
})