Хочу сделать на сайте новости, погода, анекдоты берущиеся с др. сайтов.
Кто знает с каких сайтов и как можно это сделать.

Погоду можно взять в виде баннера тут или поискать аналогичные сервисы ( http://weather.yahoo.com ). Об одном из сервисов импорта новостей можно почитать тут . О самой технологии тут .
Желаю удачи :).