[Coutty]

рекурсивно самоулучшающийся искусственный интеллект

А как же "Система не может породить систему, превышающую себя по сложности"?

Если уж рассматривать фантастические произведения, то можно вспомнить и Азимова. Не вспомню, правда, названия, но суть такая: Человек в определённые периоды жизни приходит в некоторый пункт сбора, где ему в память загружают новые знания. Таким образом, нет смысла ходить в школу/университет, читать книги, учиться самому и т.д. Вроде бы здорово, но в то же время полученные знания нельзя усовершенствовать, поскольку человек не научился учиться. Возникла новая технология -> нужен новый специалист высокого уровня -> новая программа загружается новому человеку подходящего возраста.
Вопрос - кто пишет программы? А программы пишут те люди, которые всё-таки научились учиться и способны развивать технологии дальше. Их немного в общем числе, но без них прогресс остановился бы.

Короче - я сомневаюсь в том, что тех.сингулярность будет иметь место. В фантастике - может быть, но не в реальной жизни (ну ладно, по крайней мере не в ближайшие 20 лет, как там прогнозируют).