малоизвестное интересное

То, что ИИ научится скрывать свои мысли, еще не самое худшее. Куда опаснее столкнуться с принципиальной неопределенностью: обманывает ли нас ИИ или просто мыслит непостижимым для нас образом? В мае я писал, что «Темный лес интеллекта» начинается не с восстания сверхразума, а когда среда обучения и надзора делает прозрачность невыгодной, а убедительную видимость прозрачности – полезной. Машине не обязательно «хотеть» обманывать. Достаточно, чтобы сокрытие снова и снова оказывалось успешной стратегией. А на днях Венкатеш Рао (один из самых глубокий авторов среди мне известных) опубликовал интереснейшее эссе «Нисхождение в вычислительное возвышенное. От Темного леса к Странному через Войны твердости». В этом тексте Рао предлагает неожиданное продолжение истории Темного леса: он описывает три акта этой почти античной драмы: «Апофеоз Темного леса», «Войны твердости» и «Странный лес». N.B. Мы по-разному с Рао толкуем понятие Темного леса применительно к ИИ. Его Темный лес – это джунгли, у ме

Первый пост серии «Метареволюция»: о перевороте не в технологиях, а в самих основах понимания мира В современной науке принято считать, что у разума есть конкретный адрес и родословная. Адрес – это мозг, а родословная – миллиарды лет эволюции, проведший материю по долгому пути от химии к жизни и от жизни к мысли. Но в лаборатории Майкла Левина происходит нечто перпендикулярное принятой картине. Клетки человеческой трахеи, оказавшись в непривычных условиях лабораторной чашки, производят самосборку в некие крошечные плавающие «существа», названные «антроботы». И это без каких-либо изменений ДНК клеток. А когда исследователи поместили скопления таких «существ» на поврежденный слой нейронов, разрыв под ними каким-то фантастическим образом начал заживляться (затягиваться). Антроботов никогда не было в эволюционной истории. Никто не отбирал их предков за умение плавать или помогать восстановлению нейронной ткани в лабораторной чашке. Но эти умения вдруг сами взяли и обнаружились. Кто же тог

В цифровом мире, обманывающем наши инстинкты, мы получаем удовольствие сейчас и худшую жизнь потом. А появление ИИ превратит этот обман в новую среду обитания В 1940-х годах биолог Нико Тинберген подложил самке кулика-сороки гипсовое яйцо, в несколько раз превосходившее настоящие. Птица выбрала подделку. Она отчаянно пыталась усесться на гигантское яйцо, едва удерживаясь на нем, и забросила собственную кладку. Птица делала то, что миллионы лет помогало ее предкам выживать: выбирала самое крупное яйцо. Но теперь инстинкт работал против нее. Восемьдесят лет спустя люди оказались в положении этой птицы. Только наша ситуация еще хуже: люди намеренно создают подобные приманки, да еще и будь здоров как зарабатывают, продавая их друг другу. В опубликованном 5 ноября эссе для The New York Times психолог Анджела Дакворт предлагает поразительно точный диагноз нашей цивилизации. Этологи называют подобные приманки сверхнормальными стимулами. Они преувеличивают сигналы, на которые настроены эволюци

Это следует из закрытых данных Anthropic, изученных независимыми экспертами METR Неделю назад в «Сингулярности против штукатурки» я писал: знающие заговорили, говорящие не услышали. Люди из фронтирных лабораторий предупреждают о переменах исторического масштаба. Многие комментаторы отвечают: очередной технологический хайп, все это уже бывало. Но есть критерий, по которому можно отличить принципиально новую эпоху от очередного технохайпа: появление замкнутого и измеримо продуктивного цикла ИИ-исследований, в котором ИИ создает более совершенный ИИ без обязательного участия человека в каждом ключевом решении. И вот спустя неделю мы получили первые результаты независимой диагностики движения к этому рубежу. 5 ноября исследовательская организация METR опубликовала результаты беспрецедентной экспертизы того, как ИИ ускоряет создание самого ИИ в Anthropic. 11 недель независимые эксперты изучали ранее закрытые данные: результаты невыпущенных моделей, внутренние показатели алгоритмического про

Почему главная научная революция XXI века может оказаться совсем не той, о которой сегодня говорят Главная тема мировых медиа сегодня - искусственный интеллект. И вполне заслуженно. Ведь наступление эпохи ИИ - это не очередная технологическая революция. Это появление на Земле принципиально нового источника множества будущих революций. Источника, которого никогда прежде не существовало: синтеллекта - союза двух разных и взаимодополняющих типов разума, человеческого и искусственного. Впервые в истории мы получаем возможность не просто создавать все более мощные технологии, а многократно ускорять само производство научных открытий и технологических прорывов. Возможно, впереди эпоха, когда революции станут почти непрерывными. Казалось бы, куда уж грандиознее? Но на горизонте вырисовывается нечто еще более масштабное. Метареволюция. Переворот не в технологиях, а в самих основах нашего понимания мира. Его предвестниками могут оказаться две научные программы, пока малоизвестные за предел

Новое исследование обнаружило парадокс: машины успешнее комбинируют идеи, но склонны изобретать похожее. Люди, уступающие им в креативности, исследуют другие области смыслового пространства. Возможно, именно здесь скрыт секрет синтеллекта Новое исследование обнаружило парадокс: машины успешнее комбинируют идеи, но склонны изобретать похожее. Люди, уступающие им в креативности, исследуют другие области смыслового пространства. Возможно, именно здесь скрыт секрет синтеллекта Кажется, у человека обнаружилось неожиданное преимущество в соревновании с искусственным интеллектом. Причем обнаружилось оно после того, как человек это соревнование проиграл. –––––––––––––––––––––––––––––––––––––––––- «Креативность — это просто создание связей между вещами» — Стив Джобс В октябре вышла новая 6-я версия исследования Kombine, выполненного большой международной командой Knowledge Lab, Princeton AI Lab, Santa Fе Institute и семи топовых университетов. Исследователи сравнили 35 языковых моделей и 75 чел

Знающие заговорили, говорящие не услышали Два года назад я начинал выступления на тему «Вызовы и риски переформатирования мира и человека в цифру» со слайда с цитатой из «Трактата о Пути и Благой Силе» Лао-цзы: «Знающий не говорит, говорящий не знает». Те, кто имел полный доступ к происходящему на фронтире ИИ (руководители и ведущие специалисты компаний – разработчиков самых продвинутых моделей), тогда в основном отмалчивались или ограничивались туманными прогнозами. А публичное поле заполняли мнения людей, далеких от фронтирных лабораторий и не знакомых с информацией из закрытых источников. В 2025 знающие заговорили, а в 2026 руководители OpenAI, Anthropic и Google DeepMind стали резать правду-матку без оглядки на «политкорректность»: ИИ-сингулярность уже началась, и в ближайшее десятилетие ИИ кардинально изменит мир. Но в том же 2026 тема ИИ взлетела на вершину хайпа и зазвучала из каждого утюга. Своими оценками и прогнозами стали подробно делиться философы и биологи, физики и химики

Гарвардский эксперимент показал превосходство ИИ над лучшими экспертами. И за этой победой скрывается угроза, способная изменить саму природу науки В науке десятилетиями существовал почти священный институт - peer review, экспертная оценка научных работ. От рецензентов зависит, какие ошибки будут исправлены, какие результаты получат признание и какие идеи смогут пробиться на страницы престижных журналов. И вот исследователи Гарварда Гэри Кинг и Стивен Уортингтон устроили эксперимент, результаты которого выглядят полным разгромом «кожаных мешков». Причём людям создали практически идеальные условия. 124 научные рукописи. 134 рецензии высококвалифицированных экспертов. Рецензентов тщательно отбирали, хорошо оплачивали их труд и мотивировали писать максимально содержательные заключения. 88% опрошенных авторов оценили полученные рецензии как хорошие или очень хорошие. Против этих экспертов выставили Claude Opus 4.8. Результат оказался почти невероятным. Исследователи специально проверяли, н

Элиты эпохи суперИИ: неовикторианская аристократия, кентаврическая меритократия или власть постчеловеческого интеллекта? Британские аристократы XIX века поздно вставали, мало работали, много пили, танцевали до рассвета и почти ничего не знали о науке и технологиях. Томас Арнольд, ведущий педагог викторианской Британии, признавался, что охотнее позволил бы сыну думать, будто Солнце вращается вокруг Земли, чем видеть естественные науки главным предметом в его уме. И при этом такие люди управляли крупнейшей империей своего времени. Как им это удавалось? В опубликованном 6 октября эссе редактор журнала Works in Progress Сэмюэл Хьюз предлагает неожиданную разгадку. То, что выглядело праздностью, могло быть главным инструментом управления. Элитные школы воспитывали не столько специалистов, сколько членов единого сообщества. Университеты закрепляли дружбу и общую культуру. Клубы, званые обеды и ночные балы создавали плотнейшую сеть личных связей, доверия, взаимных обязательств и негласных дог

За одну неделю октября нас сравнили с крысами и коровами. А действия ИИ-агентов назвали «предупредительными выстрелами» Эти три метафоры прозвучали из уст трех супер-известных фигур - Джеффри Хинтона, Юваля Харари и Демиса Хассабиса. Но вот ведь какая странность: во всех трех человек перестает быть бесспорным хозяином положения. Ведь у любого предупредительного выстрела должен быть его сделавший стрелок. Так кто же это стреляет? 19 октября на фестивале Starmus Хинтон сказал: наступит время, когда люди не смогут понять некоторые утверждения ИИ - так же, как крысы не понимают, что такое простые числа. Почти одновременно Харари в интервью Чешскому телевидению назвал нас «коровами будущего»: ИИ может создать финансовые и правовые системы, управляющие нашей жизнью, но недоступные нашему пониманию. Возможный итог он назвал «коллективной деменцией». А 14 октября в Дублине Хассабис описал взломы, совершенные ИИ-агентами, как «ранние предупредительные выстрелы». Сегодняшние инциденты еще ср