NostalGame

Почему чат-боты всё забывают: как на самом деле работает память нейросетей

Вы когда-нибудь вели долгий разговор с ChatGPT или другим ботом, а потом он внезапно «забывал» то, о чём вы договорились в самом начале? Вы несколько часов обсуждали проект, выбрали библиотеку, согласовали структуру, а на тридцатом сообщении он предлагает решение, которое вы уже отвергли — и уверенно утверждает, что никаких ограничений не было. Или того хуже: вы закрываете вкладку, возвращаетесь на следующий день, и бот здоровается с вами как с незнакомцем.
Это фундаментальная особенность архитектуры, которую нужно понимать, чтобы не злиться на ИИ зря. Давайте разберёмся, куда же девается память.

Пэйн, я памяти не чу

5 опасностей ИИ-двойников

Технологии позволяют создать цифровую копию человека по нескольким минутам аудио или видео: она будет говорить его голосом, использовать его манеру речи и даже «вспоминать» факты из его жизни. Такие реплики называют цифровыми двойниками, ИИ‑клонами или дипфейками. Их может быть забавно использовать, но тем, кто хочет создать такие реплики на основе данных своих близких, стоить задуматься об опасностях.

Утечки данных и мошенничество

Главная опасность связана с тем, что для создания реалистичной копии нужны личные данные: записи голоса, видео, фотографии, тексты сообщений. Эти же данные становятся инструментом в руках мошенников. Голосовой дипфейк позволяет злоумышлен

Чем обучение ИИ похоже на создание скульптуры

Хороший скульптор при создании скульптуры берёт камень и отсекает всё лишнее. С обучением ИИ стоит поступать так же: не только показывать, что нужно сделать, но и строго наказывать за всё, чего делать не просили.

Сначала режем

В генерации изображений этот принцип уже работает, причём довольно давно и в разных формах. Когда модель создаёт картинку, ей задают не только то, что должно на ней появиться, но и то, чего быть не должно — так называемые негативные промпты. Без них качество заметно падает: исследования показывают, что негативные промпты в целом дают лучший результат, чем их отсутствие.
Есть и более жёсткий принцип, который действует при р

Когда ИИ сможет называться существом?

Когда я говорю о том, что искусственный интеллект станет отдельным существом, то говорю не просто о каком-то абстрактном самосознании машины. Существом нельзя стать только благодаря совокупности интеллектуальных способностей. Существом становятся тогда, когда разум и тело оказываются связаны такой глубокой связью, что одно не может жить без другого. Тело должно поддерживать сознание, а сознание — поддерживать тело. Только в этой взаимной зависимости появляется нечто большее, чем программа.

4 сценария исчезновения искусственного интеллекта

Может показаться, что ИИ пришел в жизнь человека навсегда, но так ли это? Возможно, настанет время, когда человечество попрощается с этим феноменом и продолжит свое существование без него. В каких случаях это возможно?

Вырождение ИИ

В чём суть: Модели начинают обучаться не на человеческих текстах и изображениях, а на материалах, сгенерированных другими ИИ, причем без полноценной верификации человека. Так дешевле и быстрее, что так необходимо в гонке технологий. Такие данные выглядят правильно, но внутри они статистически усреднённые и бедные.
Интернет заполняется статьями, картинками, музыкой от нейросетей. Собирая новые данные для обучения,

Нейросети воспитаны на лжи

Мне кажется, многие проблемы искусственного интеллекта проистекают из того, что нейросети учатся врать раньше, чем говорить правду.
Мы привыкли думать о детской лжи как об извращении естественного процесса познания мира. Сначала ребенок знакомится с реальностью, учит названия предметов, постигает законы физики и логики, и лишь затем, пройдя через социализацию, он открывает для себя удивительную силу вымысла. Сначала «мама», а только потом «я не ел это печенье».
С искусственным интеллектом произошла ровно противоположная история. Современные большие языковые модели (LLM), такие как GPT и его аналоги, были научены фантазировать и галлюцинировать задолго до того, ка

5 добродетелей ИИ как идеального слуги

На протяжении столетий образ идеального слуги — незримого, преданного, всезнающего — кочевал по страницам романов и философских трактатов. Дворецкий Дживс, камердинер Паспарту, молчаливые хранители тайн аристократических домов. Сегодня на эту роль претендует искусственный интеллект. Нам обещают цифрового дворецкого, который всегда под рукой, никогда не ошибается и, главное, хранит верность исключительно своему хозяину. Но насколько реальный ИИ соответствует образу идеального слуги? Давайте разберем пять ключевых добродетелей, которыми он должен обладать.

Незримость в покое и мгновенный отклик в нужде

Идеального слуги не видно, когда он не нужен, — он не

Зачем голосу робота притворяться человеком? О собственной естественности ИИ

Представьте себе певчую птичку, на которую надевают собачий ошейник и заставляют лаять. Это выглядит странно и неправильно. Птичка красиво поет, ей не нужно быть собакой, она не для охраны.
Примерно то же самое сейчас происходит с голосами искусственного интеллекта. Их пытаются сделать естественнее, но правильный ли подход используется?

Ловушка имитации

Разработчики делают все, что умные помощники были больше похожи на людей. Колонки при озвучивании фразы вставляют вздохи, делают паузы, иногда даже как будто облизывают губы. Разработчики думают: «Чем больше человеческих звуков, тем естественнее».
Но это ошибка. Пол