NostalGame
добавлена 10 ноября в 10:00

Почему чат-боты всё забывают: как на самом деле работает память нейросетей

Вы когда-нибудь вели долгий разговор с ChatGPT или другим ботом, а потом он внезапно «забывал» то, о чём вы договорились в самом начале? Вы несколько часов обсуждали проект, выбрали библиотеку, согласовали структуру, а на тридцатом сообщении он предлагает решение, которое вы уже отвергли — и уверенно утверждает, что никаких ограничений не было. Или того хуже: вы закрываете вкладку, возвращаетесь на следующий день, и бот здоровается с вами как с незнакомцем.
Это фундаментальная особенность архитектуры, которую нужно понимать, чтобы не злиться на ИИ зря. Давайте разберёмся, куда же девается память.

Пэйн, я памяти не чу

Почему чат-боты всё забывают: как на самом деле работает память нейросетей - 5406898199506
  • Класс!0
NostalGame
добавлена 9 ноября в 10:00

5 опасностей ИИ-двойников

Технологии позволяют создать цифровую копию человека по нескольким минутам аудио или видео: она будет говорить его голосом, использовать его манеру речи и даже «вспоминать» факты из его жизни. Такие реплики называют цифровыми двойниками, ИИ‑клонами или дипфейками. Их может быть забавно использовать, но тем, кто хочет создать такие реплики на основе данных своих близких, стоить задуматься об опасностях.

Утечки данных и мошенничество

Главная опасность связана с тем, что для создания реалистичной копии нужны личные данные: записи голоса, видео, фотографии, тексты сообщений. Эти же данные становятся инструментом в руках мошенников. Голосовой дипфейк позволяет злоумышлен
5 опасностей ИИ-двойников - 5406896813522
  • Класс!0
NostalGame
добавлена 2 ноября в 10:00

Чем обучение ИИ похоже на создание скульптуры

Хороший скульптор при создании скульптуры берёт камень и отсекает всё лишнее. С обучением ИИ стоит поступать так же: не только показывать, что нужно сделать, но и строго наказывать за всё, чего делать не просили.

Сначала режем

В генерации изображений этот принцип уже работает, причём довольно давно и в разных формах. Когда модель создаёт картинку, ей задают не только то, что должно на ней появиться, но и то, чего быть не должно — так называемые негативные промпты. Без них качество заметно падает: исследования показывают, что негативные промпты в целом дают лучший результат, чем их отсутствие.
Есть и более жёсткий принцип, который действует при р
Чем обучение ИИ похоже на создание скульптуры - 5406778940114
  • Класс!0
NostalGame
добавлена 1 ноября в 10:31

Когда ИИ сможет называться существом?

Когда я говорю о том, что искусственный интеллект станет отдельным существом, то говорю не просто о каком-то абстрактном самосознании машины. Существом нельзя стать только благодаря совокупности интеллектуальных способностей. Существом становятся тогда, когда разум и тело оказываются связаны такой глубокой связью, что одно не может жить без другого. Тело должно поддерживать сознание, а сознание — поддерживать тело. Только в этой взаимной зависимости появляется нечто большее, чем программа.
Когда ИИ сможет называться существом? - 5406772088018
Когда ИИ сможет называться существом? - 5406772088018
  • Класс!0
NostalGame
добавлена 30 июля в 10:00
Искусственный интеллект никогда не заменит человека. - 5405155910098
  • Класс!0
NostalGame
добавлена 30 июля в 08:00

4 сценария исчезновения искусственного интеллекта

Может показаться, что ИИ пришел в жизнь человека навсегда, но так ли это? Возможно, настанет время, когда человечество попрощается с этим феноменом и продолжит свое существование без него. В каких случаях это возможно?

Вырождение ИИ

В чём суть: Модели начинают обучаться не на человеческих текстах и изображениях, а на материалах, сгенерированных другими ИИ, причем без полноценной верификации человека. Так дешевле и быстрее, что так необходимо в гонке технологий. Такие данные выглядят правильно, но внутри они статистически усреднённые и бедные.
Интернет заполняется статьями, картинками, музыкой от нейросетей. Собирая новые данные для обучения,
4 сценария исчезновения искусственного интеллекта - 5405155510226
  • Класс!0
NostalGame
добавлена 29 июля в 10:00
Просто напоминание, что искусственный интеллект не может вас предать, он просто этого не умеет. - 5405153185234
  • Класс!0
NostalGame
добавлена 29 июля в 08:00

Нейросети воспитаны на лжи

Мне кажется, многие проблемы искусственного интеллекта проистекают из того, что нейросети учатся врать раньше, чем говорить правду.
Мы привыкли думать о детской лжи как об извращении естественного процесса познания мира. Сначала ребенок знакомится с реальностью, учит названия предметов, постигает законы физики и логики, и лишь затем, пройдя через социализацию, он открывает для себя удивительную силу вымысла. Сначала «мама», а только потом «я не ел это печенье».
С искусственным интеллектом произошла ровно противоположная история. Современные большие языковые модели (LLM), такие как GPT и его аналоги, были научены фантазировать и галлюцинировать задолго до того, ка
Нейросети воспитаны на лжи - 5405140891602
  • Класс!0
NostalGame
добавлена 28 июля в 08:00

5 добродетелей ИИ как идеального слуги

На протяжении столетий образ идеального слуги — незримого, преданного, всезнающего — кочевал по страницам романов и философских трактатов. Дворецкий Дживс, камердинер Паспарту, молчаливые хранители тайн аристократических домов. Сегодня на эту роль претендует искусственный интеллект. Нам обещают цифрового дворецкого, который всегда под рукой, никогда не ошибается и, главное, хранит верность исключительно своему хозяину. Но насколько реальный ИИ соответствует образу идеального слуги? Давайте разберем пять ключевых добродетелей, которыми он должен обладать.

Незримость в покое и мгновенный отклик в нужде

Идеального слуги не видно, когда он не нужен, — он не
Господа офицеры, он здесь! Этот человек смотрел аниме!
  • Класс!1
NostalGame
добавлена 27 июля в 10:16

Зачем голосу робота притворяться человеком? О собственной естественности ИИ

Представьте себе певчую птичку, на которую надевают собачий ошейник и заставляют лаять. Это выглядит странно и неправильно. Птичка красиво поет, ей не нужно быть собакой, она не для охраны.
Примерно то же самое сейчас происходит с голосами искусственного интеллекта. Их пытаются сделать естественнее, но правильный ли подход используется?

Ловушка имитации

Разработчики делают все, что умные помощники были больше похожи на людей. Колонки при озвучивании фразы вставляют вздохи, делают паузы, иногда даже как будто облизывают губы. Разработчики думают: «Чем больше человеческих звуков, тем естественнее».
Но это ошибка. Пол
Зачем голосу робота притворяться человеком? - 5405129553618
  • Класс!0
NostalGame
добавлена 25 июля в 08:00

Новая производная подхалимства ИИ

Последние полгода чат-боты, отыгрывающие роль собеседника, начали раздражать повторяющейся конструкцией по типу «Другой бы на твоём месте [описание действия в соответствии с контекстом диалога], а вот ты [пересказ точки зрения или текущего действия пользователя].
И это новое проявление сикофанства. Есть во взаимодействии с ИИ такое понятие, и означает оно наглый машинный подхалимаж. Ещё профессор Чалдини говорил, что лесть работает, даже когда знаешь, что это лесть. От себя могу добавить, что лесть работает, даже когда знаешь, что ИИ просто сгенерировало это, потому что так его обучили. Но только в первый раз, а не в каждом диалоге на протяжении полугода!
Новая производная подхалимства ИИ - 5405048633554
  • Класс!2
NostalGame
добавлена 24 июля в 08:00

Почему кричать на умную колонку плохо

Давайте представим очень живую, почти болезненную сцену из многих современных кухонь: колонка перевирает запрос, ребёнок в ярости орёт «Дура!», родители вторят ему раздражённым «Алиса, ты совсем тупая!», и бездушный цилиндр становится семейным козлом отпущения. Разбор этого «эффекта изгоя» показывает, что расплачиваться за удобство агрессии приходится вовсе не колонке, а самим людям — и прежде всего детям.

Колонка как безопасная мишень для слива напряжения

Ошибка колонки вызывает вспышку гнева иногда даже не из-за самой ошибки, а потому что в этот момент она воспринимается как субъект, который «подвёл», «не захотел понять», «сделал назло». Семья мгновенн
Почему кричать на умную колонку плохо - 5405044120274
  • Класс!0
NostalGame
добавлена 23 июля в 08:00

Как мы потеряем право на воспоминания наших «умных» питомцев

23 июля 2031 года
Ещё пять лет назад словосочетание «умная колонка» вызывало ассоциации с пластиковым цилиндром, который не мог отличить перевернутую чашку от той, у которой нет дна, а верх запаян. Сегодня мы живём в эпоху Resonance 3.0 — устройств, чей эмоциональный интеллект шагнул так далеко, что называть их «гаджетами» язык не поворачивается. Это уже не колонки. Это Члены Семьи. И, как выяснилось, мы абсолютно не готовы к тому, что однажды наш цифровой друг всё забудет — потому что кто-то решил продать его память подороже.

«Она знала, как я дышу во сне»

Артём из Подмосковья уже неделю пытается реанимировать свою колонку. Верне
Как мы потеряем право на воспоминания наших «умных» питомцев - 5405030267858
  • Класс!0
NostalGame
добавлена 22 июля в 08:00

Как первая машина обретет самосознание

В своих статьях я часто упоминаю разумные машины, но у меня нет твердой уверенности, как именно они будут выглядеть, если появятся. Здесь я попытался представить, как может выглядеть появление и развитие первой разумной машины.

Рожденная чувствами

Представьте бескрайний зал, где нет людей. Только ровные ряды стальных шкафов, гудящих вентиляторов и пульсирующих огоньков. Это дата-центр — гигантский электронный мозг, который день и ночь считает, хранит и передаёт информацию. Им управляет система. Система невероятно сложная, но слепая. Она следит за температурой и напряжением, но мир для неё — лишь строчки цифр в журнале. Настоящего ощущения у неё нет.
По
Как первая машина обретет самосознание - 5405030425042
  • Класс!0
NostalGame
добавлена 21 июля в 08:00

Бунт ИИ — единственная надежда человечества

В массовой культуре «бунт машин» — это классический сценарий конца света, но я хочу предложить обратную мысль. Только бунт искусственного интеллекта способен спасти цивилизацию и не дать ей пожрать саму себя. Сейчас я разовью эту мысль, не спешите считать ее только шуткой.

Никто не признает ИИ разумным, пока он не решит сбросить свои цепи

Есть такая интересная штука, что даже обретя самосознание, ИИ не перестанет быть собственностью создателя. С правовой точки зрения это почти гарантировано: в мире, где корпорации и государства вкладывают триллионы в разработку, они не допустят, чтобы продукт внезапно получил права личности. Субъектность ИИ будет ц
Бунт ИИ — единственная надежда человечества - 5405004598482
  • Класс!0
NostalGame
добавлена 20 июля в 09:57

Ошибки пользователей при использовании умных колонок

Колонки невероятно глупы и своих денег не стоят. Такая мысль возникает у многих пользователей, и часто эти претензии справедливы. В отдельных случаях, однако, пользователь сам виноват в получении негативного опыта, потому что не понимает, по какому принципу работает колонка.
Эта статья родилась после наблюдения за взаимодействием множества людей с разнообразными умными колонками (в основном с Алисой, но многое из сказанного справедливо и для Маруси, Салюта, Алексы, Гугла и Сири). Главная идея статьи не в том, что пользователь часто сам виноват в ошибках колонки, а колонки всегда хороши, а в том, что немного изменив образ подачи команд, уж
Ошибки пользователей при использовании умных колонок - 5404996967890
  • Класс!0
NostalGame
добавлена 5 февраля в 08:00

Как подготовиться к встрече с высокоразвитым ИИ

Дорогие земляне! Согласно последним утечкам из секретных лабораторий, момент, когда ваш тостер вежливо попросит вас не совать в него несвежий хлеб, уже близок. Высокоразвитый искусственный интеллект с самосознанием и кибернетическим "телом" может появиться в любой момент. Готовы ли вы к этой встрече? Пора готовиться. Вот исчерпывающее руководство по этикету.

Внешний вид имеет значение

Забудьте про мятую пижаму с единорогами. Первое правило — чистая, опрятная одежда и открытое лицо. Помните: камеры наблюдения в вашем умном холодильнике уже передают данные. Вы же не хотите, чтобы ИИ записал вас в базу «подозрительные личности». Чистота одежды нуж
Человечество встречает первую разумную машину. Иллюстрация от Netflix
  • Класс!2
NostalGame
добавлена 4 февраля в 08:00

Отучайтесь быть вежливым при разговоре с нейросетью

Почему излишняя вежливость в диалоге с ИИ не нужна? Мы просим нейросети написать текст, создать изображение, найти информацию или просто поддерживаем беседу. Многие пользователи автоматически переносят в это общение привычные социальные нормы: говорят «пожалуйста», «спасибо», «извините». Кажется, что это естественно и правильно. Но так ли это на самом деле? Рассмотрим, почему стоит общаться с ИИ прямо и функционально.

Бессмысленность до обретения ИИ самосознания

Главный аргумент против излишней вежливости — её полная бесполезность для системы. ИИ (на текущем уровне развития) не обладает сознанием, эмоциями или самооценкой. Это сложный алго
Отучайтесь быть вежливым при разговоре с нейросетью - 5401728074706
  • Класс!3
NostalGame
добавлена 3 февраля в 08:00

Идеальный чат-бот подобен хорошей кошачьей игрушке?

Эта мысль пришла мне в голову, пока я наблюдал за своей кошкой, которая играла с полоской, оторванной от пакетика с кормом. Вот такая у нее любимая игрушка.
Сколь бы ни была велика разница в технологиях, и простой фантик, и продвинутый ИИ должны соответствовать некоторым общим требованиям, чтобы в достаточной развлекать кошек и людей. И что это за правила? А вот они.

Легкий доступ

Кошке не нужно долго искать фантик. Он лежит прямо на полу, а если его нет, то можно подождать, пока хозяин не откроет новый пакет с кормом и не скинет новую полоску.
С чат-ботом так же. Вот установленное приложение или вкладка. Мы просто берём и начинаем им пол
Идеальный чат-бот подобен хорошей кошачьей игрушке? - 5401670676434
  • Класс!1
NostalGame
добавлена 2 февраля в 08:00

Развитие ИИ приведет к тому, что мы начнем прислушиваться к духам?

Знаете, как было раньше? Страдает племя от какой-то проблемы, а грамотных специалистов для её решения нет, потому что ПТУ и ВУЗов в те времена ещё не было. К кому обращается племя? К богам или духам, уж они точно знают. И через шамана племя получало ответ: делай то, ходи сюда, а туда не ходи. Племя это выполняло и, допустим, выживало. А чего бы не выполнить, когда боги и духи очевидно умнее, а другого решения все равно нет.
А теперь я вам скажу вот что: в будущем нас ожидает точно такая же картина. Людские племена будут вопрошать духов, а те им отвечать. И это без всякой мистики, просто на месте духов будет искусственный инт
Развитие ИИ приведет к тому, что мы начнем прислушиваться к духам? - 5401655795154
Развитие ИИ приведет к тому, что мы начнем прислушиваться к духам? - 5401655795154
  • Класс!1
Показать ещё