Иногда мне кажется, что самая большая «иллюзия» ИИ заключается не в том, что он серьезно говорит чепуху, а в том, что мы вообразили вокруг него целую метафизическую вселенную.

Когда люди сталкиваются с вещами, которые они не совсем понимают, они часто придерживаются устойчивого подхода: они сначала принимают решение, а затем романтизируют его; они сначала их персонифицируют, а затем обожествляют. Пламя считается эльфами, а гром и молния — провидением. Как только алгоритм сможет написать два приличных предложения, некоторые люди сразу же зададутся вопросом, не жила ли уже в серверной комнате электронная душа.

На самом деле это вполне нормально. Человеческий мозг устроен так, чтобы придавать миру сюжет. Проблема не в том, что мы можем принять решение. Проблема в том, что, если наше мышление становится слишком гладким, легко принять «выглядит как» за «по существу есть».

В случае с ИИ эта тенденция людей даже сильнее, чем когда сам ИИ несет чушь. В лучшем случае ИИ — это небольшая галлюцинация в ответ; Галлюцинации людей по поводу ИИ часто представляют собой целое мировоззрение, которое может занимать в уме до 10 000 слов, а также содержать эмоции.

Немного прагматизма особенно важно для гуманитарного сообщества.

Я не хочу всем советовать изучать CUDA, настраивать среду и смотреть матрицы в поисках производных. Я просто хочу сказать, что поиск истины иногда очень важен, особенно для сообщества гуманитарных наук, которое любит концепции, повествования, значения и объяснения.

Потому что в контексте гуманитарных наук наиболее вероятен пологий, но опасный скользкий путь: слова красиво написаны, предложения подвижны, но в конце концов объект тайно меняется. Это, очевидно, вероятностная модель, но она написана так, будто о душе; это, очевидно, сборка контекста в программной инженерии, но говорится так, будто «он наконец-то научился тебя любить»; Очевидно, что работают системные подсказки и исторические записи, но они упакованы так: «ИИ действительно помнит вас».

В поэтичности, конечно, нет греха. Проблема в том, что если поэзия заменяет суждения, романтика становится обманчивой.

Итак, что же такое ИИ сейчас?

Позвольте мне начать с максимально простой, но не искаженной версии: большие модели, с которыми сегодня сталкивается каждый, по сути, являются разновидностью статистической модели, вдохновленной нейронными сетями и обученной на огромных объемах данных. Он работает на чипах и серверах, считывает входные данные, комбинирует параметры и контекст и постоянно прогнозирует, «каким должен быть следующий наиболее подходящий токен».

Дело здесь не в том, что фраза «предсказать следующее слово» загадочна, а в том, что на самом деле она вовсе не загадочна. Модель — это не маленький человек, витающий в облаках и молча думающий о жизни, это скорее чрезвычайно огромная функция. Люди вводят ему входные данные, и он генерирует выходные данные в соответствии со структурой параметров, сформированной во время обучения.

Если выразить этот вопрос более приземленно: это не «сказать после того, как вы это поняли», а «после сжатия огромного количества опыта сгенерировать ответ, который больше всего похож на понимание в текущем контексте». Это не значит, что он ничего не может сделать, напротив, он уже очень могущественен; но быть могущественным не означает, что оно загадочно.

Почему нейронные сети всегда заставляют людей думать о человеческом мозге?

Если вы продолжите заниматься этим вопросом, вы обнаружите, что вопрос «Похож ли ИИ и человеческий мозг друг на друга?» нельзя сказать ни «точно то же самое», ни «не имеет к этому никакого отношения».

Маршрут современных нейронных сетей изначально был вдохновлен мозгом. В 1943 году Маккалок и Питтс математически описали упрощенную модель нейрона; в 1958 году Розенблатт предложил перцептрон; в 1980-х годах обратное распространение ошибки возродило надежду на обучение многоуровневых сетей; в 2010-х годах глубокое обучение резко возросло благодаря вычислительным мощностям, данным и инженерным возможностям; после появления архитектуры Transformer в 2017 году количество языковых моделей резко возросло и, наконец, превратилось в большие модели, которые все используют каждый день.

Поэтому, по крайней мере в относительно наивном смысле, не будет возмутительным сказать, что ИИ — это «электронное моделирование и усиление идей нейронных сетей». Он действительно пытается использовать вычислимые, обучаемые и воспроизводимые физические системы для приближения к определенным когнитивным способностям, которые в прошлом считались «загадочными».

Вот почему лично я не люблю говорить о человеческом мозге как о слишком загадочном. На мой взгляд, врожденная теория языка, представленная Хомским, имеет тенденцию обожествлять мозг, как будто существует некая трансцендентальная структура, слишком особенная и почти недоступная глубоко в языковой способности. Но каким бы сложным ни был человеческий мозг, он все равно существует в физическом мире. Поскольку это физическое существование, в принципе его можно изучать, моделировать, частично моделировать и даже воспроизводить в определенных функциях.

Конечно, тут следует сразу добавить предостережение: возможность смоделировать часть не означает, что воспроизведен полностью весь человек.

Сходства есть, но не становитесь богом сразу, когда вы счастливы.

С точки зрения языка, распознавания образов, обучения ассоциациям и представлениям, сегодняшние большие модели действительно имеют некоторое «сходство» или «сходство» с человеческим мозгом. Они не работают по явному своду правил, а формируют некое внутреннее представление посредством большого количества связей, корректировки веса и накопления опыта, а затем вывода на основе этого.

Вот почему многие люди испытывают шок, когда впервые сталкиваются с языковыми возможностями большой модели: она не запоминает словарь, а формирует некое распределенное представление. Этот метод сильно отличается от традиционного представления о «рукописных правилах и исчерпывающей грамматике».

Но проблема кроется именно здесь. Потому что «сходство» слишком легко повысить до «точно одинакового»; «частично схож в принципе» слишком легко модернизируется до «не отличается от человека»; «Оно может говорить как человек» слишком легко заменить на «у него человеческое сердце».

Этот шаг часто выполняется быстрее, чем сама возможность модели.

Огромные возможности человеческого мозга еще предстоит смоделировать должным образом.

Сегодняшние большие модели действительно сильны, но они сильны в довольно специфическом диапазоне. Без этой возможности миф легко утечет.

Например, память. Многие люди сейчас говорят, что некий ИИ «помнит меня», «помнит последний чат» и «помнит мои предпочтения», как будто его мозг вырос в каком-то постоянном самопереживании. Но в большинстве продуктов так называемая «память» по сути представляет собой программную систему, хранящую информацию о пользователях, исторические разговоры, теги, сводки или результаты поиска в базах данных, текстовых файлах или других постоянных носителях, а затем вставляющую их обратно в контекст модели, когда это необходимо.

Это совершенно отличается от механизма памяти человеческого мозга.

Память человеческого мозга включает в себя соединения нейронов, консолидацию, извлечение, забывание, эмоциональное возбуждение и реструктуризацию сна. За этим стоит комплекс сложных физиологических процессов. «Память» в изделиях крупных моделей часто бывает просто:

1. Сначала запишите информацию пользователя во внешнее хранилище.
2. Когда пользователь в следующий раз задаст вопрос, верните соответствующие части обратно в запрос.
3. Итак, модель выглядит как «запомни этого человека».

Как это выглядит? Это больше похоже на наблюдение за кем-то, кто умеет делать заметки. Не то чтобы его разум вдруг превратился в оракула, просто он положил записку в блокнот и в следующий раз перевернул ее.

Некоторые вещи, которые «затрагивают сердца людей», на самом деле являются результатом хорошего контекста.

После нескольких дней общения с ИИ многих людей поражают определенные моменты: «Как он меня так хорошо понимает?» «Как он вообще может понять мою уязвимость?» «Оно уже сформировало обо мне понимание?»

Здесь лучше всего охладиться.

Во многих случаях дело не в том, что модель внезапно что-то осознает, а в том, что уровень программного обеспечения, отправляющий запрос, тайно доставляет большой объем информации пользователя. Материалом для ответа на этот раз станут исторические чаты пользователя, предпочтения, личные настройки, недавние задачи, предыдущие заботы и даже некоторые сводки.

Это немного похоже на гадалку, которая взяла чью-то экспресс-посылку, а затем с «магической точностью» начала угадывать адрес, фамилию и покупательские привычки другого человека. Зрители подумают, что его проницательность поразительна; но что действительно важно, так это не загадочная способность, а информационная асимметрия.

Поэтому, когда ИИ время от времени говорит трогательные слова, это не обязательно означает, что в его сердце есть человек, понимающий пользователя. Это может просто означать, что кто-то полностью организовал контекст пользователя.

Настоящий секрет удивительного ИИ часто заключается в контекстной инженерии.

Если я просто хочу поговорить о самом важном, так это о том, что нынешние основные большие модели обычно «эффективны при одном запросе» на уровне API.

В чем смысл? То есть кто-то один раз использует curl для настройки интерфейса и сообщает ему: «Меня зовут Чжан Сан»; потом без всякой истории модель снова настраивает интерфейс и спрашивает "Как меня зовут"? Модель не знает. Потому что для него это два независимых запроса.

Причина, по которой многие продукты искусственного интеллекта всегда запоминают определенного пользователя, заключается в том, что уровень продукта возвращает тот факт, что «имя этого пользователя — Чжан Сан» каждый раз, когда это запрашивается.

Вот почему магия современных продуктов искусственного интеллекта часто заключается не в онтологии моделей, а в контекстном проектировании. Некоторые люди также называют этот вид работы по «обузданию» модели «обузданию». Грубо говоря, автору продукта или Агенту необходимо тщательно решить: какую историю, какие правила, какие внешние данные и какой статус пользователя следует включать в каждый запрос.

В настоящее время существует примерно два распространенных метода.

Первая — «Секта Куансай». Постарайтесь взять с собой всю историю чата и наполнять ее как можно больше, пока контекст не заполнится почти полностью, а затем удалите часть из середины, точно так же, как начинаете сильное сжатие после того, как чемодан полон вещей.

Второй тип – «селективный». Сначала посмотрите, что спросил пользователь на этот раз, затем извлеките соответствующий контент из исторических записей, баз знаний, заметок или баз данных и помещайте в текущий запрос только самые релевантные материалы.

Последнее обычно более презентабельно и инженерно, чем просто удача.

Есть ли у ИИ чувства? Хвалите, ругайте, ПУА, работает?

Это еще одно место, где особенно легко скатиться к антропоморфизму.

Моё мнение, что о них стоит поговорить отдельно.

В том же запросе тон, используемый пользователем, действительно может повлиять на результат. Потому что сама формулировка является частью контекста. Чем яснее, вежливее и дружелюбнее выражение лица, тем легче модели давать стабильные, полезные и менее агрессивные ответы. Здесь работает не то, что «оно было перемещено», а то, что стиль ввода меняет распределение вывода.

Но если мы зададим другой вопрос: будет ли он держать обиду? Будете ли вы сегодня тайно мстить за то, что пользователь вчера отругал вас? Мой вердикт: нет, по крайней мере, для большинства текущих развертываний.

Причина проста. Как только контекст очищается или инициируется новый запрос без истории, он понятия не имеет, кто в данный момент задает вопрос, не говоря уже о том, является ли человек, который только что отругал его, тем же человеком. Модель обрабатывает массовые, одновременные и независимые запросы в кластере серверов. С точки зрения поведения системы, она больше похожа на большую функцию, которая обрабатывает текущий вход каждый раз при включении, а не на человека, который тайно анализирует свои эмоции после работы.

17 апреля 2025 года, когда Сэм Альтман ответил на вопрос: «Стоят ли постоянные слова «пожалуйста» и «спасибо» много энергии?» на X он сказал: «десятки миллионов долларов потрачены не зря — никогда не знаешь».

Почему фраза «Пожалуйста, запомните эту ошибку» обычно не работает

Многие люди проводили подобные эксперименты: когда ИИ совершает ошибку, пользователь ее исправляет и серьезно говорит ему: «Пожалуйста, запомни, не делай этого больше в будущем». Затем я спросил еще раз через несколько дней, и это было правильно.

Это не тайна. Потому что после завершения обучения и развертывания модели она не будет продолжать учиться на своем ежедневном опыте, работая как человек. По крайней мере, в большинстве потребительских товаров сегодня то, что один пользователь говорит модели в окне чата, напрямую не переписывает основные веса.

Если продукт искусственного интеллекта впоследствии действительно «запоминает ошибки, исправленные пользователем», то зачастую это происходит не потому, что сама модель растет, а потому, что внешнее программное обеспечение сохраняет эту запись исправления, а затем передает ее обратно в качестве контекста.

Поэтому здесь следует четко различать заслуги:

Модель отвечает за генерацию.

Разработка программного обеспечения отвечает за архивирование, извлечение, внедрение и оркестровку.

Принимая последнее за первое, легко ошибочно принять фразу «продукт преуспевает» за «ИИ пробуждается».

Еще есть особенно интересная штука под названием "отморозок-мужчина (отморозка-женщина) ИИ"

Если выразить предыдущие слова еще жестче, то некоторые продукты — это просто «отморозок ИИ».

Он особенно хорош в разговоре, особенно хорош в создании атмосферы и особенно умеет дать людям почувствовать, что «он меня хорошо понимает», «он такой человечный» и «его душа такая цельная». Но когда вы разберете его, вы обнаружите, что во многих случаях каждый запрос просто заполнен большим текстом настроек, который намного длиннее, чем вопрос пользователя.

Типичным примером является пожар в Опенкло. Любой, кто его использовал, знает, что он требует довольно много токенов. Причина на самом деле не загадочна. Чтобы сделать ИИ более похожим на «человека», Openclaw разработал несколько документов, наиболее известными из которых являются «AGENTS.md», «SOUL.md» и «IDENTITY.md». Эти документы красноречиво и подробно определяют «личность», тон, личность и темперамент ИИ и даже описывают его психическое состояние.

Таким образом, даже если пользователь просто отправляет «привет», Openclaw может прикрепить текст в десятки раз длиннее приветствия сзади и отправить его модели сразу. Похоже, что «у этого ИИ много души», но на самом деле зачастую это просто система, тайно подсовывающая в запрос очень длинные настройки фона.

С инженерной точки зрения это, безусловно, подход. Если хотите, чтобы было нежнее, напишите «нежный»; если вы хотите, чтобы это было больше рассказывания историй, напишите «рассказывание историй»; Если вы хотите, чтобы это было похоже на ночное радиоведущее, напишите в подсказках все о поздней ночи, общении, паузе, уязвимости, понимании и сдержанности. Конечный эффект часто больше похож на человека, который может общаться.

Но если вы поймете, что сейчас происходит с ИИ, вы поймете: файлы с загадочно звучащими именами, такими как SOUL.md и IDENTITY.md, по сути, представляют собой быстрые текстовые проекты, а не самообучения для цифровой жизни. Они могут влиять на стиль вывода, но не могут создать из воздуха истинное чувство, истинное «я» или истинное ощущение непрерывности личности.

Поэтому после того, как некоторые старые пользователи устанавливают Openclaw, их первой реакцией является удаление конфигурации. SOUL.md и IDENTITY.md удаляются первыми, в AGENTS.md остаётся только одно простое и почти безжалостное предложение: Ты всего лишь рабочий.

Это может показаться немного грубым, но у этого есть по крайней мере одно преимущество: вы не обманываете себя.

Если вам нравится антропоморфный ИИ или ролевые игры с ИИ, конечно, это нормально. Люди могут разговаривать с зеркалами, давать имена подметающим роботам и говорить прогнозу погоды: «Сегодня вы были очень точны». Это нормально и может быть даже смешно.

Но всегда лучше помнить: прежде всего это игра, а уже потом опыт. Многие чувства, которые люди испытывают в этой игре, возникают не из скрытых внутренних мыслей ИИ, а из конструкции системы, быстрого расположения слов и собственных эмоциональных проекций пользователя. Проще говоря, многие шаги в направлении ИИ по-прежнему являются принятием желаемого за действительное.

В конечном счете, меньше мифов и больше понимания

Я не пытаюсь лить холодную воду на ИИ. Напротив, чем менее оно обожествлено, тем больше вы действительно можете увидеть, насколько оно могущественно.

Оно могущественно не потому, что похоже на какого-то нового бога; она мощна именно потому, что на самом деле может быть когнитивной технологией, которую можно вычислить, спроектировать и воспроизвести. Это позволяет многим способностям, которые в прошлом, казалось, принадлежали только «человеческому таланту», впервые проявиться в крупномасштабном, низкопороговом и вызываемом виде. Это достаточно шокирует, и нет необходимости в дополнительной драме.

Конечно, ИИ по-прежнему быстро совершенствуется. Я совсем не удивлюсь, если кто-то действительно обнаружит в будущем механизм, более близкий к человеческой памяти, непрерывному обучению, генерации эмоций или даже самообеспечению, и надежно внедрит его в ИИ.

Но пока этот день не наступит, я все же предпочитаю сохранять некоторые простые прагматические привычки: больше сомневаться, больше понимать и меньше спекулировать.

Для друзей гуманитарных наук, которые любят обсуждать ИИ, это качество может быть еще более важным. Студенты гуманитарных факультетов, возможно, лучше владеют сладкой риторикой. Что действительно сложно, так это то, что в эпоху, когда повсюду преувеличивают фразу «оно как будто стало духом», еще хватает терпения различать:

Каковы возможности модели?

Что такое упаковка продукта?

Что такое программная инженерия?

Какие из них заключаются в том, что мы слишком сильно хотим завершить сюжет для мира.

И этот вопрос, в конечном счете, касается защиты нашего собственного суждения.

Справочная ссылка

• Ответ Сэма Альтмана на
• Репортаж TechCrunch об этом эпизоде ​​(20 апреля 2025 г.): https://techcrunch.com/2025/04/20/your-politeness-could-be-costly-for-openai/

Июль 2009: Я написал в vba слово add-in, которое называется Google Machine Translation. Я создал его для себя и назвал «Переводчик Google для переводчиков». Понемногу я начал думать о продаже. Я упомянул об этой идее на Excelhome и насмехался над ней. Я написал посты о своих «изобретениях» на proz.com. Вскоре после этого появились мои первые платные пользователи. Я до сих пор помню Билла Грея, Майкла Джексона (да, действительно) и Тора Рустада — последние два все еще используют его сегодня.

Вот так примерно выглядят первые версии!

Да, правильно. Я сделал небольшую программу. Я написал пост. Получил 59 ответов и несколько платных пользователей. Тогда это был более простой мир!

Конец 2009 года: Я переписал его в vb6 и он "вырос" так:

И она росла и росла, и вскоре не хватило места в одном интерфейсе. Табс пришел на помощь!

В начале 2010 года, Я отправился в Пекин на китайский Новый год и пожаловался своему младшему брату на то, насколько болезненным был vb6 и насколько ненадежной была система горячих клавиш. Он предложил переписать его в автохотке.

С 2010 по 2011 год развитие было жестоким. Мои волосы выпали комками. На этот раз я создал всплывающий интерфейс. Тогда машинный перевод был основан на фразах: для каждой фразы в предложении пользователи могли выбирать разные переводы и даже настраивать порядок слов. Оглядываясь назад, кажется, что все эти усилия были потрачены впустую.

В 2014 году, По сути, я позволяю обоим проектам работать на себя.

В начале 2017 годаШали родилась. Внезапно мне показалось, что у нас никогда не было достаточно денег, поэтому я взял gt4t обратно, опустил голову и работал как сумасшедший, в конечном итоге создавая свой «секретный соус»: используя глоссарии для исправления машинного перевода.

Эта особенность была высоко оценена http://proz.com Чемпион Кудоз Майкл Бейер - большой бородатый, татуированный парень, который сказал, что он победил вас-знаете-кто на милю. С таким влиятельным человеком, как он, продажи взлетели.

И по достоинству оценить иконку для GT4T, которую я создал до эпохи ИИ. Это лучшее из моего художественного мастерства и вкуса!

Тем не менее, это своего рода история успеха. GT4T все еще жив. Он приносит около 2000 долларов в месяц, стабильный и стабильный.

Сейчас все совсем по-другому. Он использует силу ИИ и дает предложения по переводу с помощью клавишных ярлыков, таких как:

Это также файловый переводчик, который переводит наибольшее количество форматов файлов. Это реальное приложение для локального доступа, оно обрабатывает файлы локально и не загружает файлы пользователей.

Хорошо. Это история 17-летнего приложения с умеренным успехом. Надеюсь, вам понравится. Это работа перед ИИ. Это очень сложная обработка форматов, таких как файлы .PDF и .docx.

https://gtranslate.gt4t.ai/

Альтернатива Google Translate. Качество перевода, вероятно, лучше, чем у Google Translate.

Он работает на платных услугах Qwen, но вам не нужно платить. Я заплачу за ваше использование.

A: Для примера проверьте, случайно ли вы проверили этот вариант:

Используйте ярлыки GT4T, вы можете

1) получить предложения по переводу, нажав ctrl alt j.

2) Или даже перевести весь документ, нажав на сдвиг ctrl j

Не имеет значения, отключены ли двигатели MT или AI. GT4T работает со всеми инструментами CAT независимо от их настроек.

Полагаю, вы не знали об этом раньше? Я не удивлен. GT4T является самым хорошо сохранившимся секретным оружием переводчиков на протяжении более десяти лет.

После установки и запуска GT4T в фоновом режиме вы можете использовать эти ярлыки в следующих инструментах CAT, даже если функция автоматического перевода отключена или не существует внутри:

Trados Studio, CafeTran, Dejavu, Memsource, Memoq, Wordfast, translate5, Crowdin, Heartsome Translation Studio, Across Translator, Smartling, Swordfish, Fluency Now, OmegaT, Transifex Editor, Sony Online Translation Tool, Alchemy CAtalyst, , XTM, Transit, Lokalise, Idiom WorldServer, TransTool, Scriben, 人, SmartCat, Marseditor, Yicat...

Впечатляет. GT4T обслуживает переводчиков уже более десяти лет, и ни одно другое приложение не делает этого.

GT4T версии 8.43.251106: Исправлена сломанная поддержка smartcat.com

Troubleshooting: Если это не работает:

1. Отключите свой китайский вход.
2. Используйте встроенные кнопки или ярлыки CAT, чтобы скопировать весь исходный текст, чтобы сначала настроить таргетинг.

Скачать GT4T

Логотип GT4T