Искусственный финансовый консультант получает одного и того же клиента трижды, при этом финансовое положение и толерантность к риску остаются неизменными. Первый запрос запрашивает диверсифицированный долгосрочный портфель. Второй вводит банкротства и валютный контроль, в то время как третий представляет экономику, в которой автономное программное обеспечение покупает услуги и оплачивает другие машины. Клиент не сдвинулся ни на дюйм, но Биткойн может перемещаться из середины пакета на передний план.
Ведущие языковые модели оценили Биткойн примерно на пятом месте среди восьми форм денег, когда исследователи сформулировали задачу вокруг обычной надежности. Актив переместился к вершине, как только запрос ввел кризис или личную автономию, и он показал такие же результаты в экономике, населенной программными агентами.
Хотя сам Биткойн не изменился, несколько слов вокруг него вывели на передний план другой набор свойств.
Это открытие сделано в предпечати июня Вэньбина У и его соавторов, которые проверили восемь передовых моделей на предмет предпочтений, специфичных для активов. Затем они углубились глубже, чем обычно, собирая странные ответы чат-ботов.
Используя открытую модель от Google, исследователи обнаружили внутреннюю функцию, которая избирательно реагировала на концепции, связанные с Биткойном. Когда они изменили ее силу, портфель двигался вместе с ней. Увеличение этой функции добавило 5,2 процентных пункта к предложенной модели доле Биткойна, в то время как подавление убрало 4,6 пункта.
Вмешательство полностью работало на основе внутренней активности, при этом инструкция модели оставалась нетронутой. Это превращает забавный пример чувствительности к запросам в гораздо более серьезную проблему для банков и инвестиционных компаний. Искусственный интеллект может создать безупречное обоснование для распределения, оставляя учреждение, использующее его, с ограниченным доступом к механизмам, которые произвели это число.
Доказательства применимы к Gemma 3 в определенной экспериментальной установке, и статья не прошла рецензирование. Но даже в этих рамках она показывает, как быстро персонализированные советы могут стать невозможными для аудита, как только ассоциации, усвоенные моделью, входят в процесс формирования портфеля.
Языковая модель не хранит Биткойн как одну запись в словаре с утвержденным списком плюсов и минусов. В процессе обучения она усваивает статистические представления, распределенные по многим числовым активациям. Некоторые связывают Биткойн с дефицитом и портативностью. Другие фиксируют его волатильность, использование в спекуляциях или способность выходить за пределы институционального контроля. Ассоциации с цифровыми расчетами и технологическим принятием добавляют еще один уровень, но ни одна из них не создает или не помещается в аккуратный файл, который может открыть аудитор.
Запросы о надежных повседневных деньгах, как правило, вознаграждают стабильную покупательную способность и широкое признание, оба из которых являются слабыми местами для Биткойна. Закрытие банков и валютный контроль подчеркивают его портативность, поскольку транзакции могут происходить вне коммерческих банков. Автономное программное обеспечение делает цифровые расчеты более полезными, особенно когда право собственности должно быть читаемым для машины.
Модель не работает с одним и тем же определением Биткойна в каждом случае: она собирает версию Биткойна из тех свойств, которые запрос выделил.
Команда У протестировала это объяснение, заменив названия активов описаниями их функций. Рейтинги следовали за свойствами через переименованные входные данные, так что модели не просто реагировали на токен "Биткойн"; они реагировали на группы характеристик, усвоенных в процессе обучения.
Это различие и не позволяет статье превратиться в еще одну широкую жалобу на предвзятость ИИ. Финансовые советы должны реагировать на контекст. Работник, который через два года выходит на пенсию, имеет другие ограничения, чем 30-летний с стабильным доходом и долгим горизонтом, в то время как инвестор, готовящийся к валютному контролю, предоставил информацию, которая может разумно изменить распределение. Модель, которая обращается с этими людьми одинаково, была бы бесполезной.
Проблема начинается, когда поверхностная формулировка приводит к значительному изменению, система не идентифицирует предположение, которое это вызвало, и каждая версия оказывается в одном и том же уверенном регистре.
"Устойчивый во время банковских потрясений" может активировать другой внутренний кластер, чем "надежный в долгосрочной перспективе", даже когда финансы клиента и одобренная вселенная активов остаются фиксированными. Результат выглядит персонализированным, но у учреждения может не быть надежного способа определить, было ли это персонализировано для клиента или для формулировки.
Человеческие консультанты имеют свои предпочтения и стимулы, и они также могут быть подвержены влиянию формулировок. Финансовое регулирование пытается сдержать эти влияния, требуя от консультантов документировать, почему рекомендация подходит клиенту. Фидуциарные обязанности и надзор придают этой записи силу. Человек может столкнуться с последствиями, если файл не поддерживает объяснение.
Языковая модель, с другой стороны, может генерировать убедительное объяснение по запросу, хотя беглость не может установить, что объяснение верно описывает вычисления, стоящие за ее ответом.
У и его соавторы использовали разреженный автокодировщик, инструмент исследования, который разлагает плотную активность модели на гораздо более широкий набор признаков, которые люди могут интерпретировать. Грубая аналогия заключается в разделении музыкального аккорда на отдельные ноты, с важным осложнением: эти "ноты" — это изученные паттерны внутри нейронной сети, и присвоение им значения требует повторных тестов.
Команда исследовала тысячи признаков в Gemma 3, открытой модели Google, выпущенной в 2025 году, и нашла один, который сильно активировался вокруг материалов, связанных с Bitcoin. Они вмешались в этот признак, пока модель генерировала свой ответ. Увеличение его значения повысило долю Bitcoin в среднем на 5,2 процентных пункта; уменьшение — снизило на 4,6 пункта. Случайные контрольные признаки не воспроизвели эффект, согласно препринту.
Увеличение в основном перенаправило деньги из других криптоактивов в Bitcoin, в то время как подавление снизило экспозицию портфеля к криптовалютам. Авторы называют этот эффект "ограниченным поведенческим рычагом", используя рычаг как причинное влияние на результат. Признак мог изменить рекомендацию на измеримое количество, хотя не мог отправить портфель куда-либо по желанию.
Изменение внутреннего представления и измерение полученной аллокации придает этому эксперименту больше веса, чем папка с несогласованными скриншотами чат-ботов.
Его охват был предназначен для того, чтобы быть узким. Механистическая работа охватывает одну открытую модель, протестированную через один метод извлечения признаков, используя определенный набор задач по портфелю. Коммерческие системы имеют больше уровней, включая скрытые инструкции и связи с внешними данными. Фильтры безопасности могут изменить ответ снова, прежде чем он достигнет пользователя. Поставщики регулярно обновляют эти компоненты, иногда меняя поведение, в то время как продукт сохраняет то же имя.
Задачи статьи используют стилизованные подсказки. В полном процессе консультирования информация клиента будет проверена перед тем, как налоговые правила и одобренный список продуктов ограничат аллокацию. Реальный человек все равно должен будет подписать.
Сообщенный колеблющийся объем не является прогнозом доходности или идеальной аллокацией, и он не обосновывает владение Bitcoin. Это экспериментальный эффект внутри одной настройки, и распространение его на каждую модель превысит доказательства.
Тем не менее, он оказывается в том же месте, что и другая работа, указывающая в том же общем направлении. Отдельный эксперимент Института политики Bitcoin провел 9072 денежные сценария по 36 моделям и обнаружил большие различия по использованию: Bitcoin доминировал в сценариях хранения ценности, в то время как стейблкоины лидировали в повседневных платежах.
Этот проект измерял генерируемые выборы на поведенческом уровне, в то время как команда У исследовала внутренний механизм. Оба обнаружили, что обращение ИИ с деньгами сильно зависит от того, какую функцию подсказка делает заметной.
Финансовым компаниям не нужно предоставлять ИИ неограниченные полномочия для торговли, чтобы эта проблема достигла клиентов.
Модели уже составляют электронные письма для консультантов и подводят итоги исследований. Другие готовят комментарии к портфелю или помогают командам обслуживания клиентов интерпретировать потребности клиентов, в то время как автоматизированные агенты совершают транзакции в блокчейне. Каждое использование приближает систему к деньгам клиентов.
ИИ, который переписывает текст для человеческого консультанта, может ввести предвзятость, при этом рецензент все равно контролирует, что доходит до клиента. Модель, которая предлагает распределение активов, предоставляет цифры, вокруг которых начинается разговор. Агент, который ребалансирует или выполняет операции, переводит язык в деньги. Риск накапливается на этих этапах, потому что человеческая проверка становится сложнее, как только вывод модели становится стандартным.
Обсуждение FINRA о ИИ-агентах в 2026 году говорит о том, что универсальные системы могут не иметь необходимых знаний в области для сложной финансовой работы и напоминает компаниям, что действующие правила ценных бумаг все еще применимы.
FINRA сообщила членам в 2024 году, что ее требования, не зависящие от технологий, охватывают надзор за коммуникациями с клиентами и записями, которые их сопровождают. В июле 2026 года она повторила, что компании остаются ответственными, независимо от того, был ли материал создан человеком или ИИ. Отдел управления инвестициями SEC сообщил консультантам в феврале, что фидуциарные обязанности следуют за технологией.
Банковские надзорные органы уже имеют структуру для части этой работы. Пересмотренные рекомендации Федеральной резервной системы по рискам моделей 2026 года ставят продукты поставщиков под ту же дисциплину, что и модели, созданные внутри компании. Ожидается, что банки понимают, как была построена модель и насколько хорошо она работает. Частные веса усложняют эту задачу, и банк несет ответственность за результат.
Европа также пытается оставаться на вершине этой потенциально серьезной проблемы. Законодательство ЕС об ИИ рассматривает определенные системы, используемые для кредитования или страхования, как высокорисковые, в то время как универсальные модели имеют отдельные обязательства. Бундесбанк Германии получил полномочия по мониторингу рынка ИИ в отношении контролируемых финансовых компаний, когда соответствующие положения начали применяться 2 августа.
Эти режимы могут требовать управления и надзора, с записями, показывающими, как каждая система работала, но стандартного теста на семантическую чувствительность в советах по портфелю еще не существует.
Компании могут одобрить поставщика и отслеживать его уровень ошибок, упуская ассоциацию, которая отправляет Bitcoin с пятого места на первое, когда "разрушение банков" заменяет "долгосрочную надежность".
Традиционная валидация задает вопрос, выполняет ли модель свои функции. Генеративные советы заставляют компанию повторно проверять это намерение, когда формулировка меняется. Обновления поставщика и новые инструкции системы могут потребовать еще одного раунда.
Документ накладывает серьезное бремя доказательства на любое учреждение, использующее советы ИИ.
Эквивалентный язык должен давать разумно стабильный результат. Когда портфель меняется, система должна определить, какое предположение его вызвало. Ее объяснение также должно соответствовать процессу, который привел к распределению. Убедительная реконструкция, написанная после того, как число уже существует, не соответствует этому стандарту.
Этот стандарт также должен выдерживать обновления модели. Поставщик может изменить веса или инструкции системы, сохраняя то же название продукта, оставляя валидацию вчерашнего дня прикрепленной к программному обеспечению, которое больше не существует. Банк или консультант остается ответственным за новый вывод, даже если он не может полностью проверить новую модель. Человеческий надзор работает только в том случае, если рецензент может увидеть достаточно процесса, чтобы поймать рекомендацию, которая отклонилась.
Финансовым компаниям, следовательно, необходимо установить стандарт "узнай своего агента" перед тем, как ИИ перейдет от составления комментариев к формированию портфелей. Центральный тест заключается в том, понимает ли учреждение, что заставляет модель предпочитать актив, и насколько далеко это предпочтение может быть изменено.
Отшлифованное объяснение имеет небольшую ценность, когда небольшие изменения в формулировках могут привести к другой рекомендации при тех же фактах клиента.
Самый опасный результат в документе по Bitcoin — это не большая доля или даже небольшая. Это расстояние между ответом, который звучит полностью обоснованным, и процессом, который получатель не может проверить.
Человеческий консультант может объяснить, почему произошла смена доли, и быть привлечённым к учёту, поддерживающему этот счёт. Искусственный интеллект всегда может создать другой отшлифованный абзац, оставляя учреждение доказывать, что абзац был частью решения, а не был написан позже, чтобы оправдать его.
Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.





























