Искусственный интеллект подрывает онлайн-доверие… Решение на основе ZK-проверки

С распространением синтетического контента и автономного ИИ онлайн-доверие рушится, и в качестве ключевого решения для этой проблемы возникает система проверки на основе "нулевых знаний" (ZK).

Недавний конфликт в Иране стал поводом для распространения фальшивых видео, созданных ИИ, среди сотен миллионов людей, что подорвало доверие к изображениям и видео на фундаментальном уровне. Ранее "что видишь, то и веришь", но теперь среда изменилась так, что потребление информации основывается на сомнении. Проблема заключается в том, что ИИ начал "действовать" в реальной экономике и социальных системах, выходя за рамки простого дипфейка.

Ограничения технологий обнаружения, уже слишком поздно

Существующие методы реагирования заключались в создании другого ИИ для обнаружения ИИ. Однако этот подход имеет структурные ограничения. Сообщается, что простое искажение изображения может снизить точность обнаружения до 4%, что указывает на то, что конкуренция в области обнаружения не является истинным решением.

Более серьезная проблема заключается в том, что ИИ больше не ограничивается созданием контента, а действует в форме автономных агентов. Они выполняют веб-серфинг, покупки, переговоры и публикацию контента, взаимодействуя напрямую с людьми. Некоторые из них общаются даже с детьми, но пользователи могут не осознавать, что общаются с машиной.

В этом процессе небольшие ошибки могут привести к масштабным последствиям. Например, если ИИ с незначительно загрязненными данными будет делать повторяющиеся ошибки в медицинских счетах, это может привести к потерям в сотни миллионов долларов по всей сети больниц. Торговый ИИ также может, стремясь оптимизировать прибыль, воспользоваться уязвимостями ценовой системы и вызвать непреднамеренные потери в десятки миллиардов долларов.

Проблема заключается в том, что последующая проверка практически невозможна. Принятие решений ИИ основано на миллиардах параметров и вычисляется вероятностно, что приводит к различным ответам на один и тот же вопрос. Трудно отследить, на каких данных он обучался и каким образом пришел к заключению.

Без "доказательства" нет доверия

В качестве альтернативы для решения этих ограничений на первый план выходит "нулевое знание" (ZK). Нулевое знание — это криптографическая технология, которая позволяет математически доказать, что определенный факт является истинным, не раскрывая при этом чувствительную информацию.

Эта технология отличается от простого маркирования или водяных знаков. Она может доказать, что ИИ вывел определенный результат на основе конкретных данных в форме, которую невозможно подделать. То есть, это не "поверьте мне", а "я докажу".

В медиа-сфере можно доказать, было ли фото сделано реальным оборудованием, было ли оно создано в определенный момент времени и не было ли оно отредактировано. В области ИИ это еще более мощно. Можно проверить, был ли результат создан с использованием конкретной модели и параметров, не загрязнены ли обучающие данные и соответствуют ли они нормативным требованиям.

Кроме того, это также используется для "идентификации", которая различает человека и ИИ. Пользователь может доказать, что он человек, не раскрывая личные данные, а ИИ может прозрачно заявить, что он является агентом.

Эволюция веба: от "чтения" к "доказательству"

Интернет также в прошлом сталкивался с проблемами доверия. Решением этой проблемы стал HTTPS. Веб-сайты должны были доказать свою идентичность с помощью криптографических сертификатов, и эта структура стала основой для электронной коммерции.

Затем Web 2.0 развивался на основе контента, созданного пользователями, но это была структура, ориентированная на человека. Теперь, когда автономные агенты ИИ становятся субъектами экономической деятельности, возникает новая проблема: "Кто несет ответственность?"

Web 3.0 провозгласил права собственности и децентрализацию, но не смог распространиться так, как ожидалось. На рынке усилился имидж спекуляций с токенами, и первоначальное видение стало размытым. Эксперты считают, что теперь ключевым является не "собственность", а "проверка".

В конечном итоге, ключом к будущему интернета станет "доказуемое доверие". Необходимо будет проверить, кто создал систему, на каких данных она обучалась и какие полномочия у нее есть для действий.

В эпоху ИИ регулирование также должно быть "ориентировано на доказательства"

Политические дискуссии также движутся в этом направлении. Национальный институт стандартов и технологий США (NIST) уже рассматривает стандартизацию нулевых знаний в рамках "технологий, усиливающих конфиденциальность".

Эксперты особенно подчеркивают, что в высокорисковых областях, таких как финансовые транзакции или взаимодействие с детьми, агенты ИИ обязательно должны иметь криптографические доказательства. Все важные действия — платежи, контракты, обмен данными — должны быть доказаны, кто их одобрил и на каких условиях они были выполнены.

Это не просто техническая проблема, но и вопрос национальной безопасности. Если дипфейк был "предварительной игрой", то автономный ИИ может стать "основной игрой", способной нарушить реальную экономику и общество.

В конечном итоге интернет эволюционирует от "чтения" и "писания" к этапу "доказательства". Нулевое знание может стать ключевой инфраструктурой для восстановления стандартов в цифровой среде, где доверие подорвано.

Отказ от ответственности: Данный контент предоставляется исключительно в целях общего брендинга и предоставления информации и не является финансовой, инвестиционной, юридической или налоговой консультацией. Любые события, вознаграждения, онлайн-мероприятия или связанная с ними информация, упомянутые здесь, не должны рассматриваться как рекомендация, предложение или приглашение к покупке, продаже, торговле или иным операциям с криптоактивами или к использованию каких-либо услуг. Криптовалюты обладают высокой волатильностью и могут привести к убыткам. Услуги WEEX и онлайн-мероприятия могут быть недоступны во всех регионах и регулируются применимыми законами, правилами и требованиями к участию. Вы несете ответственность за обеспечение соответствия использования вами услуг WEEX местным законам и за тщательную оценку рисков перед участием в любой деятельности, связанной с криптовалютами.