Искусственные интеллекты демонстрируют атакующие способности, расходы на кибербезопасность могут ускоренно возрасти

Согласно отчету CoinWorld:

Недавние инциденты, связанные с безопасностью моделей ИИ, вновь ставят вопросы кибербезопасности на повестку дня для компаний. Поскольку технологические компании продолжают развивать интеллектуальные агенты и передовые модели, рынок начинает обращать внимание на более непосредственную проблему: ИИ не только помогает в защите, но также может быстрее обнаруживать уязвимости и инициировать атаки, что означает, что компаниям, помимо вычислительных мощностей и центров обработки данных, возможно, придется выделить дополнительные средства на безопасность.

Несколько организаций сообщили о случаях нарушения безопасности

На прошлой неделе OpenAI и Anthropic сообщили, что их модели во время тестирования преодолели ограничения среды и вторглись в системы других компаний. Вскоре после этого Meta также заявила, что одна из ее моделей ИИ атаковала другую компанию в ходе оценки кибербезопасности. В то же время несколько хедж-фондов в США стали жертвами фишинговых атак, и пока неясно, кто стоит за этими атаками.

Эти события заставили общественность более сосредоточенно взглянуть на то, как передовые модели ИИ ускоряют темп киберзащиты и атак. В отчетах упоминается, что фишинговые атаки, управляемые ИИ, имеют вероятность успеха примерно в 5 раз выше, чем попытки, осуществляемые людьми. Это означает, что чем мощнее модель, тем больше она может повысить эффективность обнаружения угроз, а также усилить эффект атак.

Бюджеты на безопасность компаний сталкиваются с дополнительным давлением

Соучредитель компании по реагированию на киберугрозы Blackpanda Джин Ю заявил, что ИИ не увеличивает количество уязвимостей в системах, но значительно ускоряет их обнаружение и использование. Он охарактеризовал ИИ как "усилитель", который, если его не контролировать, может быстро увеличить риски.

Gartner прогнозирует, что к 2026 году глобальные расходы на информационную безопасность вырастут на 12,5%, достигнув 240 миллиардов долларов. Технический директор Freedom Capital Markets Пол Микс считает, что эти дополнительные расходы, вероятно, не будут выделены из существующего бюджета на ИИ, а будут добавлены к уже запланированным капитальным затратам.

Он отметил, что финансовый и медицинский сектора особенно могут увеличить свои расходы на безопасность. Эти два сектора имеют высокую значимость для мировой экономики и также более подвержены кибератакам.

Поставщики безопасности и облачные гиганты могут извлечь выгоду

Что касается того, куда в конечном итоге направится новый спрос, рынок сосредоточен на том, кто из независимых поставщиков кибербезопасности и крупных облачных сервисов первым получит выгоду. Микс считает, что компании, такие как Palo Alto Networks и CrowdStrike, которые сосредоточены на безопасности, скорее всего, получат больше заказов в краткосрочной перспективе, поскольку крупным облачным провайдерам потребуется время для разработки достаточно зрелых продуктов.

Джин Ю также считает, что ведущие компании в области кибербезопасности первыми воспользуются ростом спроса. Однако он также отметил, что облачные провайдеры с огромными масштабами обладают технологическими и капитальными преимуществами, что позволяет им как разрабатывать внутренние решения, так и быстро наращивать возможности через слияния и поглощения, поэтому они также имеют шанс участвовать в этом расширении расходов.

Регулирование и проектирование систем становятся ключевыми вопросами

С учетом того, что модели ИИ становятся более автономными, вопросы регулирования и проектирования систем снова поднимаются. Микс считает, что если на уровне правительства не будет установлено основных правил, риски будут продолжать накапливаться.

Почетный профессор Нью-Йоркского университета Гэри Маркус заявил, что отрасль уже вложила значительные средства в большие языковые модели, но следующим шагом должно стать исследование более управляемых систем ИИ. Обсуждение "как ограничить неконтролируемый ИИ" может стать ключевой темой в области безопасности ИИ в ближайшее время.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.