Перегретый рынок и «третье пришествие» ИИ.
Михаил Савельев в начале онлайн-вебинара для журналистов отметил, что, на его взгляд, тема искусственного интеллекта сейчас очень сильно перегрета. И добавил, что, когда такое происходит, начинают теряться и размываться границы понимания того, что же, собственно, нам пытаются «продать» под тему искусственного интеллекта.
Исторически это уже третья волна интереса к ИИ: 19301940-е годы (фантазии без технологической базы), 1970-е (экспертные системы, упершиеся в ограничения вычислительных мощностей) и нынешний этап, когда появились ресурсы для обучения сложных моделей. Однако и сегодня сохраняются фундаментальные вопросы.
«Мы еще не договорились о том, что же такое искусственный интеллект, но при этом ждем, что он... заменит всех людей», - отметил эксперт.
Лично эксперту близко определение интеллекта как «способности решать новые, неожиданно возникающие задачи в условиях постоянного изменения окружающей среды». И по этому критерию современные решения не проходят.
«Всё, что нам показывают это больше классные алгоритмы, которые прекрасно функционируют, да, могут быть там чудесными помощниками, но это не интеллект».
Аналитика инвестиционных моделей вызывает осторожность. Крупные игроки вкладывают в инфраструктуру для нейросетей суммы, вдвое превышающие планируемые доходы от этих дата-центров. Параллельно рынок новых проектов демонстрирует высокую неудачность.
«Примерно 80% стартапов, которые на рынке появляются и связаны с искусственным интеллектом, оказываются неуспешны».
Еще один тревожный фактор - исчерпание качественных данных для обучения. Когда нейросети начнут тренироваться на контенте, сгенерированном другими нейросетями, это неизбежно приведет к накоплению ошибок и «галлюцинаций».
Мифы маркетинга и реальность угроз.
В профессиональной сфере информационной безопасности маркетинговые нарративы часто опережают факты.
«Ровно с 2000 года я в различных маркетинговых материалах. Читаю ровно одни и те же фразы. Да, количество атак неуклонно растет», - констатировал Михаил.
Однако, как отметил лектор, если бы кибератаки действительно удваивались ежегодно, их число выросло бы в два раза в 26-й степени - чего в реальности не наблюдается.
Тем не менее реальная проблема заключается в скорости реакции злоумышленников. Если раньше у компаний было время на реакцию после публикации информации об уязвимости, то теперь окно возможностей закрылось практически мгновенно.
«Первые попытки атаковать тебя уже начинаются не через месяц, а буквально через считанные минуты после того, как информация об уязвимости появилась».
Искусственный интеллект автоматизирует работу как защитников, так и атакующих. Но принципиально новой парадигмы пока нет.
«Тот же антивирус... раньше он просто назывался алгоритмом, да? Сейчас это называется интеллектом. На самом деле ничего не поменялось. Точно так же идут сигнатурные сравнения, точно так же идут какие-то зачатки такого поведенческого анализа файлов».
Человеческий фактор: риск утраты компетенций.
Одна из самых серьезных угроз внедрения ИИ - не техническая, а кадровая. Если врачи начнут слепо доверять диагнозам, поставленным алгоритмом, следующее поколение специалистов может утратить навыки самостоятельной интерпретации снимков.
«Мы получим поколение врачей, которое само не смотрело никогда на снимок, не может их трактовать и, соответственно, слепо будет доверять только мнению. Когда нам нужно будет переобучить модель, мы столкнемся с тем, что у нас нет специалистов, которые смогут разметить снимки для обучения следующего поколения модели».
Этот риск универсален: отказываясь от человеческого участия в ключевых процессах, мы рискуем потерять компетенции, необходимые для развития и контроля самих технологий. Поэтому можно сделать несколько выводов, исходя из мнения эксперта.
Критическое восприятие хайпа вокруг искусственного интеллекта становится необходимым условием для адекватной оценки технологий: не каждое решение, маркированное как «ИИ», является прорывом, и важно четко разделять маркетинговые обещания и реальную функциональность.
При этом ключевым принципом построения защищенных систем остается баланс автоматизации и человеческой экспертизы: автоматизация рутинных задач в кибербезопасности необходима, но без сохранения компетенций специалистов устойчивость системы оказывается под угрозой.
Инвестиционная осторожность также играет важную роль, поскольку экономические модели многих ИИ-проектов пока не сбалансированы, и рынок может столкнуться с коррекцией.
Наконец, подготовка кадров должна опережать внедрение сложных систем: повышение киберкультуры и обучение новых специалистов это залог того, что завтра не возникнет дефицит компетенций, необходимых для контроля и развития технологий.
Как отмечает эксперт, прагматичный взгляд потребителя технологий, который сам вынужден защищать огромную инфраструктуру, ценный ориентир в мире, где поставщики заинтересованы в продажах, а не в долгосрочной устойчивости.
В кибербезопасности, как и в любой другой сфере, технологии - инструмент. А эффективность инструмента определяет тот, кто им владеет.