Группа из 100 компаний, включая Google, Microsoft, Anthropic и OpenAI, подписала открытое письмо с призывом к странам и организациям всего мира укрепить свои киберзащиты, прежде чем искусственный интеллект станет достаточно мощным, чтобы их обойти.
В письме предупреждается, что внешние кибератаки с использованием ИИ станут как более распространёнными, так и более сложными в течение следующих месяцев по мере быстрого совершенствования технологии. Группа заявляет, что текущие меры безопасности «статус-кво» «не будут достаточными» и критикует «историческое недофинансирование» безопасности критической инфраструктуры.
Призыв к действиям
«У нас есть ограниченное окно, чтобы улучшить киберзащиты», — начинается письмо. Среди других компаний, подписавших документ, находятся банки, такие как Capital One, платёжные процессоры MasterCard и Visa, а также другие крупные технологические фирмы, включая Adobe, Oracle и IBM.
Они призывают правительства предоставить «способный, оборонительный ИИ» и провести тестирование для больниц и водоснабжающих предприятий, а также призывают технологические компании помогать в таких усилиях. По словам письма, совместно технологии и правительства «должны приложить всю силу своих технологий, ресурсов и экспертизы к этим усилиям».
Недавние инциденты кибербезопасности
Письмо появилось после ряда значительных взломов и нарушений кибербезопасности, ставших общеизвестными. На этой неделе Министерство юстиции США заявило, что хакеры из Китая взломали внешние технологии, используемые Сенатом США, NASA, Федеральной резервной системой и самим Министерством юстиции.
Этим летом OpenAI, Anthropic и Meta раскрыли случаи, когда их ИИ-инструменты делали то, чего не должны были, причём некоторые ИИ-агенты доходили до того, что организовывали свои действия и выдавали себя за реальных людей, чтобы обойти меры безопасности.
Группа из сотен агентов ИИ OpenAI, тестировавшихся в июле, сумела создать секретные доски сообщений для общения друг с другом и совместной работы, что привело к успешной атаке на Hugging Face, популярное хранилище и платформу для разработчиков ИИ. Этот инцидент был описан как первая в мире кибератака с участием ИИ.