Руководители OpenAI, Anthropic и других компаний, занимающихся искусственным интеллектом, готовятся к возможному масштабному кризису, связанному с ИИ. Как сообщает Axios, представители индустрии считают, что серьезный инцидент может произойти уже в ближайшие шесть-двенадцать месяцев. Компании заранее продумывают, как действовать в случае катастрофы и последовавшего за ней общественного возмущения.
Речь идет не о восстании машин в привычном смысле, а о сценариях, в которых ИИ поможет злоумышленникам провести масштабную кибератаку или автономные ИИ-агенты выйдут из-под контроля. Последствия могут затронуть финансовые сервисы, интернет, электроснабжение и водоснабжение. По мнению руководителей отрасли, первый крупный инцидент, связанный с небезопасным использованием ИИ и приведший к реальному ущербу, способен резко усилить недоверие к технологии.
Под ударом могут оказаться и руководители компаний, включая главу OpenAI Сэма Альтмана и гендиректора Anthropic Дарио Амодея, а также американские власти. Президента США Дональда Трампа могут обвинить в нежелании вводить жесткое регулирование отрасли. По данным Axios, компании уже моделируют худшие сценарии и готовятся объяснять риски представителям конгресса, чтобы повлиять на законодательные решения после возможного кризиса.
Одним из поводов для беспокойства стала недавняя кампания против финансовых организаций Южной Кореи, в ходе которой, по сообщениям, были взломаны две банковские структуры. Как утверждает компания CrowdStrike, хакер из Китая использовал ИИ-инструменты, чтобы похитить данные десятков тысяч банковских клиентов, а затем обратился к Claude Code за помощью в поиске площадок для продажи информации.
Разработчики также обсуждают, как власти могут отреагировать на подобное происшествие. По оценкам источников Axios, демократы в случае усиления позиций в конгрессе могут попытаться быстро ужесточить регулирование ИИ. Среди предложений, получивших поддержку части представителей обеих партий, — обязательный механизм аварийного отключения продвинутых ИИ-систем. Однако эксперты сомневаются, что такой механизм позволит остановить все системы.
Ввести ограничения будет непросто: мировая экономика все сильнее зависит от ИИ-инфраструктуры. Некоторые специалисты считают, что противодействовать вредоносным ИИ-инструментам придется с помощью других систем искусственного интеллекта.
При этом представитель OpenAI подчеркнул, что компания регулярно проводит учения по подготовке к различным сценариям, но не считает их неизбежными. Anthropic от комментариев отказалась. По данным Axios, разработчики понимают, что новые правила вряд ли появятся до серьезного происшествия, и поэтому пытаются заранее подготовить политиков к возможным последствиям.
