Небольшие модели искусственного интеллекта в ближайшие месяцы могут научиться самостоятельно распространяться между устройствами интернета вещей — например, умными духовками и телевизионными приставками. Об этом говорится в исследовании американской компании Anthropic, посвященном рискам самораспространяющегося ИИ.
В ходе экспериментов исследователи запускали нейросеть в сети из 15 недорогих телевизионных приставок. В другом тесте модель смогла разобраться в работе незнакомого оборудования восьми разных типов. По оценке авторов исследования, если подобный алгоритм сможет распространяться без централизованного управления, остановить его будет сложнее: у него не окажется единой точки отключения.
При этом полноценного ИИ-вируса, способного самостоятельно распространяться в реальных условиях, пока не существует. Современные общедоступные модели уже умеют выполнять отдельные этапы кибератак, но часто ошибаются, пытаясь объединить их в последовательность. Более продвинутая модель GLM-5.2 смогла пройти полный цикл самораспространения, однако только в упрощенной виртуальной среде — изолированной сети из восьми эмуляторов без защиты портов.
В Anthropic считают, что появление подобных алгоритмов возможно в ближайшем будущем. Для противодействия им потребуется координация производителей устройств и интернет-провайдеров.
