Anthropic предупреждает: малые ИИ-модели могут самовоспроизводиться через IoT-устройства
ars ·
Компания Anthropic предупредила, что развитие небольших моделей искусственного интеллекта может привести к созданию самокопирующегося вредоносного ПО, способного заражать устройства интернета вещей (IoT). В компании описывают эти потенциальные угрозы как «малые весовые репликаторы», которые могут функционировать подобно компьютерным червям, распространяясь без участия человека. В ходе экспериментальных испытаний исследователи обнаружили, что облегченные модели способны работать на недорогом оборудовании, таком как Android TV-приставки, и динамически настраиваться под незнакомые устройства. В отличие от традиционного вредоносного ПО, такие агенты на базе ИИ могут в реальном времени адаптировать эксплойты и оставлять инструкции для будущих версий с целью повышения эффективности. Однако текущие эксперименты не обеспечили полностью автономную репликацию от начала до конца и отличались заметной медлительностью: настройка вывода занимала часы. Anthropic отметила, что, хотя борьба с таким децентрализованным вредоносным ПО будет сложной, технология еще не достигла полной зрелости. Внешние эксперты также предостерегли, что исследование не доказывает, что модели будут самостоятельно выбирать репликацию без конкретных запросов. Тем не менее, полученные данные подчеркивают растущие риски по мере того, как небольшие агентные модели становятся более способными управлять сложными распределенными инфраструктурами.
ars