Израильский стартап разработал систему безопасности для ИИ-агентов - «Технологии»

Компания AIR Security создала специализированную систему защиты для обеспечения безопасности ИИ-агентов. Компания уже привлекла $50 миллионов на коммерческое развитие.

Разработчики AIR Security считают, что главной угрозой для ИИ-агентов является сам контент, с которым работает автономная системы. Когда ИИ-агенты читают почту, посещают сайты, запускают плагины или серверы, они могут столкнуться с вредоносными инструкциями, способными манипулировать их решениями. Это может привести к утечке данных или несанкционированному доступу.

Платформа AIR Security отслеживает и оценивает различные инструменты и расширения как до, так и после их подключения к рабочим процессам компании. Если обнаружена угроза, система позволяет блокировать опасный модуль и отозвать его использование во всех связанных процессах. Стартап создает каталог заранее проверенных и сертифицированных дополнений. Исследования компании уже выявили более 17 тысяч публичных расширений, замеченных в обращении к сомнительным источникам, и обнаружила случаи маскировки опасных приложений под известные бренды, такие как OpenAI и Anthropic. Главный акцент компания делает на превентивной защите и фильтрации входящей информации в реальном времени.