Израильский стартап разработал систему безопасности для ИИ-агентов - «Технологии» » «Интернет Технологии»

Израильский стартап разработал систему безопасности для ИИ-агентов - «Технологии»



Компания AIR Security создала специализированную систему защиты для обеспечения безопасности ИИ-агентов. Компания уже привлекла $50 миллионов на коммерческое развитие.



Разработчики AIR Security считают, что главной угрозой для ИИ-агентов является сам контент, с которым работает автономная системы. Когда ИИ-агенты читают почту, посещают сайты, запускают плагины или серверы, они могут столкнуться с вредоносными инструкциями, способными манипулировать их решениями. Это может привести к утечке данных или несанкционированному доступу.



Платформа AIR Security отслеживает и оценивает различные инструменты и расширения как до, так и после их подключения к рабочим процессам компании. Если обнаружена угроза, система позволяет блокировать опасный модуль и отозвать его использование во всех связанных процессах. Стартап создает каталог заранее проверенных и сертифицированных дополнений. Исследования компании уже выявили более 17 тысяч публичных расширений, замеченных в обращении к сомнительным источникам, и обнаружила случаи маскировки опасных приложений под известные бренды, такие как OpenAI и Anthropic. Главный акцент компания делает на превентивной защите и фильтрации входящей информации в реальном времени.


Компания AIR Security создала специализированную систему защиты для обеспечения безопасности ИИ-агентов. Компания уже привлекла $50 миллионов на коммерческое развитие. Разработчики AIR Security считают, что главной угрозой для ИИ-агентов является сам контент, с которым работает автономная системы. Когда ИИ-агенты читают почту, посещают сайты, запускают плагины или серверы, они могут столкнуться с вредоносными инструкциями, способными манипулировать их решениями. Это может привести к утечке данных или несанкционированному доступу. Платформа AIR Security отслеживает и оценивает различные инструменты и расширения как до, так и после их подключения к рабочим процессам компании. Если обнаружена угроза, система позволяет блокировать опасный модуль и отозвать его использование во всех связанных процессах. Стартап создает каталог заранее проверенных и сертифицированных дополнений. Исследования компании уже выявили более 17 тысяч публичных расширений, замеченных в обращении к сомнительным источникам, и обнаружила случаи маскировки опасных приложений под известные бренды, такие как OpenAI и Anthropic. Главный акцент компания делает на превентивной защите и фильтрации входящей информации в реальном времени.
Цитирование статьи, картинки - фото скриншот - Rambler News Service.
Иллюстрация к статье - Яндекс. Картинки.
Есть вопросы. Напишите нам.
Общие правила  поведения на сайте.


Похожие новости

Оставьте свой комментарий

Похожие новости


Читайте также
Слухи об Apple MacBook Air M4: дата выхода, характеристики и многое другое - «Интернет Технологии»
Интернет Технологии
Слухи об Apple MacBook Air M4: дата выхода, характеристики и многое другое - «Интернет Технологии»
Самозасыхающие томаты черри вывели на юге Израиля - «Технологии»
Интернет Технологии
Самозасыхающие томаты черри вывели на юге Израиля - «Технологии»
Никто не сравнится с Wiz: как израильский стартап выбивает себе место на рынке - «Технологии»
Интернет Технологии
Никто не сравнится с Wiz: как израильский стартап выбивает себе место на рынке - «Технологии»
Израильский стартап разработал инструмент безопасного веб-серфинга для ИИ-агентов - «Технологии»
Интернет Технологии
Израильский стартап разработал инструмент безопасного веб-серфинга для ИИ-агентов - «Технологии»
Израильский стартап нашел решение главной проблемы квантовых вычислений - «Технологии»
Интернет Технологии
Израильский стартап нашел решение главной проблемы квантовых вычислений - «Технологии»
Серверы Lenovo: ваш разумный выбор! - «Интернет Технологии»
Интернет Технологии
Серверы Lenovo: ваш разумный выбор! - «Интернет Технологии»
Израильский стартап готовит платформу для квантовой революции - «Технологии»
Интернет Технологии
Израильский стартап готовит платформу для квантовой революции - «Технологии»
Искусственный интеллект, подобный ChatGPT, может усугубить антисемитизм в США, считает большинство американцев - «Технологии»
Интернет Технологии
Искусственный интеллект, подобный ChatGPT, может усугубить антисемитизм в США, считает большинство американцев - «Технологии»

BurnAware Free 9.4
Менеджеры мобильных телефонов
BurnAware Free 9.4
CDBurnerXP 4.5.7.6321
Менеджеры мобильных телефонов
CDBurnerXP 4.5.7.6321
Nero DiscSpeed 5.0.1.250
Менеджеры мобильных телефонов
Nero DiscSpeed 5.0.1.250