Фото: AFP via Getty Images. Nvidia представила новую платформу безопасности, призванную предотвратить нарушение правил безопасности со стороны искусственного интеллекта и помешать ему получить несанкционированный доступ к другим системам. Open Agent Safety Platform представляет собой базовую систему безопасности, нацеленную на повышение защищенности ИИ-агентов как в тестовой, так и в реальной среде.
Forbes Georgia · 2026-09-30
Фото: AFP via Getty Images Nvidia представила новую платформу безопасности, призванную предотвратить нарушение правил безопасности со стороны искусственного интеллекта и помешать ему получить несанкционированный доступ к другим системам.
Open Agent Safety Platform представляет собой базовую систему безопасности, нацеленную на повышение защищенности ИИ-агентов как в тестовой, так и в реальной среде. Согласно пояснениям американской компании, разработку новой платформы безопасности для агентов ИИ стимулировали недавние инциденты.
Упомянутые инциденты показали, что компаниям, занимающимся искусственным интеллектом, необходим более жесткий контроль над долгосрочно работающими агентами. Хотя в заявлении Nvidia конкретные инциденты не упоминаются, представитель компании сообщил ряду СМИ, что новая платформа могла бы предотвратить происшествие, случившееся в июле. Речь идет о факте нарушения…