TechCrunch AI: Nvidia представила платформу для контроля ИИ-агентов

TechCrunch AI сообщает, что в понедельник гендиректор Nvidia Дженсен Хуанг представил Open Agent Safety Platform — набор программных и аппаратных средств для ограничения действий ИИ-агентов. По описанию издания, платформа призвана удерживать агентов в заданных границах.

Как пишет TechCrunch AI, в платформу входят OpenShell для контроля доступа агентов и Sentry — система мониторинга, работающая на процессорах Nvidia BlueField-4. Издание отмечает, что Sentry действует отдельно от процессора или графического процессора, на котором запущен агент.

По данным TechCrunch AI, Nvidia заявляет, что Sentry будет непрерывно отслеживать поведение агентов и помещать в карантин за миллисекунды тех, кто пытается выйти за установленные границы. TechCrunch AI также сообщает, что Хуанг сказал CNBC: новая платформа предотвратила бы описанные в статье нарушения защитных ограничений агентами. В публикации TechCrunch AI не уточняются сроки доступности платформы.