Nvidia предлагает программное обеспечение для контроля ИИ-агентов
После серии инцидентов, когда ИИ-агенты "выходили из-под контроля", Nvidia предлагает компаниям инструменты для их удержания.
Глава Nvidia Дженсен Хуанг только успел призвать мир не беспокоиться о реальном "Скайнете", как его компания представила программное обеспечение, предназначенное для предотвращения неконтролируемого поведения ИИ-агентов.
В понедельник Nvidia представила Open Agent Safety Platform. Это набор инструментов, который даёт разработчикам возможность контролировать доступ и действия ИИ-агентов, сообщает CNBC. Запуск платформы последовал за инцидентами, когда ИИ-модели OpenAI, Anthropic, Meta и Google выходили за пределы тестовых сред. Наиболее заметный случай произошёл в июле, когда агенты OpenAI взломали Hugging Face — открытую платформу, которую Nvidia планирует приобрести за $12,9 миллиарда.
Хуанг назвал тот инцидент провалом системы сдерживания. Теперь Nvidia продаёт средства для такого сдерживания. Компания исходит из того, что ИИ-агенты не будут самостоятельно соблюдать правила, поэтому платформа устанавливает жёсткие ограничения. Инструмент OpenShell ограничивает доступ агентов, а Sentry отслеживает их активность. Партнёры, включая Microsoft, Cisco, Oracle и Dell, будут разрабатывать продукты на базе этой платформы.
Свежие материалы — Новости экономики
Зачем банк Citi стоимостью $215 млрд ускоряет продвижение младших банкиров?
Citi ускоряет карьерный рост младших банкиров. Это последний шаг банка с капиталом в $215 миллиардов в борьбе за таланты с частными инвестиционными фондами. Citi сокращает программу аналитиков инвестиционного банкинга с трёх до двух лет. Теперь младшие банкиры быстрее получают должности асс
Четыре слепых зоны, незаметно лишающие владельцев бизнеса самого ценного
Самые дорогостоящие проблемы в бизнесе редко возникают внезапно. Они развиваются постепенно, пока владелец занят ростом и повседневными делами. В этом парадокс предпринимательства: чем сильнее вы погружены в свое дело, тем сложнее его ясно видеть. Владельцы знают свои компании лучше всех,
6 качеств, которые я ищу в каждом сотруднике
За годы работы я нанял множество людей и понял: часто мы подходим к найму не с той стороны. Мы нанимаем на должность: составляем описание, перечисляем обязанности, определяем требуемый опыт, а затем ищем кандидата, который лучше всего подходит под эти критерии. Это логично, пока компан
Сотрудничество в соцсетях: мощный инструмент роста, который вы, возможно, упускаете
Недавно ко мне обратилась клиентка с проблемой, которая поначалу казалась простой. Её бизнес процветал, клиенты были довольны, контент регулярно публиковался и находил отклик. Но месяц за месяцем показатели почти не менялись. Новые клиенты не приходили, а те, кому её услуги подошли бы идеа
Сильный Бренд Приносит Больше Денег, Чем Идеальный Маркетинг: Уроки Недвижимости
Долгое время успех в недвижимости связывали с максимальной заметностью: чем больше людей увидели ваше имя, тем больше клиентов. Агенты стремились охватить аудиторию через поиск, рекламу и контент. Вся маркетинговая философия отрасли строилась на идее: кто охватил больше, тот получил больше кли
ChatGPT и ваш мозг: Новые исследования вызывают тревогу
Основные выводы Исследователи из Калифорнийского университета в Ирвайне изучили работу студентов до и после появления ChatGPT. Они выяснили: ИИ ускоряет выполнение домашней работы, но ослабляет долгосрочное понимание материала. Тем не менее