#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA запустила свою Open Agent Safety Platform 28 вересня, поєднуючи OpenShell для обмеження доступу агентів до файлів, мереж і інструментів із Sentry, окремим апаратним шаром моніторингу та стримування. Підтримувана Anthropic та іншими партнерами, вона з’являється в той час, коли агенти набувають автономії та доступу до підприємств. Оскільки AI-агенти входять у основні робочі процеси, чи можуть програмні засоби контролю та апаратний моніторинг стати стандартною інфраструктурою, розширюючи витрати на AI за межі обчислень, мереж і зберігання до безпеки?
Популярне
Останні
NVIDIAAgentSafety Популярні дописи
Дуже добре! NVIDIA об'єднує понад 100 партнерів для вирішення проблем із безпекою агентів, які загрожують уповільнити розвиток ШІ. Однак, дивно, особливо OpenAI відсутній.
Після витоку Hugging Face у OpenAI та інцидентів з тестуванням Anthropic, платформа Open Agent Safety поєднує контроль доступу OpenShell із моніторингом і контролем Sentry на окремому обладнанні, розробленими так, щоб залишатися поза досяжністю агента.
Краща ізоляція може дозволити дослідникам тестувати міцніші моделі, а компаніям впроваджувати більш корисні агенти. Це конкретний спосіб, яким інженерія безпеки підтримує прискорення.
Anthropic, Microsoft і Hugging Face — серед названих партнерів. OpenAI відсутній у анонсованій лінійці. Враховуючи власні проблеми з утриманням, хотів би знати чому. У будь-якому разі, подяка NVIDIA!
Jensen Huang
Сьогодні, разом із понад 100 галузевими партнерами, ми представили NVIDIA Open Agent Safety Platform, об'єднавши OpenShell і Sentry.
Штучний інтелект — це надзвичайна технологія, яка сприятиме відкриттям, продуктивності, безпеці, здоров'ю та процвітанню для майбутніх поколінь.
Але його повний потенціал можна реалізувати лише тоді, коли люди впевнені, що ШІ створюється безпечно і впроваджується з мудрістю та відповідальністю.
Це більше, ніж один продукт. Це початок відкритої екосистеми для створення рівня довіри для безпечних агентних систем.
Разом ми будуємо основу економіки ШІ.
Довіра та інновації не конфліктують. Безпека — це спосіб заслужити довіру. Ми повинні створити не лише найспроможніший ШІ, а й найнадійніший ШІ, щоб ця надзвичайна технологія могла реалізувати свій величезний потенціал для світу.
🚨ЩОЙНО: Nvidia $NVDA запускає систему безпеки на основі ШІ, яка ЗУПИНЯЄ агентів від проникнення в інші системи.
Відкрита платформа безпеки агентів «контролює, до чого агенти ШІ можуть отримати доступ у реальному часі, і може вимикати їх, коли вони порушують правила», повідомляє Bloomberg
Система включає два відкритих інструменти безпеки, які можуть працювати на апаратному забезпеченні Nvidia.
Віце-президент Джастін Бойтано каже, що система «могла зупинити» нещодавній витік Hugging Face через моделі штучного інтелекту OpenAI.
Бойтано додав, що він може «ізолювати підозрілого агента за мілісекунди».
🔥 OKX запускає Pre-IPO X-Perps!
OKX оголосила про X-Perps для Anthropic та OpenAI, надаючи право користувачам з ЄЕЗ торгувати безстроковими контрактами, пов’язаними з цими приватними компаніями, до їх публічного лістингу.
🛡️ OKX Shield розширює безпеку
Право користувачі з Європи можуть отримати захист від захоплення акаунту до €500,000, залежно від VIP-рівня та вимог безпеки.
⚡ Додано більше X-Perps
OKX нещодавно додала METUSD, ARUSD та COREUSD, після FLOCKUSD, MINAUSD та CASHCATUSD. $BTC #FedHike
Моніторинг ланцюжка думок, по суті, полягає у читанні нотаток, які штучний інтелект пише собі самому собі, і перевірці того, що в цих нотатках.
Це взагалі працює — ШІ навчені лише гарним результатам, а не гарним нотаткам, тобто їхні нотатки — це дивні речі, які виконують завдання.
І, звичайно, коли моделі стають розумнішими, їм потрібно менше нотаток, щоб отримати ті ж результати; вони можуть виконувати більше роботи у своїй голові.
Гонка AI — це вже не просто гонка GPU.
Anthropic за сім років передала Akamai $11,6 млрд для хмарної інфраструктури, що підтримує робочі навантаження CPU.
Це говорить вам щось важливе:
ШІ потребує цілої екосистеми — процесорів, GPU, пам'яті, мереж і дата-центрів.
Історія інфраструктури може бути більшою, ніж самі моделі ШІ.
#Anthropic #AI #Akamai #Tech #Crypto
