#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Nejžhavější
Nejnovější
NVIDIAAgentSafety Oblíbené příspěvky
Velmi dobré! NVIDIA spojuje přes 100 partnerů, aby řešili bezpečnostní selhání agentů, která hrozí zpomalením vývoje AI. Zvláštně však chybí zejména OpenAI.
Po narušení bezpečnosti Hugging Face ze strany OpenAI a testovacích incidentech Anthropic kombinuje jeho Open Agent Safety Platform přístupové kontroly OpenShell s monitorováním a vynucováním Sentry na samostatném hardwaru, navrženém tak, aby zůstal mimo dosah agenta.
Lepší omezení by mohlo umožnit výzkumníkům testovat silnější modely a firmám nasazovat užitečnější agenty. To je konkrétní způsob, jak může bezpečnostní inženýrství podpořit zrychlení.
Mezi jmenovanými partnery jsou Anthropic, Microsoft a Hugging Face. OpenAI chybí v oznámeném seznamu. Vzhledem k vlastním selháním v omezení bych rád věděl proč. Každopádně, chvála NVIDIA!
Jensen Huang
Dnes jsme s více než 100 průmyslovými partnery představili NVIDIA Open Agent Safety Platform, která spojuje OpenShell a Sentry.
Umělá inteligence je mimořádná technologie, která přinese pokrok v objevech, produktivitě, bezpečnosti, zdraví a prosperitě pro budoucí generace.
Její plný potenciál však může být naplněn pouze tehdy, když lidé budou mít důvěru, že AI je vyvíjena bezpečně a nasazována s rozvahou a odpovědností.
To je větší než jeden produkt. Je to začátek otevřeného ekosystému pro vybudování vrstvy důvěry pro bezpečné agentní systémy.
Společně budujeme základy AI ekonomiky.
Důvěra a inovace nejsou v rozporu. Bezpečnost je způsob, jak si důvěru získat. Musíme vyvinout nejen nejvýkonnější AI, ale také tu nejdůvěryhodnější, aby tato mimořádná technologie mohla naplnit svůj obrovský potenciál pro svět.
🚨PRÁVĚ NYNÍ: Nvidia $NVDA spouští systém bezpečnosti AI navržený k ZASTAVENÍ agentů, kteří se snaží proniknout do jiných systémů.
Platforma Open Agent Safety „kontroluje, k čemu mají AI agenti přístup v reálném čase, a může je vypnout, když poruší pravidla,“ uvádí Bloomberg.
Systém zahrnuje dva open-source bezpečnostní nástroje, které lze spustit na hardwaru Nvidia.
Viceprezident Justin Boitano říká, že systém mohl „zastavit“ nedávný průnik do Hugging Face způsobený AI modely OpenAI.
Boitano dodal, že dokáže „izolovat podezřelého agenta během milisekund.“
Chain-of-thought monitoring v zásadě znamená čtení poznámek, které si AI píše sama sobě, a kontrolu toho, co je v těchto poznámkách.
Toto vůbec funguje – AI jsou trénovány pouze na dosažení dobrých výsledků, ne na hezky vypadající poznámky, což znamená, že jejich poznámky jsou jakékoli podivné věci, které úkol splní.
A samozřejmě, jak se modely stávají chytřejšími, potřebují méně poznámek k dosažení stejných výsledků; více práce mohou udělat přímo v hlavě.
Závod AI už není jen závod o GPU.
Anthropic se za sedm let zavázal do Akamai 11,6 miliardy dolarů na cloudovou infrastrukturu podporující CPU zátěže.
To vám říká něco důležitého:
AI potřebuje celý ekosystém — CPU, GPU, paměť, sítě a datová centra.
Příběh infrastruktury může být větší než samotné AI modely.
#Anthropic #AI #Akamai #Tech #Crypto
🔥 OKX spouští X-Perps před IPO!
OKX oznámila X-Perps pro Anthropic a OpenAI, které umožňují oprávněným uživatelům z EHP přístup k obchodním trvalým smlouvám spojeným s těmito soukromými společnostmi před jakýmkoli veřejným zařazením.
🛡️ OKX Shield rozšiřuje bezpečnost
Oprávnění evropští uživatelé mohou získat až 500 000 € na ochranu před převzetím účtu, v závislosti na úrovni VIP a bezpečnostních požadavcích.
⚡ Přidáno více X-Perps
OKX nedávno uvedla na burzu METUSD, ARUSD a COREUSD, následovala FLOCKUSD, MINAUSD a CASHCATUSD. $BTC #FedHike
