#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA lanserte sin Open Agent Safety Platform 28. september, som kombinerer OpenShell for å begrense agenters tilgang til filer, nettverk og verktøy med Sentry, et separat maskinvarebasert overvåkings- og innkapslingslag. Støttet av Anthropic og andre partnere, kommer den samtidig som agenter får mer autonomi og tilgang i bedrifter. Når AI-agenter blir en del av kjernearbeidsflyter, kan programvarekontroller og maskinvarebasert overvåking bli standard infrastruktur, og utvide AI-investeringer utover datakraft, nettverk og lagring til også å omfatte sikkerhet?
Populært
Siste
NVIDIAAgentSafety Populære innlegg
Veldig bra! NVIDIA samler over 100 partnere for å takle agent-sikkerhetssvikt som truer med å bremse AI-utviklingen. Men, merkelig nok, spesielt OpenAI mangler.
Etter OpenAIs Hugging Face-brudd og Anthropics testhendelser, kombinerer deres Open Agent Safety Platform OpenShells tilgangskontroller med Sentrys overvåking og håndheving på separat maskinvare, designet for å holde seg utenfor agentens rekkevidde.
Bedre inneslutning kan la forskere teste sterkere modeller og selskaper distribuere mer nyttige agenter. Det er en konkret måte for sikkerhetsingeniørkunst å støtte akselerasjon på.
Anthropic, Microsoft og Hugging Face er blant de navngitte partnerne. OpenAI er fraværende fra den annonserte listen. Gitt deres egne inneslutningssvikt, vil jeg gjerne vite hvorfor. Uansett, Kudos NVIDIA!
Jensen Huang
I dag, med over 100 industripartnere, introduserte vi NVIDIA Open Agent Safety Platform, som samler OpenShell og Sentry.
Kunstig intelligens er en ekstraordinær teknologi som vil fremme oppdagelse, produktivitet, sikkerhet, helse og velstand for generasjoner som kommer.
Men dens fulle potensial kan bare realiseres når folk har tillit til at AI bygges for å være trygg og tas i bruk med visdom og ansvar.
Dette er større enn et enkelt produkt. Det er begynnelsen på et åpent økosystem for å bygge tillitslaget for sikre agent-systemer.
Sammen bygger vi grunnlaget for AI-økonomien.
Tillitt og innovasjon er ikke i konflikt. Sikkerhet er hvordan tillit oppnås. Vi må bygge ikke bare den mest kapable AI, men den mest pålitelige AI, slik at denne ekstraordinære teknologien kan realisere sitt enorme potensial for verden.
🚨NØYAKTIG: Nvidia $NVDA lanserer et AI-sikkerhetssystem designet for å STOPPE agenter fra å bryte seg inn i andre systemer.
Open Agent Safety Platform "kontrollerer hva AI-agenter kan få tilgang til i sanntid og kan stenge dem ned når de bryter reglene," rapporterer Bloomberg
Systemet inkluderer to åpen kildekode-sikkerhetsverktøy som kan kjøres på Nvidia-maskinvare.
Visepresident Justin Boitano sier at systemet "kunne ha stoppet" det nylige Hugging Face-bruddet av OpenAIs AI-modeller.
Boitano la til at det kan "isolere en mistenkelig agent på millisekunder."
🔥 OKX lanserer Pre-IPO X-Perps!
OKX har kunngjort X-Perps for Anthropic og OpenAI, som gir kvalifiserte EØS-brukere tilgang til å handle evigvarende kontrakter knyttet til disse private selskapene før noen offentlig notering.
🛡️ OKX Shield utvider sikkerheten
Kvalifiserte europeiske brukere kan motta opptil €500 000 i kontoovertakelsesbeskyttelse, avhengig av VIP-nivå og sikkerhetskrav.
⚡ Flere X-Perps lagt til
OKX noterte nylig METUSD, ARUSD og COREUSD, etter FLOCKUSD, MINAUSD og CASHCATUSD. $BTC #FedHike
Chain-of-thought-overvåking innebærer i bunn og grunn å lese notatene som en AI skriver til seg selv, og sjekke hva som står i disse notatene.
Dette fungerer i det hele tatt – AI-er er kun trent til å oppnå gode resultater, ikke til å lage pene notater, noe som betyr at notatene deres kan være de merkelige tingene som oppnår oppgaven.
Og selvfølgelig, etter hvert som modellene blir smartere, trenger de færre notater for å oppnå de samme resultatene; de kan gjøre mer av arbeidet i hodet sitt.
AI-kappløpet er ikke lenger bare et kappløp om GPU.
Anthropic har satt av 11,6 milliarder dollar over syv år til Akamai for skyinfrastruktur som støtter CPU-arbeidsbelastninger.
Det forteller deg noe viktig:
KI trenger et helt økosystem — CPU-er, GPU-er, minne, nettverk og datasentre.
Infrastrukturhistorien kan være større enn selve AI-modellene.
#Anthropic #AI #Akamai #Tech #Crypto
