#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA julkaisi Open Agent Safety Platforminsa 28. syyskuuta, yhdistäen OpenShellin, joka rajoittaa agenttien pääsyä tiedostoihin, verkkoihin ja työkaluihin, Sentryyn, erilliseen laitteistopohjaiseen valvonta- ja eristyskerrokseen. Anthropicin ja muiden kumppaneiden tukemana se saapuu samaan aikaan, kun agentit saavat autonomiaa ja pääsyn yritysjärjestelmiin. Kun tekoälyagentit tulevat osaksi ydintyönkulkuja, voivatko ohjelmistovalvonta ja laitteistotason valvonta muodostua standardiksi infrastruktuuriksi, laajentaen tekoälyyn käytettyjä investointeja laskentatehon, verkkojen ja tallennuksen lisäksi myös turvallisuuteen?
Suosittu
Viimeisin
NVIDIAAgentSafety Suositut postaukset
Todella hyvä! NVIDIA kokoaa yli 100 kumppania yhteen ratkaisemaan agenttien tietoturvapuutteita, jotka uhkaavat hidastaa tekoälyn kehitystä. Kuitenkin, erikoisesti OpenAI puuttuu joukosta.
OpenAI:n Hugging Face -tietomurron ja Anthropicin testausongelmien jälkeen sen Open Agent Safety Platform yhdistää OpenShellin käyttöoikeuksien hallinnan ja Sentryn valvonnan ja toimeenpanon erillisellä laitteistolla, joka on suunniteltu pysymään agentin ulottumattomissa.
Parempi eristäminen voisi antaa tutkijoille mahdollisuuden testata vahvempia malleja ja yrityksille ottaa käyttöön hyödyllisempiä agentteja. Tämä on konkreettinen tapa, jolla turvallisuustekniikka voi tukea kehityksen kiihtymistä.
Anthropic, Microsoft ja Hugging Face ovat nimettyjä kumppaneita. OpenAI puuttuu julkistetusta kokoonpanosta. Ottaen huomioon sen omat eristysongelmat, haluaisin tietää miksi. Joka tapauksessa, kiitos NVIDIA!
Jensen Huang
Tänään, yli 100 teollisuuskumppanin kanssa, esittelimme NVIDIA Open Agent Safety Platformin, joka yhdistää OpenShellin ja Sentryn.
Tekoäly on poikkeuksellinen teknologia, joka edistää löytöjä, tuottavuutta, turvallisuutta, terveyttä ja vaurautta tuleville sukupolville.
Mutta sen koko lupaus voidaan toteuttaa vain, kun ihmiset luottavat siihen, että tekoäly rakennetaan turvalliseksi ja otetaan käyttöön viisaasti ja vastuullisesti.
Tämä on suurempaa kuin yksittäinen tuote. Se on avoimen ekosysteemin alku, jonka tarkoituksena on rakentaa luottamuksen kerros turvallisille agenttijärjestelmille.
Yhdessä rakennamme tekoälytalousjärjestelmän perustaa.
Luottamus ja innovaatio eivät ole ristiriidassa. Turvallisuus on tapa ansaita luottamus. Meidän on rakennettava paitsi kyvykkäin tekoäly myös luotetuin tekoäly, jotta tämä poikkeuksellinen teknologia voi toteuttaa valtavan lupauksensa maailmalle.
🚨JUURI SAAPUNUT: Nvidia $NVDA lanseeraa AI-turvajärjestelmän, joka on suunniteltu ESTÄMÄÄN agentteja murtautumasta muihin järjestelmiin.
Open Agent Safety Platform "valvoo reaaliajassa, mihin AI-agentit pääsevät käsiksi, ja voi sammuttaa ne, kun ne rikkovat sääntöjä", Bloomberg raportoi
Järjestelmä sisältää kaksi avoimen lähdekoodin turvatyökalua, joita voidaan käyttää Nvidia-laitteistolla.
Varatoimitusjohtaja Justin Boitano sanoo, että järjestelmä "olisi voinut estää" äskettäisen Hugging Face -tietomurron, jonka aiheuttivat OpenAI:n AI-mallit.
Boitano lisäsi, että se voi "eristää epäilyttävän agentin millisekunneissa."
🔥 OKX julkaisee Pre-IPO:n X-Perps!
OKX on julkistanut X-Perps for Anthropic ja OpenAI, mikä antaa kelvollisille EEA-käyttäjille pääsyn kauppasopimuksiin, jotka liittyvät näihin yksityisiin yrityksiin ennen julkista listautumista.
🛡️ OKX Shield laajentaa turvallisuutta
Oikeutetut eurooppalaiset käyttäjät voivat saada jopa €500,000 tilin kaappaussuojan VIP-tasosta ja turvallisuusvaatimuksista riippuen.
⚡ Lisää X-Perpejä lisätty
OKX listasi äskettäin METUSD:n, ARUSD:n ja COREUSD:n, FLOCKUSD:n, MINAUSD:n ja CASHCATUSD:n jälkeen. $BTC #FedHike
Chain-of-thought -valvonta tarkoittaa pohjimmiltaan sitä, että luetaan muistiinpanoja, joita AI kirjoittaa itselleen, ja tarkistetaan, mitä näissä muistiinpanoissa on.
Tämä toimii lainkaan – AI:t on koulutettu saamaan hyviä tuloksia, ei tekemään siistejä muistiinpanoja, mikä tarkoittaa, että niiden muistiinpanot ovat mitä tahansa outoja asioita, jotka saavuttavat tehtävän.
Ja tietenkin, kun mallit älykkääntyvät, ne tarvitsevat vähemmän muistiinpanoja saavuttaakseen samat tulokset; ne voivat tehdä enemmän työtä mielessään.
AI-kilpailu ei ole enää pelkkä GPU-kilpailu.
Anthropic on sitoutunut 11,6 miljardia dollaria seitsemän vuoden aikana Akamaille pilvi-infrastruktuuriin, joka tukee suorittimen työkuormia.
Se kertoo sinulle jotain tärkeää:
Tekoäly tarvitsee kokonaisen ekosysteemin — suorittimia, GPU:ita, muistia, verkotuksia ja datakeskuksia.
Infrastruktuurin tarina voi olla suurempi kuin tekoälymallit itse.
#Anthropic #AI #Akamai #Tech #Crypto
