#NVIDIAAgentSafety
About NVIDIAAgentSafety
A NVIDIA lançou a sua Plataforma de Segurança Open Agent a 28 de setembro, combinando o OpenShell para restringir o acesso dos agentes a ficheiros, redes e ferramentas com o Sentry, uma camada separada de monitorização e contenção baseada em hardware. Apoiada pela Anthropic e outros parceiros, chega numa altura em que os agentes ganham autonomia e acesso empresarial. À medida que os agentes de IA entram nos fluxos de trabalho principais, poderão os controlos de software e a monitorização a nível de hardware tornar-se infraestruturas padrão, estendendo os gastos em IA para além do cálculo, redes e armazenamento para a segurança?
Populares
Mais recentes
NVIDIAAgentSafety Publicações populares
Muito bom! A NVIDIA está a reunir mais de 100 parceiros para enfrentar as falhas de segurança dos agentes que ameaçam atrasar o desenvolvimento da IA. No entanto, estranhamente, especialmente a OpenAI está ausente.
Após a violação da Hugging Face pela OpenAI e os incidentes de testes da Anthropic, a sua Plataforma de Segurança de Agentes Abertos combina os controlos de acesso do OpenShell com a monitorização e aplicação do Sentry em hardware separado, concebido para permanecer fora do alcance do agente.
Um melhor confinamento poderia permitir aos investigadores testar modelos mais robustos e às empresas implementar agentes mais úteis. Essa é uma forma concreta de a engenharia de segurança apoiar a aceleração.
A Anthropic, a Microsoft e a Hugging Face estão entre os parceiros nomeados. A OpenAI está ausente da lista anunciada. Dadas as suas próprias falhas de confinamento, gostaria de saber porquê. De qualquer forma, parabéns NVIDIA!
Jensen Huang
Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry.
Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to come.
But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility.
This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems.
Together, we are building the foundation of the AI economy.
Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world.
🚨ÚLTIMA HORA: A Nvidia $NVDA está a lançar um sistema de segurança de AI concebido para IMPEDIR agentes de invadirem outros sistemas.
A Plataforma de Segurança Open Agent “controla o que os agentes de AI podem aceder em tempo real e pode desligá-los quando violam as regras,” relata a Bloomberg
O sistema inclui duas ferramentas de segurança open-source que podem ser executadas em hardware Nvidia.
O VP Justin Boitano diz que o sistema "poderia ter impedido" a recente violação da Hugging Face pelos modelos de AI da OpenAI.
Boitano acrescentou que pode “quarantinar um agente suspeito em milissegundos.”
🔥 OKX lança Pre-IPO X-Perps!
OKX anunciou X-Perps para Anthropic e OpenAI, dando aos utilizadores elegíveis da EEE acesso para negociar contratos perpétuos ligados a estas empresas privadas antes de qualquer oferta pública.
🛡️ OKX Shield expande a segurança
Utilizadores europeus elegíveis podem receber até €500,000 em proteção contra tomada de conta da conta, dependendo do nível VIP e dos requisitos de segurança.
⚡ Mais X-Perps adicionados
OKX listou recentemente METUSD, ARUSD e COREUSD, seguindo FLOCKUSD, MINAUSD e CASHCATUSD. $BTC #FedHike
O monitoramento do Chain-of-thought, fundamentalmente, envolve ler as notas que uma IA escreve para si mesma e verificar o que está nessas notas.
Isto funciona porque as IAs são treinadas apenas para obter bons resultados, não para ter notas bem apresentadas, o que significa que as suas notas são quaisquer coisas estranhas que consigam realizar a tarefa.
E, claro, à medida que os modelos ficam mais inteligentes, precisam de menos notas para obter os mesmos resultados; podem fazer mais do trabalho na sua cabeça.
A corrida da AI já não é apenas uma corrida de GPUs.
A Anthropic comprometeu 11,6 mil milhões de dólares ao longo de sete anos à Akamai para infraestrutura cloud que suporta cargas de trabalho de CPU.
Isto diz-lhe algo importante:
A AI precisa de um ecossistema completo — CPUs, GPUs, memória, redes e centros de dados.
A história da infraestrutura pode ser maior do que os próprios modelos de AI.
#Anthropic #AI #Akamai #Tech #Crypto
