Fontes dizem que assessores de Trump informaram a empresas de IA que não realizarão testes de segurança em modelos de peso aberto ↗
Segundo pessoas familiarizadas com as discussões, o governo Trump informou às principais empresas de IA que não realizaria testes de segurança em modelos de código aberto. Isso deixa uma parte bastante significativa da avaliação de riscos fora da estrutura governamental.
Na prática, desenvolvedores e usuários podem ter que assumir mais responsabilidade pela avaliação de modelos antes do lançamento ou implantação. Talvez seja favorável à inovação... mas o momento é delicado, já que os modelos abertos estão se tornando mais capazes em um ritmo acelerado. (Reuters)
Os modelos de IA de peso aberto estão alcançando a vanguarda. A lacuna de segurança permanece. ↗
O GLM-5.2 da Z.ai está, segundo relatos, apenas alguns meses atrás dos principais modelos fechados em capacidades cibernéticas e biológicas. Os testes da SaferAI constataram que ele não recusou nenhuma das tarefas ofensivas cibernéticas ou de biologia de dupla utilização que lhe foram apresentadas.
Modelos fechados podem contar com treinamento de recusa, classificadores e controles de API. Pesos para download são uma história diferente — uma vez liberados, as salvaguardas podem ser alteradas ou removidas, fazendo com que a lacuna de segurança pareça nitidamente um abismo. (TechCrunch)
A Samsung Electronics lança tecnologia de memória com IA de última geração ↗
A Samsung apresentou um protótipo de BV-NAND com mais de 400 camadas e um novo design de colagem de wafers. A empresa afirma que ele oferece uma densidade de memória aproximadamente 58% maior do que a geração anterior, além de desempenho mais rápido em leitura, gravação e operações de entrada/saída.
A Samsung também descreveu a memória zHBM empilhada verticalmente, posicionada acima dos aceleradores de IA. A empresa afirma que a arquitetura pode oferecer mais de dez vezes a densidade da HBM5 convencional, triplicar a eficiência energética e apresentar uma resistência térmica substancialmente menor — promessas ousadas, para dizer o mínimo. (Reuters)
A corrida por data centers com foco em IA gera um ônus de aluguel de US$ 1 trilhão para as grandes empresas de tecnologia ↗
Microsoft, Meta, Oracle, Amazon e Alphabet comprometeram-se com cerca de US$ 1,09 trilhão em arrendamentos que ainda não começaram, principalmente para centros de dados de IA. Essas obrigações representam quase quatro vezes seus passivos de arrendamento reconhecidos.
Essa capacidade poderia impulsionar o próximo boom da computação em nuvem. Ou, de forma menos otimista, deixar as empresas pagando por instalações imensas caso a demanda por IA decepcione — um casaco de um trilhão de dólares comprado antes mesmo de alguém verificar a previsão do tempo. (Reuters)
A Anthropic fecha acordo de US$ 10 bilhões com a startup de nuvem de IA Volta ↗
A Anthropic teria concordado em adquirir US$ 10 bilhões em capacidade computacional da startup de nuvem com inteligência artificial Volta ao longo de seis anos. O acordo daria suporte a um data center na Noruega com capacidade de 133 megawatts.
A empresa de mineração de criptomoedas Bitdeer deverá ajudar no desenvolvimento da instalação, que utilizará os sistemas Vera Rubin da Nvidia. A Anthropic está colecionando parcerias de computação como ímãs de geladeira — só que esses ímãs custam bilhões. (TechCrunch)
A inteligência artificial oferece uma "tábua de salvação" para as economias emergentes, afirma o Banco Mundial ↗
O Banco Mundial afirma que a IA pode permitir que as economias em desenvolvimento comprimam um século de progresso em uma década, desde que melhorem a eletricidade, a conectividade e as competências digitais. Ferramentas menores e adaptadas localmente poderiam apoiar os setores da saúde, educação, agricultura e serviços públicos sem a necessidade de grandes modelos nacionais.
O relatório estima que 4,5% dos empregos em países de baixa e média renda estão expostos à IA generativa, em comparação com 14,2% em economias mais ricas. Mesmo assim, a promessa vem acompanhada de alertas contundentes sobre desigualdade, desinformação e repressão política — uma tábua de salvação com vários nós. (Reuters)
Perguntas frequentes
Por que o governo dos EUA não está realizando testes de segurança em modelos de IA de código aberto?
Segundo o artigo, o governo Trump informou às principais empresas de IA que os modelos de código aberto não seriam incluídos em sua estrutura governamental de testes de segurança. Isso impõe maior responsabilidade aos desenvolvedores, distribuidores e usuários dos modelos, que podem precisar avaliar os riscos cibernéticos, biológicos, de uso indevido e de implantação de forma independente antes de lançar ou adotar esses sistemas.
Por que os modelos de IA de peso aberto são mais difíceis de proteger do que os modelos fechados?
Modelos de IA de código aberto podem ser baixados, modificados e operados fora da infraestrutura original do desenvolvedor. Como resultado, salvaguardas como treinamento de recusa, classificadores e controles de acesso podem ser enfraquecidas ou removidas. Modelos fechados geralmente são distribuídos por meio de APIs controladas, oferecendo aos provedores maior controle sobre o uso, a restrição de acesso e a atualização das proteções após a implantação.
Como as organizações devem avaliar modelos de IA de código aberto antes da implementação?
Uma abordagem comum é testar o modelo em cenários realistas de uso indevido, incluindo tarefas cibernéticas ofensivas, solicitações biológicas de dupla utilização e tentativas de burlar as medidas de segurança. As organizações também devem examinar como o modelo será hospedado, quem poderá modificá-lo e quais sistemas de monitoramento estão disponíveis. Implantações de maior risco geralmente exigem controles de acesso mais rigorosos e supervisão humana constante.
O que a nova tecnologia de memória com IA da Samsung visa aprimorar?
O protótipo BV-NAND da Samsung utiliza mais de 400 camadas e um design de colagem de wafers projetado para aumentar a densidade de memória, melhorando o desempenho de leitura, gravação e entrada/saída. A empresa também descreveu a memória zHBM empilhada verticalmente, posicionada acima dos aceleradores de IA. Esses designs visam atender às demandas de capacidade, energia e dissipação de calor geradas por cargas de trabalho de IA cada vez mais intensivas.
Por que os contratos de arrendamento de centros de dados de IA das grandes empresas de tecnologia são considerados um risco financeiro?
Segundo relatos, Microsoft, Meta, Oracle, Amazon e Alphabet comprometeram-se com cerca de US$ 1,09 trilhão em contratos de arrendamento que ainda não entraram em vigor, grande parte desse valor ligado a data centers de IA. A capacidade adicional poderá suportar o rápido crescimento da demanda por nuvem e IA. No entanto, as empresas ainda podem ter que pagar quantias substanciais se a demanda se desenvolver mais lentamente do que o esperado ou se a infraestrutura permanecer subutilizada.
Como a IA poderia beneficiar as economias emergentes?
O Banco Mundial argumenta que a IA pode ajudar as economias em desenvolvimento a fortalecer os setores da saúde, educação, agricultura e serviços públicos, principalmente por meio de ferramentas menores adaptadas às necessidades locais. Esses benefícios dependem de fornecimento confiável de eletricidade, acesso à internet e habilidades digitais. Os governos também devem gerenciar riscos como desigualdade, desinformação e repressão política à medida que a adoção da IA se expande.