🏛️ Como as grandes empresas de tecnologia conseguiram impor sua vontade à ordem executiva de Trump sobre IA ↗
Trump recuou de uma ordem executiva planejada sobre inteligência artificial que teria impulsionado as revisões de segurança para novos modelos. O motivo, em essência: não atrasar os Estados Unidos na corrida com a China.
O mais notável é que a ordem já era considerada bastante branda – voluntária, não uma medida regulatória drástica. Mesmo assim, os líderes do setor de tecnologia pressionaram fortemente contra ela e conseguiram o que queriam. (The Guardian)
🛡️ Claude Mythos AI encontra 10.000 vulnerabilidades de alta gravidade em softwares amplamente utilizados ↗
A Anthropic afirmou que seu projeto Glasswing encontrou mais de 10.000 vulnerabilidades de alta ou crítica gravidade usando o Claude Mythos Preview. Isso é impressionante, mas também dá a impressão de ser um alarme de incêndio disfarçado.
A empresa afirma que 1.726 vulnerabilidades foram confirmadas como verdadeiras, com 97 corrigidas no código-fonte e 88 avisos emitidos. O difícil agora não é encontrar bugs, mas corrigi-los antes que os atacantes consigam as mesmas ferramentas. (The Hacker News)
🛰️ A Casa Branca aprova US$ 9 bilhões para que as agências de espionagem se atualizem em inteligência artificial ↗
A Casa Branca aprovou um pedido secreto de US$ 9 bilhões para a compra de chips avançados para agências de inteligência dos EUA, com o objetivo de executar modelos de IA de ponta para trabalhos confidenciais.
O Congresso ainda precisa aprovar o financiamento maior, mas US$ 800 milhões estão sendo redirecionados para acesso mais rápido a computadores. A mensagem implícita é óbvia: até mesmo agências de espionagem agora estão presas na fila dos chips de IA, o que é ao mesmo tempo absurdo e previsível. (Inquirer.com)
🪞 'Você não pode controlar tudo': o aumento no número de cirurgiões plásticos solicitados a criar 'rostos com inteligência artificial' ↗
Cirurgiões plásticos afirmam que cada vez mais pacientes trazem selfies editadas por inteligência artificial como objetivos para suas cirurgias plásticas: maçãs do rosto mais definidas, simetria perfeita, pele sem poros, toda aquela lista de desejos peculiar.
Cirurgiões alertam que a IA pode reorganizar pixels, não a anatomia. Um deles analisou procedimentos recomendados por IA que podem custar mais de £100.000 e ainda assim não entregar o rosto dos sonhos. Um labirinto de espelhos bem sinistro, este. (The Guardian)
💰 A Anthropic deve fechar uma rodada de investimentos de mais de US$ 30 bilhões já na próxima semana ↗
A Anthropologie está perto de fechar uma rodada de financiamento acima de US$ 30 bilhões, com uma avaliação superior a US$ 900 bilhões. Sim, esse número está dando cambalhotas.
A rodada de financiamento está sendo impulsionada pela enorme demanda por Claude em diversas áreas, como programação, fluxos de trabalho empresariais e cibersegurança. A empresa também está correndo para garantir mais poder computacional, porque, no cenário atual de IA, o dinheiro é basicamente combustível disfarçado de executivo. (Business Standard)
🖼️ As imagens do ChatGPT contêm marcadores de IA invisíveis que qualquer pessoa pode detectar: o que os usuários que não podem divulgar a IA Gen precisam saber ↗
As imagens geradas pela OpenAI agora contêm dois sinais de proveniência: metadados C2PA e a marca d'água SynthID do Google DeepMind. Um deles fornece um contexto de arquivo mais rico, enquanto o outro foi projetado para sobreviver a capturas de tela e compressão.
Há também uma ferramenta de verificação pública em versão prévia. Não é infalível, claro — pesquisadores já demonstraram a existência de ataques com marcas d'água —, mas torna a mentira "Eu não usei IA de jeito nenhum" muito mais arriscada. (Tech Times)
Perguntas frequentes
Por que Trump recuou do decreto executivo planejado sobre inteligência artificial?
O artigo afirma que a planejada ordem executiva sobre IA teria sido suavizada após pressão de grandes líderes da tecnologia. A ordem já havia sido descrita como relativamente branda e voluntária, com foco em avaliações de segurança para novos modelos de IA. O principal argumento contra ela era que processos de avaliação adicionais poderiam atrasar os EUA em sua corrida pela IA com a China.
O que Claude Mythos, da Anthropic, encontrou no software?
A Anthropic afirmou que seu projeto Glasswing utilizou o Claude Mythos Preview para identificar mais de 10.000 vulnerabilidades de alta ou crítica gravidade em softwares amplamente utilizados. O artigo observa que 1.726 descobertas foram confirmadas como verdadeiras, com algumas correções e avisos já lançados. A preocupação mais ampla é se os defensores conseguirão corrigir essas vulnerabilidades antes que os atacantes explorem ferramentas de IA semelhantes.
Por que as agências de espionagem dos EUA estão solicitando mais chips de IA?
O artigo afirma que a Casa Branca aprovou um pedido secreto de US$ 9 bilhões para ajudar as agências de inteligência dos EUA a comprar chips avançados para modelos de IA de ponta. O objetivo é apoiar trabalhos confidenciais de IA que exigem grande capacidade computacional. O artigo também observa que o Congresso ainda precisa aprovar um financiamento mais amplo, enquanto parte da verba está sendo redirecionada para acesso mais rápido.
O que significa "rosto de IA" em cirurgia plástica?
O termo "rosto de IA" refere-se a pacientes que levam selfies editadas por IA para cirurgiões plásticos como exemplos de como desejam ficar. Essas imagens podem mostrar traços mais definidos, simetria perfeita ou pele com aparência artificial. Cirurgiões citados no artigo alertam que a IA pode alterar pixels com facilidade, mas a anatomia real tem limitações que a cirurgia nem sempre consegue superar.
Como os marcadores invisíveis nas imagens do ChatGPT afetam os usuários?
O artigo afirma que as imagens geradas pelo ChatGPT agora incluem sinais de proveniência, como metadados C2PA e marca d'água SynthID. Esses marcadores podem ajudar a identificar imagens geradas por IA, inclusive em casos em que alguém não queira divulgar o uso de IA. O artigo também observa que a marca d'água não é infalível, mas facilita a detecção do uso não divulgado de imagens geradas por IA.