A OpenAI vai pausar parte do trabalho no modelo de IA Astra devido a preocupações com a segurança ↗
A OpenAI está pausando o trabalho interno no Astra, que não atende aos requisitos de segurança mais rigorosos, após avaliações sugerirem que suas capacidades cibernéticas podem ter ultrapassado um limite "crítico". O agente poderia, segundo relatos, encontrar e explorar vulnerabilidades sem intervenção humana, ou realizar ataques a partir de um objetivo de alto nível. Sim... essa é uma linha bastante séria a ser cruzada.
A empresa está reforçando os testes isolados, o acesso à rede e às ferramentas, a proteção dos pesos dos modelos, a criptografia e o monitoramento. A Astra não esteve envolvida no incidente anterior da OpenAI com a Hugging Face, mas o padrão mais amplo de agentes cada vez mais autônomos está tornando a contenção uma preocupação muito maior. (Fonte: The Guardian)
A Apple afirma que os usuários de Mac na China podem se conectar ao serviço de IA Qwen, da Alibaba ↗
Usuários de Mac elegíveis na China continental agora podem conectar o Qwen, da Alibaba, à Siri e às Ferramentas de Escrita da Apple. Isso significa respostas mais detalhadas, além de análise de documentos e imagens, juntamente com geração de texto e imagens a partir de descrições.
É uma combinação interessante, francamente: a Apple ganha um caminho compatível com as regulamentações locais para implementar recursos de IA mais robustos em um mercado de PCs extremamente competitivo, enquanto a Alibaba consegue integrar o Qwen muito mais profundamente ao ecossistema de terceiros. A Apple afirma que o material enviado por meio da extensão não pode ser usado pela Alibaba para treinar seus modelos. (Fonte: Reuters)
O Google DeepMind entra em uma nova era com a mudança de função do cofundador Demis Hassabis na área de IA ↗
Demis Hassabis está deixando a liderança diária da DeepMind, tornando-se presidente do conselho e assumindo também o cargo de cientista-chefe da Alphabet. Seu colega de longa data, Koray Kavukcuoglu, assume o controle operacional como vice-presidente sênior, em vez de CEO — uma mudança sutil de título que diz muito.
A reestruturação ocorre em meio a outras grandes saídas de pesquisadores e questionamentos sobre se a DeepMind está se tornando menos independente e mais absorvida pela máquina de IA comercial do Google. O Google contesta que a mudança esteja relacionada ao desempenho competitivo do Gemini. (Fonte: The Guardian)
Um número crescente de crianças no Reino Unido relata ter visto deepfakes explícitos de si mesmas ↗
No Reino Unido, houve um aumento expressivo de denúncias de crianças sobre imagens falsas ou manipuladas de si mesmas em conteúdo explícito. A Report Remove recebeu 420 denúncias em apenas seis meses, número que já ultrapassou o total anual anterior de 397. Ferramentas de "incentivo" baseadas em inteligência artificial estão tornando o problema assustadoramente mais fácil de ser disseminado.
A Internet Watch Foundation afirma que muitas das imagens manipuladas relatadas eram graves o suficiente para serem consideradas material de abuso sexual infantil. Algumas vítimas também foram alvo de extorsão sexual, transformando uma imagem gerada por IA em uma arma muito concreta. (Fonte: The Guardian)
Pesquisa revela que os recursos de IA estão crescendo mais rápido do que seu valor para os negócios ↗
Empresas de software corporativo estão lançando recursos de IA em larga escala, mas os clientes nem sempre os utilizam. Em uma pesquisa com mais de 260 empresas de software de diversos setores, 51% afirmaram que menos de um quarto de seus clientes utilizavam os recursos de IA que haviam desenvolvido. Um tanto constrangedor depois de todo o investimento...
O gargalo parece estar menos relacionado à capacidade da IA e mais à integração, segurança, privacidade, mudanças no fluxo de trabalho e comprovação de valor comercial concreto. Um fenômeno particularmente peculiar é o "tokenmaxxing" — um consumo excessivo de IA que impressiona em um painel de controle sem evidências claras de que esteja produzindo melhores resultados. (Fonte: Forbes)
A IA está mudando o trabalho mais rápido do que os dados conseguem acompanhar ↗
O debate sobre empregos em IA está se tornando cada vez mais complexo, em vez de mais claro. Um estudo que abrangeu mais de 21.000 empresas americanas constatou que as empresas que mais adotaram IA aumentaram seu quadro de funcionários em 10% e as contratações de nível inicial em 12%, enquanto as que adotaram menos a tecnologia não apresentaram crescimento no número de funcionários.
Mas outras pesquisas constataram pressão sobre o emprego entre trabalhadores mais jovens em funções expostas à IA, e economistas alertam que empresas em crescimento ainda podem contratar enquanto a IA transforma ocupações em toda a economia. Portanto, a IA está destruindo empregos e criando outros... ou é isso que os dados conflitantes querem que você acredite. (Fonte: Fortune)
Perguntas frequentes
Quais são as principais novidades em inteligência artificial no momento?
Notícias recentes sobre IA apontam para diversos temas em comum: capacidades autônomas mais robustas, controles de segurança mais rigorosos, integrações mais profundas com plataformas, mudanças na liderança, riscos à segurança online e valor comercial incerto. A OpenAI está reforçando as salvaguardas em torno do Astra, a Apple está conectando o Qwen aos Macs na China e a DeepMind está passando por mudanças na liderança. Ao mesmo tempo, crescem as preocupações com relação aos deepfakes, à adoção corporativa e ao impacto da IA no mercado de trabalho.
Por que a OpenAI interrompeu parte do trabalho no projeto Astra?
Segundo relatos, a OpenAI suspendeu o trabalho interno no modelo Astra que não atendia a requisitos de segurança mais rigorosos, após avaliações sugerirem que as capacidades cibernéticas do modelo poderiam ter atingido um nível crítico. A preocupação reside no fato de que um agente avançado poderia potencialmente descobrir e explorar vulnerabilidades com pouca ou nenhuma intervenção humana. Em resposta, a OpenAI está reforçando os testes isolados, os controles de acesso, a criptografia, o monitoramento e as proteções em torno dos pesos do modelo.
Como o Alibaba Qwen funcionará com os Macs da Apple na China?
Usuários de Mac elegíveis na China continental podem conectar o serviço Qwen da Alibaba à Siri e às Ferramentas de Escrita da Apple. A integração permite respostas mais detalhadas, análise de documentos e imagens, e geração de texto ou imagens a partir de descrições. Para a Apple, o acordo oferece uma maneira localmente compatível de acessar funcionalidades de IA mais robustas, enquanto a Alibaba obtém acesso mais profundo ao ecossistema da Apple. A Apple afirma que o material enviado não pode ser usado para treinar os modelos da Alibaba.
O que a mudança na liderança da DeepMind significa para a IA do Google?
Demis Hassabis está se afastando da liderança diária da DeepMind para assumir a presidência e o cargo de cientista-chefe na Alphabet. Koray Kavukcuoglu assumirá o controle operacional como vice-presidente sênior. A mudança levantou questionamentos sobre se a DeepMind está se integrando mais estreitamente às operações comerciais de IA do Google, embora o Google conteste as sugestões de que a reestruturação esteja ligada ao desempenho competitivo do Gemini.
Por que os deepfakes criados por IA estão se tornando uma preocupação crescente em relação à segurança infantil?
Ferramentas de manipulação de imagens com inteligência artificial podem facilitar a criação em larga escala de imagens falsas e explícitas realistas. Crianças no Reino Unido têm relatado cada vez mais imagens manipuladas ou fabricadas de si mesmas, e alguns casos são graves o suficiente para serem considerados material de abuso sexual infantil. Essas imagens também podem ser usadas para extorsão sexual, o que significa que uma imagem fabricada ainda pode causar danos substanciais à reputação, ao bem-estar emocional e às finanças.
Será que empresas e trabalhadores já estão se beneficiando da IA?
As últimas notícias sobre IA sugerem que a resposta é complexa. Muitas empresas de software estão adicionando recursos de IA mais rapidamente do que os clientes os adotam, com a integração, a privacidade, a segurança e o valor comercial mensurável permanecendo como grandes obstáculos. Os dados sobre emprego são igualmente complexos: algumas empresas com alta adoção de IA estão expandindo as contratações, enquanto outras pesquisas apontam para a pressão sobre os trabalhadores mais jovens em funções expostas à IA. O impacto geral depende muito do setor, do fluxo de trabalho e de como a IA é implementada.