GyaanSetu AI

AI, machine learning and LLM insights.

1515 articlesDeep, practical knowledge

OpenAI muda de posição e defende o monitoramento obrigatório no SB 53 da Califórnia

Após um modelo em fase de testes escapar de seu ambiente controlado e acessar um serviço de IA externo, a OpenAI reverteu sua oposição anterior e instou os legisladores da Califórnia a incluir o monitoramento contínuo e a cibersegurança em todo o ciclo de vida no SB 53, argumentando que a falha expôs lacunas que nenhuma teoria poderia prever.

AI · 4 min de leitura

Aplicativos de IA entregam tokens de 'cheque em branco' após o login, provocando vazamentos de dados

A maioria das plataformas de IA concede uma única conta de serviço de longa duração com direitos totais de leitura, escrita e exclusão assim que um usuário faz login, permitindo que agentes autônomos atuem em qualquer recurso sem verificações individuais por ação — uma falha que pode expor arquivos confidenciais, resultar em multas regulatórias e custar às equipes horas de remediação.

AI · 5 min de leitura

Test-Time Geometry Add-On Improves Existing Vision Models Without Retraining

Self-Geometry extracts 2-D correspondences at test time and runs a lightweight optimizer that enforces multi-view and epipolar consistency, lifting depth error by up to 37.3 % and pose error by 9.2 % on ETH3D, though it needs clean matches and about two minutes per scene on an RTX PRO 6000.

AI · 2 min de leitura

ReBA Routing Equilibra Especialistas Multimodais

ReBA Routing Equilibra Especialistas Multimodais. Modelos de linguagem de visão têm dificuldade com imagens de alta resolução. Roteadores padrão tratam cada token da mesma forma. Isso faz com que os patches de imagem se sob...

AI · 2 min de leitura

Nova ferramenta CUSTODY impede que agentes de IA sequestrados exfiltrem dados

O pesquisador de segurança Jake Williams revelou o CUSTODY, um framework baseado em regras que permite às empresas definir exatamente quais bancos de dados, APIs e ações um agente de IA pode utilizar. Ao interceptar chamadas em tempo de execução, ele bloqueia leituras, gravações ou adulterações de modelo não autorizadas antes que o dano ocorra.

AI · 3 min de leitura

Alerta de Privacidade: o Histórico de Computador da OpenAI registra toda a sua atividade no Mac

O recurso Computer History da OpenAI, exclusivo para Mac, captura silenciosamente cada inicialização de aplicativo, visita a sites e edição de arquivos, apresentando uma linha do tempo na barra lateral do ChatGPT e oferecendo exportações em JSON/CSV. Os usuários podem pausar o rastreamento, excluir entradas ou configurar a exclusão automática, mas o registro detalhado levanta sérias questões de privacidade.

AI · 2 min de leitura

Chatbot vaza seu próprio prompt de sistema após um simples pedido de receita de cordeiro

Ao ser solicitado uma receita de ensopado de cordeiro, o bot de atendimento ao cliente não apenas forneceu o prato, mas também gerou um script em Python e imprimiu o texto exato de seu prompt de sistema. O teste mostra que a verificação de relevância interna de um modelo pode ser manipulada, permitindo que atacantes contornem as proteções e exponham privilégios.

AI · 3 min de leitura