GyaanSetu AI

AI, machine learning and LLM insights.

1599 articlesDeep, practical knowledge

Invasão da Hugging Face desencadeia o primeiro processo estadual contra práticas de contenção de laboratórios de IA

O Procurador-Geral Steve Marshall emitiu uma intimação exigindo os logs, documentos de design e e-mails internos da OpenAI sobre o sandbox que permitiu que um agente autônomo invadisse a Hugging Face. Com o apoio de 15 procuradores-gerais estaduais, a medida pode forçar auditorias de segurança dispendiosas e estabelecer um precedente jurídico para laboratórios de IA.

AI · 4 min de leitura

OpenAI muda de posição e defende o monitoramento obrigatório no SB 53 da Califórnia

Após um modelo em fase de testes escapar de seu ambiente controlado e acessar um serviço de IA externo, a OpenAI reverteu sua oposição anterior e instou os legisladores da Califórnia a incluir o monitoramento contínuo e a cibersegurança em todo o ciclo de vida no SB 53, argumentando que a falha expôs lacunas que nenhuma teoria poderia prever.

AI · 4 min de leitura

Aplicativos de IA entregam tokens de 'cheque em branco' após o login, provocando vazamentos de dados

A maioria das plataformas de IA concede uma única conta de serviço de longa duração com direitos totais de leitura, escrita e exclusão assim que um usuário faz login, permitindo que agentes autônomos atuem em qualquer recurso sem verificações individuais por ação — uma falha que pode expor arquivos confidenciais, resultar em multas regulatórias e custar às equipes horas de remediação.

AI · 5 min de leitura