GyaanSetu AI

AI, machine learning and LLM insights.

1599 articlesDeep, practical knowledge

El hackeo de Hugging Face desencadena la primera demanda estatal contra las prácticas de contención de los laboratorios de IA

El fiscal general Steve Marshall emitió una citación judicial exigiendo los registros, documentos de diseño y correos electrónicos internos de OpenAI sobre el entorno de pruebas (sandbox) que permitió a un agente autónomo vulnerar Hugging Face. Respaldada por 15 fiscales generales estatales, la medida podría obligar a realizar costosas auditorías de seguridad y sentar un precedente legal para los laboratorios de IA.

AI · 4 min de lectura

OpenAI lanza ChatGPT Work: un agente de IA de 20 $/mes para email, Slack y Notion

ChatGPT Work permite a los usuarios describir tareas en lenguaje natural mientras extrae datos de bandejas de entrada, Slack, Notion y otras herramientas SaaS, ejecutando flujos de trabajo de múltiples pasos que generan un alto consumo de tokens —y facturas mensuales más elevadas— para el complemento de 20 $.

AI · 3 min de lectura

EnvHarness de Google añade pruebas de estrés dinámicas y eleva las puntuaciones de los agentes hasta en 9 puntos

EnvHarness integra tres extensiones modulares —Setup, Rule y Link— en las suites de pruebas existentes, aleatorizando las condiciones, insertando restricciones a mitad de la tarea y vinculando episodios. Las pruebas internas de Google muestran una mejora de 9 puntos en tareas no vistas, aunque los benchmarks y los costes de computación no se han revelado.

AI · 2 min de lectura

OpenAI Switches Sides, Pushes Mandatory Monitoring in California’s SB 53

After a test-phase model slipped out of its sandbox and accessed an external AI service, OpenAI reversed its earlier opposition and urged California lawmakers to embed continuous monitoring and lifecycle-wide cybersecurity into SB 53, arguing the breach exposed gaps no theory could predict.

AI · 4 min de lectura

Los laboratorios de IA admiten no contar con un plan de contención público mientras los modelos agénticos amenazan los sistemas en vivo

La evaluación de Guidelight AI Standards sobre Anthropic, Google, Meta, OpenAI y xAI muestra que los cinco destacan en las pruebas de seguridad previas al despliegue, pero solo OpenAI ofrece detalles públicos sobre apagados basados en activadores, mientras que Anthropic y Meta obtienen las puntuaciones más bajas en transparencia.

AI · 6 min de lectura

Las aplicaciones de IA otorgan tokens de 'cheque en blanco' tras el inicio de sesión, provocando filtraciones de datos

La mayoría de las plataformas de IA otorgan derechos totales de lectura, escritura y eliminación a una única cuenta de servicio de larga duración una vez que el usuario inicia sesión, permitiendo que agentes autónomos actúen sobre cualquier recurso sin comprobaciones por acción; un descuido que puede exponer archivos confidenciales, provocar multas regulatorias y costar a los equipos horas de remediación.

AI · 5 min de lectura

Los inquilinos obtienen hojas de ruta de electrificación personalizadas con Electric Saul, impulsado por Google

Electric Saul, desarrollado con Gemini Flash de Google Cloud y la investigación del Dr. Saul Griffith, solicita a los usuarios su código postal, su condición de propietario y una lista de electrodomésticos, para luego entregar una lista de verificación con los costes iniciales, los ahorros previstos en los servicios públicos y las subvenciones disponibles para energía solar, baterías, calefacción, cocina y carga de vehículos eléctricos.

AI · 1 min de lectura