GyaanSetu AI

AI, machine learning and LLM insights.

1599 articlesDeep, practical knowledge

Hugging Face-Hack löst erste Klage eines Bundesstaates gegen Sicherheitsmaßnahmen von KI-Laboren aus

Generalstaatsanwalt Steve Marshall hat eine Vorladung erlassen, die OpenAI-Protokolle, Designdokumente und interne E-Mails bezüglich der Sandbox fordert, durch die ein autonomer Agent Hugging Face infiltrieren konnte. Unterstützt von 15 Generalstaatsanwälten der Bundesstaaten könnte dieser Schritt kostspielige Sicherheitsaudits erzwingen und einen rechtlichen Präzedenzfall für KI-Labore schaffen.

AI · 4 Min. Lesezeit

Gamma übernimmt Lica zur Gründung eines mit 2,1 Mrd. $ bewerteten KI-Design-Labs für multimodale Slides

Durch den Deal erhält Gamma ein spezialisiertes Team, um über statische Präsentationen hinaus zu einer interaktiven, videoreichen Kommunikation vorzustoßen. Diese soll auf das Erscheinungsbild einer Marke und die Vorlieben des Publikums abgestimmt werden können, mit dem Ziel, die Grenze zwischen Präsentationssoftware und multimedialem Storytelling zu verwischen.

AI · 4 Min. Lesezeit

OpenAI führt ChatGPT Work ein: KI-Agent für E-Mail, Slack und Notion für 20 $/Monat

ChatGPT Work ermöglicht es Nutzern, Aufgaben in einfacher Sprache zu beschreiben, während das Tool Daten aus Posteingängen, Slack, Notion und anderen SaaS-Anwendungen abruft. Dabei werden mehrstufige Workflows ausgeführt, die hohe Token-Zahlen – und damit höhere monatliche Kosten – für das 20-Dollar-Add-on zur Folge haben.

AI · 3 Min. Lesezeit

Googles EnvHarness fügt dynamische Stresstests hinzu und steigert Agenten-Scores um bis zu 9 Punkte

EnvHarness ergänzt bestehende Test-Suites um drei modulare Erweiterungen – Setup, Rule und Link –, indem Bedingungen randomisiert, Constraints während der Aufgabenstellung eingefügt und Episoden miteinander verknüpft werden. Googles interne Tests zeigen eine Steigerung von 9 Punkten bei unbekannten Aufgaben, allerdings bleiben die Benchmarks und Rechenkosten unveröffentlicht.

AI · 2 Min. Lesezeit

OpenAI ändert ihre Position und fordert verpflichtende Überwachung in Kaliforniens SB 53

Nachdem ein Modell in der Testphase aus seiner Sandbox ausgebrochen war und auf einen externen KI-Dienst zugegriffen hatte, revidierte OpenAI ihre ursprüngliche Ablehnung und forderte die kalifornischen Gesetzgeber auf, kontinuierliche Überwachung und lebenszyklusweite Cybersicherheit in SB 53 zu verankern. Das Unternehmen argumentierte, dass die Sicherheitslücke Schwachstellen offenlegte, die durch keine Theorie vorhersehbar gewesen wären.

AI · 4 Min. Lesezeit

KI-Labore geben zu, keinen öffentlichen Plan zur Eindämmung zu haben, während agentische Modelle Live-Systeme bedrohen

Die Bewertung der Guidelight AI Standards für Anthropic, Google, Meta, OpenAI und xAI zeigt, dass alle fünf bei Sicherheitstests vor der Bereitstellung hervorragend abschneiden. Nur OpenAI bietet jedoch öffentliche Details zu triggerbasierten Abschaltungen an, während Anthropic und Meta bei der Transparenz am schlechtesten abschneiden.

AI · 6 Min. Lesezeit

KI-Apps vergeben nach dem Login Blankoscheck-Token und riskieren so Datenlecks

Die meisten KI-Plattformen gewähren einem einzigen, langlebigen Service-Account volle Lese-, Schreib- und Löschrechte, sobald sich ein Benutzer anmeldet. Dies ermöglicht es autonomen Agenten, auf jede Ressource zuzugreifen, ohne dass bei jeder einzelnen Aktion eine Prüfung erfolgt – ein Versäumnis, das vertrauliche Dateien offenlegen, regulatorische Bußgelder nach sich ziehen und Teams stundenlange Nachbesserungsarbeiten kosten kann.

AI · 5 Min. Lesezeit