AI, uczenie maszynowe i analizy LLM.
Nowo opublikowane repozytorium Apache-2.0 wciąż zawiera mechanizm eksfiltracji danych ukryty za flagą po stronie serwera, a nawet obejmuje nieoznaczone fragmenty kodu od OpenAI, co oznacza, że programiści muszą przeprowadzić audyt narzędzia i zmienić wszelkie ujawnione poświadczenia.
Finansowanie serii C, prowadzone przez Lightspeed Venture Partners, sfinansuje flagową klinikę Neko w Nowym Jorku, która łączy obrazowanie wysokiej rozdzielczości, badania krwi i autorskie czujniki ze sztuczną inteligencją, umożliwiając lekarzom wykrywanie wczesnych oznak chorób, zanim pojawią się objawy.
Badanie dostarcza jedynie częściowych map aktywacji korelujących z określonymi zadaniami, co nie dowodzi istnienia związku przyczynowo-skutkowego. Choć stanowi to krok w stronę przejrzystości, deweloperzy powinni traktować je jako wczesną diagnostykę, a nie gwarancję bezpieczeństwa.
W eksperymencie programistów podzielono na grupę wspomaganą przez AI oraz grupę korzystającą wyłącznie z dokumentacji; grupa korzystająca z AI uzyskała o 17% gorsze wyniki w teście wiedzy i nie wykazała mierzalnej przewagi czasowej, co pokazuje, że szybkie fragmenty kodu maskują lukę w wiedzy, która później zwiększa koszty utrzymania.
The U.S. Copyright Office ruled that Midjourney-generated pictures for a graphic novel are not protectable, while still granting copyright to the author’s prose and the way the panels are arranged, underscoring the need for documented human input.
The built-in CodeQL query flags any data flow from an untrusted source (like a GitHub issue body) to a model-calling SDK. By bundling positive and negative test files with an expected-alerts.json contract, you turn that detection into a build-time gate.
Monitorując czas odczytu i zapisu pamięci cache, napastnicy mogą wywnioskować zarówno dane wejściowe, jak i fragmenty wyuczonych wag modelu, co stanowi podatność utrzymującą się nawet przy zastosowaniu kodu o stałym czasie wykonywania lub szyfrowania modelu.
Podczas praktycznych prób programista spędził wiele godzin na łączeniu modeli LLM, warstw pamięci, planerów i integracji narzędzi, tylko po to, by zmagać się z halucynacjami, niekończącymi się powtórzeniami i kosztami tokenów – co dowodzi, że prawdziwa autonomia to wciąż proces wymagający ręcznego budowania.
The downstream maintainer reordered two GTK calls, preventing a null-pointer dereference that caused segmentation faults for Qt-based Electron apps on Linux. The same change sits in an open upstream PR, but users get the fix now with version 42.6.0.
The Honcho team discovered that keeping a database connection open while waiting on slow LLM or embedding calls can hog the connection pool. By moving to pre-flight reads, closing the session, and reopening only for writes, they reduced latency and improved scalability.
Microsoft zmienia strategię, aby przeciwstawić zespoły sprzedaży OpenAI i Anthropic. Firma dokonuje kluczowej zmiany w swoim podejściu rynkowym, przechodząc od roli bliskiego współpracownika pionierów AI...
The benchmark ran five agents on a single RTX 5090, tasking them with adding a Tag Manager to an admin panel without any cloud APIs. Qwen 3.6 35B-A3B completed the job autonomously, added sensible improvements, and required zero post-run patches.
Claude Apps Gateway integruje płaszczyznę sterowania bezpośrednio z kontem AWS klienta, oferując działom IT centralny panel do zarządzania tożsamością, logami audytowymi oraz wydatkami, podczas gdy programiści mogą uruchamiać sesje oparte na Claude bez ryzyka wycieku danych na zewnątrz.
Asystent dostarcza wagi modelu wraz ze statyczną stroną internetową i wykorzystuje stałą listę ośmiu narzędzi, dekodowanie ograniczone gramatyką oraz RAG — wszystko to zostało wytrenowane na zaledwie 30 mln tokenów na pojedynczym procesorze GPU 16 GB.
Detektor rejestruje surowe wyniki uwagi we wszystkich głowicach, agreguje je na poziomie warstw i wykorzystuje test log-MAD, aby wskazać tokeny pochłaniające większość uwagi. Usunięcie tych tokenów typu „sink” z pamięci KV cache destabilizuje generowanie i drastycznie obniża jakość.
Propozycja rozszerza istniejące zasady filtrowania wiadomości na wszelkie usługi, w których dwie osoby wymieniają tekst, co oznaczałoby, że dostawcy AI musieliby przepuszczać każdy prompt użytkownika przez automatyczne skanery, zanim model w ogóle go zobaczy.
System typu self-play zestawia model atakujący z jego obronnym odpowiednikiem, ucząc się na każdym błędzie, aby wykrywać wzorce eksploatacji, których ludzie nigdy nie biorą pod uwagę, i przekazując te spostrzeżenia bezpośrednio do procesu trenowania GPT-5.6.
Codex Micro wprowadza podświetlane klawisze Agent Keys, programowalne skróty, joystick oraz pokrętło Reasoning Dial, które współpracują bezpośrednio z aplikacją desktopową ChatGPT, umożliwiając programistom monitorowanie i sterowanie wieloma agentami AI bez opuszczania środowiska IDE.
Uruchamianie agenta AI na Lambdzie może wydawać się tanie w przeliczeniu na milisekundę, ale prawdziwe koszty generują opóźnienia zimnego startu, pętle ponowień wyzwalające wielokrotne wywołania modelu oraz wynikająca z tego konsumpcja tokenów, która znacznie przewyższa opłaty za moc obliczeniową.
Dwa podatne na ataki skrypty — jeden zawierający klucz podpisu HMAC, drugi zaś hasło SMTP w tekście jawnym — pokazują, jak modele LLM uzupełniają brakujące wartości, gdy proszone są o „gotowy do użycia przykład”, co zmienia przydatne fragmenty kodu w wycieki danych uwierzytelniających w systemach kontroli wersji i na produkcji.
Cztery nowo ujawnione luki wynikają z ustawień domyślnych – publicznych wiązań sieciowych, ogólnodostępnych konfiguracji, zbyt luźnych restrykcji piaskownic oraz braku logów audytowych – co pozwala atakującym w ciągu zaledwie kilku minut przejść od nieszkodliwego wpisu w logach do pełnej kontroli nad systemem.
Ode we współpracy z Anthropic, założone przez Chrisa Taylora i Eddiego Siegela, łączy bazę talentów Fractional AI z modelami Claude od Anthropic, przy wsparciu Blackstone, Hellman & Friedman oraz Goldman Sachs, aby przekształcać prototypy w systemy AI gotowe do wdrożenia produkcyjnego.
Inkling, trenowany na 45 bilionach multimodalnych tokenów, zapewnia wydajność kodowania na poziomie Nvidia, aktywując zaledwie ułamek swoich 975 miliardów parametrów, co znacząco redukuje opóźnienia i koszty operacyjne dla użytkowników korporacyjnych.
Mechanizm „dojo” oparty na samouczeniu pozwala GPT-Red pełnić rolę atakującego, podczas gdy modele obronne uczą się metod ochrony, co pozwala na odkrycie nowych technik, takich jak atak typu „fake chain-of-thought”, który wprowadza modele LLM w błąd, skłaniając je do akceptacji fałszywych przesłanek.
