Anthropic wprowadziło znaczącą aktualizację swojego modelu Fable 5, drastycznie zmniejszając liczbę nieszkodliwych zapytań biologicznych blokowanych przez warstwy bezpieczeństwa. Ta strategiczna korekta ma na celu przywrócenie użyteczności dla rzetelnych badań naukowych przy jednoczesnym zachowaniu ścisłych zabezpieczeń przed wysokim ryzykiem zagrożeń biologicznych.

Zmniejszenie barier w badaniach naukowych

W odpowiedzi na krytykę ze strony społeczności naukowej, Anthropic skutecznie zredukowało liczbę wyników fałszywie dodatnich (false positives) w filtrach bezpieczeństwa biologicznego dla modelu Fable 5 o około 85 procent. Wcześniej klasyfikator bezpieczeństwa modelu był zbyt agresywny, często blokując zasadne zapytania naukowe i przekierowując użytkowników do mniej zaawansowanego modelu Opus 5.

Ta aktualizacja pozwala badaczom i profesjonalistom medycznym w pełni wykorzystać zdolności rozumowania Fable 5 w szerokim zakresie nieszkodliwych zadań. Użytkownicy mogą teraz wykonywać złożone operacje, takie jak interpretacja wyników laboratoryjnych, analiza objawów klinicznych i odpowiadanie na wyrafinowane pytania medyczne, nie napotykając „ściany bezpieczeństwa”, która wcześniej utrudniała pracę.

Utrzymanie barier ochronnych w zakresie ryzyk podwójnego zastosowania

Mimo złagodzenia ogólnych ograniczeń biologicznych, Anthropic utrzymuje twardą linię w kwestii badań o „podwójnym zastosowaniu” (dual-use) – czyli informacji, które mogłyby zostać wykorzystane do wyrządzenia szkody. Firma nie zniosła ograniczeń dotyczących wysoce wrażliwych tematów, w tym wirusologii, toksykologii i zaawansowanego projektowania molekularnego.

Argumentacja Anthropic opiera się na unikalnej naturze zagrożeń biologicznych. W przeciwieństwie do cyberataku, który można zneutralizować za pomocą poprawek i wyłączenia systemów, uwolnionego czynnika biologicznego niemal niemożliwe jest „wyłączenie”, gdy zacznie się rozprzestrzeniać. Firma wymieniła kilka kluczowych obaw motywujących tę ostrożność, w tym:

  • Analizy amerykańskich agencji wywiadowczych dotyczące ryzyk biologicznych.
  • Badania wykazujące, że AI może być wykorzystywane do projektowania w pełni syntetycznych wirusów.
  • Dokumentowane próby użytkowników uzyskania instrukcji dotyczących tworzenia broni biologicznej od istniejących modeli LLM.

Równoważenie bezpieczeństwa ze specjalistycznym dostępem

Wyzwaniem dla laboratoriów AI jest nawigowanie między napięciem między otwartym postępem naukowym a zapobieganiem katastrofalnemu nadużyciu. Anthropic próbuje rozwiązać ten problem poprzez tworzenie specjalistycznych programów dostępu. Programy te są zaprojektowane tak, aby umożliwić zweryfikowanym badaczom dostęp do ograniczonych funkcji – takich jak te dotyczące wirusologii lub modelowania molekularnego – w kontrolowanym i audytowanym środowisku.

Rozróżniając nieszkodliwe zapytania medyczne od niebezpiecznych badań o podwójnym zastosowaniu, Anthropic próbuje wyznaczyć precedens dla tego, jak modele typu frontier radzą sobie z „biologiczną granicą”, zapewniając, że narzędzia nowoczesnej medycyny nie staną się nieumyślnie narzędziami bioterroryzmu.

Kluczowe wnioski

  • 85% redukcja wyników fałszywie dodatnich: Anthropic znacząco obniżyło barierę dla zasadnych zapytań biologicznych, odciągając użytkowników od mniej zaawansowanego modelu Opus 5.
  • Sztywne bariery w obszarach wysokiego ryzyka: Surowe ograniczenia pozostają w mocy w zakresie wirusologii, toksykologii i projektowania molekularnego, aby zapobiec tworzeniu broni biologicznej.
  • Kontrolowany dostęp dla badaczy: Anthropic buduje specjalne programy dostępu, aby zapewnić zweryfikowanym naukowcom ograniczone możliwości, których potrzebują do rzetelnych badań.

Anthropic zredukowało liczbę blokad wynikających z błędnych wyników fałszywie dodatnich w nieszkodliwych zapytaniach biologicznych w swoim modelu Fable 5 o około 85 procent, przywracając badaczom dostęp do pełnych możliwości rozumowania modelu. Zmiana ta zachowuje ścisłe zabezpieczenia w tematach biologicznych podwójnego zastosowania, uniemożliwiając modelowi udzielanie instrukcji, które mogłyby umożliwić tworzenie broni biologicznej.

Dlaczego ta aktualizacja jest ważna

Warstwa bezpieczeństwa Fable 5 została pierwotnie skalibrowana tak, aby stawiać na ostrożność, flagując szeroki wachlarz zasadnych pytań naukowych jako wysokiego ryzyka. Użytkownicy proszący o rutynową interpretację wyników badań laboratoryjnych lub analizę objawów klinicznych byli regularnie przekierowywani do mniej zaawansowanego modelu Opus 5. Nadmierne blokowanie wywołało krytykę ze strony społeczności naukowej, która argumentowała, że te utrudnienia hamują rzetelne badania i spowalniają podejmowanie decyzji medycznych. Poprzez drastyczne obniżenie współczynnika wyników fałszywie dodatnich o około cztery piąte, Anthropic dąży do przywrócenia zaawansowanych zdolności rozumowania modelu w ręce lekarzy, biologów i innych profesjonalistów, którzy potrzebują ich do codziennych zadań.

W jaki sposób zmieniono filtry

Poprawa wynika z dostrojonego klasyfikatora, który rozróżnia zwykłe zapytania biomedyczne od tych dotyczących badań o „podwójnym zastosowaniu” – informacji, które mogłyby zostać wykorzystane do wyrządzenia szkody. Nowy klasyfikator nadal przechwytuje zapytania dotyczące wirusologii, toksykologii i zaawansowanego projektowania molekularnego, ale przepuszcza pytania o standardową diagnostykę, triaż objawów oraz interpretację danych.

Inżynierowie Anthropic zauważyli, że zagrożenia biologiczne różnią się od zagrożeń cybernetycznych: raz uwolnionego patogenu nie można „załatać” ani wyłączyć. Ta rzeczywistość skłoniła do podjęcia decyzji o utrzymaniu surowych zasad w obszarach wysokiego ryzyka przy jednoczesnym poluzowaniu ograniczeń wokół rutynowych zapytań medycznych.

Co pozostaje niedozwolone

Model nadal odmawia realizacji próśb, które mogłyby ułatwić tworzenie szkodliwych czynników. W szczególności wszelkich promptów poszukujących:

  • szczegółowych protokołów wirusologicznych, które mogłyby wspomóc syntezę wirusów,
  • ścieżek toksykologicznych dla chemikaliów, które można wykorzystać jako broń, lub
  • instrukcji inżynierii molekularnej krok po kroku.

Anthropic powołało się na trzy źródła swojej ostrożności: analizy amerykańskich agencji wywiadowczych podkreślające ryzyko biologiczne, badania wykazujące, że AI może projektować w pełni syntetyczne wirusy oraz udokumentowane próby użytkowników uzyskania instrukcji dotyczących broni biologicznej od istniejących modeli językowych.