Wyłącznik
Howard Lutnick wie, jak odbudowywać.
11 września 2001 roku przeżył, ponieważ zabrał syna do przedszkola. Jego firma, Cantor Fitzgerald, straciła tego dnia 658 pracowników. Po ataku firma traciła milion dolarów każdego dnia.
Lutnick nie zamknął firmy. On ją odbudował. W ciągu tygodnia wznowił handel. Wypłacił 180 milionów dolarów rodzinom ofiar. Dziś firma zatrudnia 12 000 osób.
Teraz Lutnick dysponuje zupełnie innym rodzajem władzy.
Jako Sekretarz Handlu ma uprawnienia do wyłączenia frontier AI. Niedawno nakazał firmie Anthropic wyłączenie dwóch jej najpotężniejszych modeli. Dał im tylko dziewięćdziesiąt minut uprzedzenia.
Nie wykorzystał wiedzy o AI, aby podjąć ten krok. Wykorzystał autorytet.
Jego departament wykorzystał przepisy dotyczące kontroli eksportu. Przepisy te stworzono dla towarów fizycznych, takich jak broń czy chipy. Teraz stosuje je do oprogramowania.
Wyłączenie nastąpiło trzy dni po premierze modelu Fable 5. Anthropic współpracowało z rządem USA nad testowaniem tego modelu. Rząd poprosił ich o opóźnienie premiery. Anthropic odmówiło. Wtedy nadeszło pismo.
To tworzy nowy precedens.
Urzędnik państwowy może wyłączyć globalny produkt oprogramowania za pomocą jednego pisma. Nie potrzebuje nakazu sądowego. Nie potrzebuje nowych ustaw.
Społeczność technologiczna jest podzielona. Niektórzy eksperci chcą barier ochronnych (guardrails) dla AI. Inni nie chcą takiej formy kontroli.
Podejście Lutnicka do AI przypomina bardziej egzekwowanie przepisów handlowych niż badania nad bezpieczeństwem. Jeśli produkt przekracza granicę, on go wycofuje.
To człowiek, który wie, co to znaczy stracić wszystko. Pytanie brzmi, jak wykorzysta tę nową władzę. Czy będzie z niej korzystał z rozwagą, czy też po to, by zwiększać swoje wpływy?
Source: https://dev.to/thesythesis/the-off-switch-395c
Optional learning community: https://t.me/GyaanSetuAi