오프 스위치
하워드 러트닉(Howard Lutnick)은 재건하는 법을 압니다.
2001년 9월 11일, 그는 아들을 유치원에 데려다주었기에 살아남았습니다. 그의 회사인 Cantor Fitzgerald는 그날 658명의 직원을 잃었습니다. 테러 이후 회사는 매일 100만 달러의 손실을 입었습니다.
러트닉은 회사를 폐업하지 않았습니다. 그는 회사를 재건했습니다. 일주일 만에 거래를 재개했습니다. 그는 희생자 가족들에게 1억 8천만 달러를 지급했습니다. 오늘날 이 회사는 12,000명을 고용하고 있습니다.
이제 러트닉은 다른 종류의 권력을 쥐고 있습니다.
상무장관으로서 그는 프런티어 AI(frontier AI)를 중단시킬 권한을 가지고 있습니다. 그는 최근 Anthropic에 가장 강력한 모델 두 개를 꺼둘 것을 명령했습니다. 그는 단 90분의 통보 시간만을 주었습니다.
그는 이 조치를 취하기 위해 AI 전문 지식을 사용하지 않았습니다. 그는 권한을 사용했습니다.
그의 부처는 수출 통제 규정을 사용했습니다. 이 규정들은 무기나 칩과 같은 물리적 제품을 위해 만들어진 것입니다. 이제 그는 이를 소프트웨어에 적용하고 있습니다.
중단 조치는 Fable 5 모델이 출시된 지 3일 만에 일어났습니다. Anthropic은 모델 테스트를 위해 미국 정부와 협력해 왔습니다. 정부는 출시를 연기해 달라고 요청했습니다. Anthropic은 거절했습니다. 그러자 통지서가 도착했습니다.
이는 새로운 선례를 만듭니다.
정부 관료가 단 한 통의 서신으로 글로벌 소프트웨어 제품을 중단시킬 수 있게 된 것입니다. 법원의 명령도, 새로운 법률도 필요하지 않습니다.
기술 커뮤니티는 의견이 갈리고 있습니다. 일부 전문가들은 AI 가드레일(guardrails)을 원하지만, 다른 이들은 이러한 방식의 통제를 원치 않습니다.
AI에 대한 러트닉의 접근 방식은 안전 연구보다는 무역 집행에 더 가까워 보입니다. 제품이 선을 넘으면, 그는 이를 철수시킵니다.
그는 모든 것을 잃는다는 것이 어떤 기분인지 아는 사람입니다. 문제는 그가 이 새로운 권력을 어떻게 사용할 것인가 하는 점입니다. 신중하게 사용할 것인가, 아니면 자신의 영향력을 확대하는 데 사용할 것인가?
Source: https://dev.to/thesythesis/the-off-switch-395c
Optional learning community: https://t.me/GyaanSetuAi