オフ・スイッチ
ハワード・ラトニックは、再建の術を知っている。
2001年9月11日、彼は息子を幼稚園に送っていたために、命拾いをした。彼の経営するカンター・フィッツジェラルド社は、その日658人の従業員を失った。テロ攻撃後、同社は毎日100万ドルの損失を出した。
ラトニックは会社を畳まなかった。彼は再建したのだ。わずか1週間で取引を再開させた。犠牲者の家族には1億8000万ドルを支払った。今日、同社には1万2000人が雇用されている。
現在、ラトニックはまた別の種類の権力を握っている。
商務長官として、彼はフロンティアAIを停止させる権限を持っている。最近、彼はAnthropicに対し、最も強力な2つのモデルを停止するよう命じた。彼らに与えられた猶予は、わずか90分だった。
彼はこの動きにAIの専門知識を用いたのではない。権力を用いたのだ。
彼の省は輸出管理規則を利用した。これらの規則は、武器やチップのような物理的な物品のために作られたものだ。今、彼はそれをソフトウェアに適用している。
停止は、Fable 5モデルがリリースされた3日後に発生した。Anthropicはモデルのテストにおいて米国政府と協力していた。政府はリリースを遅らせるよう求めたが、Anthropicは拒否した。その直後、通知が届いたのだ。
これは新たな前例を作る。
政府高官が、一通の手紙だけで世界的なソフトウェア製品を停止させることができる。裁判所の命令も、新しい法律も必要ない。
テックコミュニティは二分されている。AIのガードレールを求める専門家もいれば、このような統制を望まない者もいる。
ラトニックのAIに対するアプローチは、安全性の研究というよりも、貿易執行に近い。製品が境界線を越えれば、彼はそれを停止させる。
彼は、すべてを失うことがどのような感覚かを理解している男だ。問題は、彼がこの新しい権力をどのように使うかである。慎重に使うのか、それとも自らの影響力を拡大するために使うのか。
出典: https://dev.to/thesythesis/the-off-switch-395c
オプションの学習コミュニティ: https://t.me/GyaanSetuAi