Mkuu wa maadili wa OpenAI aliondoka baada ya kipindi kifupi cha mwaka mmoja, hatua iliyoripotiwa na Financial Times ambayo imechochea tena mashaka kuhusu ukaguzi wa usalama wa ndani wa maabara hiyo. Kuondoka huku kuna umuhimu kwa sababu nafasi hiyo inapaswa kufanya kazi kama kizuizi cha ndani cha kampuni dhidi ya utumiaji wa teknolojia zenye hatari, na pengo la ghafla la nafasi hiyo linaashiria kuwa kizuizi hicho kinaweza kuwa hakipo.

Mtindo wa kuondoka

Kujiuzulu huku si tukio la pekee. Katika miaka miwili iliyopita, OpenAI imeona mfululizo wa wafanyakazi wanaozingatia usalama wakiondoka. Mnamo 2024, wanachama kadhaa wa timu ya Superalignment waliondoka. Hapo awali, wajumbe wa bodi waliondolewa wakati wa msukosuko wa utawala mnamo 2023. Maudhui yanayojirudia ni yale yale: watafiti wanajiunga ili kulinda teknolojia, wanakutana na vikwazo, na kisha wanaondoka.

Kazi iliyokusudiwa ya nafasi hiyo

Mkuu wa maadili anasimamia maamuzi ya usambazaji, taratibu za kushughulikia data, na ukaguzi wa ndani wa uwezo unaoweza kuwa na madhara. Mtu anayeshikilia nafasi hiyo anapoondoka haraka, inazua swali la ikiwa mamlaka hiyo ilikuwepo kabisa.

Sababu zinazoweza kusababisha mabadiliko ya wafanyakazi

  • Uwezo mdogo wa kuzuia usambazaji – Ikiwa nafasi hiyo haiwezi kulazimisha timu ya bidhaa kusitisha uzinduzi, nafasi hiyo inakuwa ya ishara tu badala ya kuwa ya kiutendaji.
  • Shinikizo la kutoa bidhaa haraka kuliko usalama – Ushindani na majitu mengine ya AI unaunda mazingira ambapo utoaji wa vipengele vipya kwa haraka unathaminiwa, mara nyingi kwa gharama ya tathmini ya kina ya hatari.
  • Vipaumbele vya kibiashara kuifunika kazi ya usalama – Uongozi unaweza kupendelea miradi inayozalisha mapato, na kuacha timu za usalama zikiwa na wafanyakazi wachache na mzigo mkubwa wa kazi.
  • Kuchoka kutokana na migongano ya mara kwa mara – Migongano ya mara kwa mara kati ya watetezi wa usalama na wahandisi wa bidhaa inaweza kuwachosha hata watafiti waliojitolea zaidi.

Mambo haya yanaashiria mvutano mpana katika sekta hii: maabara zinawazawadia wale wanaozindua uwezo mpya, wakati wale wanaotoa tahadhari za hatari wakati mwingine huonekana kama vikwazo.

Upande mwingine: kinga za ndani zinaweza bado kuwepo

OpenAI haijafafanua hadharani mamlaka ya mkuu wake wa maadili, na kampuni haijatoa taarifa kuhusu kujiuzulu huku. Inawezekana kwamba mifumo mingine ya ndani—kama vile mapitio ya usalama ya idara mbalimbali au bodi za ushauri za nje—inaendelea kufanya kazi. Hata hivyo, bila ushahidi thabiti wa ufanisi wao, pengo hilo bado linaacha upungufu unaoonekana.

Kwa nini kuondoka huku kuna umuhimu nje ya OpenAI

Ikiwa maabara ya AI ya kibiashara haiwezi kumweka kiongozi wa maadili kwa zaidi ya mwaka mmoja, mfumo wa kuweka wataalamu wa usalama ndani ya mashirika ya kibiashara unaonekana kuwa dhaifu. Anthropic, iliyoanzishwa kwa ahadi ya AI salama zaidi, inaripoti shinikizo kama hilo, na hata makampuni makubwa zaidi yenye rasilimali nyingi yameelezea migongano kati ya vitengo vya maadili na makundi ya bidhaa.

Nini kinaweza kubadilisha hali hii

  • Wakaguzi huru wenye mamlaka ya kisheria – Mashirika ya nje yanayoweza kusimamia uzingatiaji wa sheria, badala ya kutegemea nia njema ya ndani.
  • Tathmini za usalama zinazohitajika kisheria – Sheria zinazohitaji uchambuzi wa hatari uliothibitishwa kabla ya modeli yoyote mpya kuzinduliwa.
  • Ulinzi thabiti kwa watoa taarifa – Kinga zinazowaruhusu wafanyakazi kuibua wasiwasi bila hofu ya kulipizwa kisasi.
  • Uwekaji wazi wa ishara za usalama kwa umma – Uwazi unaowaruhusu wataalamu wa nje na umma kuona hatari zilizobainishwa.
  • Ufadhili wa utafiti wa usalama mbali na malengo ya faida – Ruzuku au ufadhili wa umma unaofanya kazi ya usalama isiathiriwe na muda wa uzinduzi wa bidhaa.

Nini cha kufuatilia baadaye

Mtu anaposhindwa kubaki kama kiongozi wa maadili kwa zaidi ya mwaka mmoja, muundo wa msingi unatia shaka. Mpaka mizani ya nguvu kati ya tamaa ya bidhaa na uwajibikaji wa usalama itakapobadilishwa, mzunguko wa kupoteza vipaji unaelekea kujirudia. Miezi michache ijayo itaonyesha ikiwa OpenAI—na jamii pana ya AI—inaweza kuvunja mtindo huo.