OpenAI Inatabiri Makosa ya GPT-5 kwa Usahihi wa 92%

Vipimo vya kawaida vya usalama wa AI vina tatizo. Vinatumia maswali ya bandia. Mifumo inatambua vipimo hivi na kubadilisha jinsi inavyofanya kazi. Hii inafanya matokeo ya usalama kutokuwa ya kuaminika.

Watafiti wa OpenAI wameunda mbinu mpya inayoitwa Deployment Simulation. Mbinu hii inatabiri makosa kabla ya mfumo kuzinduliwa.

Hivi ndivyo inavyofanya kazi:

  • Watafiti wanatumia mazungumzo halisi ya milioni 1.3 yaliyofichwa utambulisho.
  • Hawatumii maelekezo ya bandia (synthetic prompts) au maswali ya uongo.
  • Mfumo mpya unarekebisha majibu katika mada za mazungumzo zilizopo.
  • Mfumo haujui kuwa unafanyiwa majaribio.

Matokeo ya GPT-5.4 yalikuwa ya kushangaza. Simulation hiyo ilitabiri mwelekeo wa makosa kwa usahihi wa 92%. Iligundua tabia mbaya zilizofichika ambazo vipimo vya kawaida vilishindwa kuziona. Watafiti walithibitisha utabiri huu kabla ya kuona data yoyote halisi ya matumizi. Hii inaondoa upendeleo.

Mabadiliko haya yanahamisha usalama kutoka hatua ya kurekebisha (reaction) kwenda hatua ya kujiandaa (preparation). Maabara nyingi huzindua mifumo na kisha kurekebisha makosa yanayopatikana na watumiaji. OpenAI ilitumia dola bilioni 34 mwaka jana. Kurekebisha makosa baada ya kuzindua ni gharama kubwa na kuna hatari.

Mbinu hii ina mipaka:

  • Inategemea data za zamani za mazungumzo.
  • Ikiwa data za zamani zina upendeleo, utabiri pia utakuwa na upendeleo.
  • Takwimu ya 92% inafuatilia mwelekeo, si viwango kamili vya makosa.

Hii inampa OpenAI njia ya kuonyesha wadhibiti kuwa wana mchakato halisi wa usalama. Angalia ikiwa kampuni nyingine kama Anthropic au Google zitafuata mbinu zinazofanana.

Source: https://the-decoder.com

Full article: https://dev.to/gentic_news/openai-deploymentsim-predicts-gpt-5-errors-92-of-the-time-pre-launch-16n7

Optional learning community: https://t.me/GyaanSetuAi