Deep Interaction inaruhusu watengenezaji kuhariri mnyororo wa mantiki wa modeli ya lugha papo hapo, jambo linaloongeza mafanikio ya marekebisho kwa zaidi ya 25% na kupunguza matumizi ya token kwa takriban 40% kwenye matatizo ya STEM.

Kwa nini marekebisho ya sasa yanashindwa

Modeli kubwa za lugha (LLMs) zinazotumia mbinu ya chain-of-thought prompting hugawanya maswali magumu katika mfululizo wa hatua za kimantiki. Hatua moja inapokosewa, watengenezaji kwa kawaida huanza upya mazungumzo au kuongeza maelekezo ya marekebisho mwanzoni. Yote mawili yanapoteza muda: modeli mara nyingi hujirudia kosa lile lile au kutoa ombi la radhi la jumla bila kujifunza. Watengenezaji huishia kutuma maelekezo (prompts) makumi ili tu kuiongoza modeli tena kwenye njia sahihi, jambo linaloongeza idadi ya token na gharama za kompyuta.

Deep Interaction inafanya nini tofauti

Mbinu hii mpya inachukulia matokeo ya modeli kama maandishi yanayoweza kuhaririwa badala ya jibu lisiloeleweka (black-box). Mtiririko wa kazi ni:

  1. Tambua hitilafu – mtengenezaji huainisha hatua kamili katika mnyororo wa mantiki ambayo si sahihi.
  2. Hariri mahali hapo – mtengenezaji huandika upya mstari huo, huku akihifadhi hatua nyingine sahihi zinazozunguka.
  3. Chuja marekebisho – mfumo hubadilisha marekebisho yaliyofanywa na binadamu kuwa maelekezo (prompt) mafupi yanayobeba mantiki inayokusudiwa.
  4. Iongoze modeli – LLM inapokea maelekezo haya yaliyochujwa na kuendelea na mantiki kuanzia hatua iliyorekebishwa.

Kuipa modeli marekebisho mahususi badala ya kutoa maelekezo mapya yote huepusha kutengeneza upya sehemu za awali za jibu ambazo tayari zilikuwa sahihi.

Mafanikio yanayopimika

Vipimo vya utendaji kwenye mfululizo wa kazi za STEM vinaonyesha athari hii waziwazi. Watengenezaji walipotumia Deep Interaction, uwiano wa majibu yaliyorekebishwa kwa mafanikio uliongezeka kwa zaidi ya robo ikilinganishwa na mbinu ya kawaida ya kutoa maelekezo mapya. Wakati huo huo, matumizi ya token yalishuka kwa takriban 40%, jambo linalopunguza kwa kiasi kikubwa bili za kompyuta za wingu na kuharakisha programu zinazoingiliana (interactive applications).

Nani anayefaidika

  • Watengenezaji – Hawahitaji tena kuandika mizunguko isiyo na mwisho ya kurekebisha maelekezo (prompt-tuning). Hariri moja inaweza kutatua kosa la kimantiki, na kuacha muda wa kazi za ngazi ya juu zaidi.
  • Mashirika yanayotengeneza zana za kisayansi au uhandisi – Mantiki ya kuaminika zaidi inamaanisha makosa machache yanayofuata katika simulizi (simulations), mahesabu, au mifumo ya uchambuzi wa data.
  • Watumiaji wa mwisho – Majibu ya haraka na ada za huduma za chini zinaboresha uzoefu mzima wa wasaidizi wanaojiendesha kwa AI.

Mipaka na hoja za kinyume

Deep Interaction inachukulia kuwa mtengenezaji anaweza kutambua na kuelezea hitilafu kamili ya kimantiki. Katika nyanja ambapo kosa ni dogo sana au mantiki haieleweki, kuhariri kwa mkono kunaweza kutofanyika kwa urahisi. Mafanikio yaliyoripotiwa pia yanatokana na vipimo vya STEM vilivyodhibitiwa.

Hitimisho

Deep Interaction inageuza mtengenezaji kutoka mtumiaji mnyamavu kuwa mwalimu hai, ikiruhusu marekebisho sahihi na ya gharama nafuu ya mantiki ya LLM.