𝗣𝗿𝗼𝗺𝗽𝘁 𝗗𝗿𝗶𝘃𝗲𝗻 𝗧𝗼𝗼𝗹 𝗖𝗮𝗹𝗹𝗶𝗻𝗴 𝗳𝗼𝗿 𝗟𝗶𝗴𝗵𝘁𝘄𝗲𝗶𝗴𝗵𝘁 𝗢𝗽𝗲𝗻 𝗦𝗼𝘂𝗿𝗰𝗲 𝗟𝗟𝗠𝘀

𝗣𝗿𝗼𝗺𝗽𝘁-𝗗𝗿𝗶𝘃𝗲𝗻 𝗧𝗼𝗼𝗹-𝗖𝗮𝗹𝗹𝗶𝗻𝗴 𝗳𝗼𝗿 𝗟𝗶𝗴𝗵𝘁𝘄𝗲𝗶𝗴𝗵𝘁 𝗢𝗽𝗲𝗻 𝗦𝗼𝘂𝗿𝗰𝗲 𝗟𝗟𝗠𝘀

Model besar seperti GPT-4 berfungsi dengan baik. Ia mempunyai keperluan pengkomputeran yang tinggi.

Model sumber terbuka yang kecil sering bergelut dengan penaakulan yang kompleks. Anda memerlukan GPU yang besar untuk menjalankan model besar.

Saya telah menyelidik satu cara untuk membantu model kecil menggunakan alatan melalui prompt berstruktur. Penyelidikan ini bertajuk Prompt-Driven Tool-Calling for Lightweight Open Source LLMs.