Mengapa Saya Membina doll

AI berprestasi tinggi mudah diakses sekarang. Tetapi akses tidak dijamin.

Harga berubah. Had penggunaan meningkat. Penyedia menutup perkhidmatan atau mengubah polisi. Anda mungkin kehilangan persekitaran AI anda walaupun ia berfungsi semalam.

Masalahnya bukan tentang kepercayaan. Masalahnya adalah kawalan. Kesinambungan AI anda bergantung pada perkara yang anda tidak miliki.

Saya mula membina doll. Ia adalah sistem kesinambungan AI peribadi sumber terbuka.

doll bukanlah model baharu. Ia tidak menggantikan alatan seperti Ollama atau LM Studio. Matlamatnya adalah untuk melindungi persekitaran AI peribadi anda. Anda memerlukan data anda kekal boleh digunakan walaupun model atau aplikasi berubah.

Kebanyakan orang berfikir model adalah pusat kepada AI. Ia tidak begitu. Model hanyalah enjin penaakulan. Anda boleh menggantikannya.

Teras sebenar adalah keadaan (state) anda. Ini termasuk:

  • Memori jangka panjang dan pilihan.
  • Sejarah perbualan dan sumber.
  • Rekod penyelidikan dan sejarah projek.
  • Keizinan dan polisi.
  • Rekod sandaran dan migrasi.

Model baharu mungkin lebih baik. Model tempatan mungkin diperlukan untuk privasi. Apabila anda menukar model, anda tidak sepatutnya kehilangan sejarah anda.

Pelaksanaan tempatan adalah baik untuk privasi dan kos. Tetapi aplikasi tempatan juga boleh menyebabkan lock-in. Jika sesuatu aplikasi berhenti berfungsi atau mengubah formatnya, anda akan kehilangan data anda.

doll tidak bergantung pada mana-mana format tunggal. Ia tidak menggunakan format ChatGPT atau Ollama sebagai standard. Sebaliknya, ia memetakan data ke dalam representasi yang didokumentasikan. Jika data hilang semasa import, doll akan memberitahu anda.

Peraturannya mudah: Lengkap secara tempatan, awan sebagai pilihan.

Sistem anda mesti berfungsi tanpa kunci API atau sambungan internet. Model awan hanyalah alatan pilihan untuk prestasi yang lebih baik. Awan tidak sepatutnya menjadi sumber kebenaran bagi identiti, fail, atau memori anda.

doll kini dalam fasa pra-alfa. Ia belum menjadi pembantu harian. Saya sedang membina sempadan sebelum saya menyambungkan model-model tersebut.

Saya sedang memberi tumpuan kepada:

  • Mengasingkan memori daripada rahsia.
  • Mencegah kebocoran rahsia dalam log.
  • Membezakan fakta daripada inferens.
  • Merekodkan dari mana maklumat berasal.
  • Memerlukan pengesahan pengguna untuk tugasan berisiko tinggi.

Saya ingin menentukan apa yang mesti kekal apabila teknologi berubah.

Jika anda seorang pembangun, saya lebih memerlukan kritikan anda daripada sokongan anda.

  • Di manakah keadaan pengguna berakhir dan keadaan model bermula?
  • Apakah maklumat yang hilang apabila berpindah antara alatan AI?
  • Bolehkah sesebuah sistem benar-benar pulih jika mesin utama hilang?
  • Bolehkah doll menjadi bentuk penguncian baharu?

Laman web projek: https://doll.badjoke-lab.com/

Kod sumber: https://github.com/badjoke-lab/doll

Artikel penuh: https://dev.to/badjoke-lab/why-im-building-doll-a-personal-ai-continuity-system-1a1c

Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi