چطور بدون جعل واقعیتها از هوش مصنوعی استفاده میکنیم
یک هوش مصنوعی ممکن است به شما بگوید ابزاری دارای نسخه رایگان است، در حالی که نیست. یا قیمت قدیمی یا ویژگیای را به شما میدهد که وجود خارجی ندارد. اینها اشتباه تایپی نیستند؛ مدل فقط در حال پر کردن شکافها با کلماتی است که درست به نظر میرسند.
اگر شما نقد و بررسی منتشر میکنید، این اشتباه خطرناک است. این کار باعث میشود خوانندگان شما در طرحهای اشتباه ثبتنام کنند.
ما برای نوشتن مقالاتمان از هوش مصنوعی استفاده میکنیم. هر بار که هوش مصنوعی با پستی درگیر میشود، به شما اطلاع میدهیم. هدف ما این است که مانع از جعل واقعیتها توسط هوش مصنوعی شویم. در اینجا فرآیند ما آمده است.
ما دو وظیفه را از هم جدا میکنیم. اجازه نمیدهیم هوش مصنوعی هر دو را انجام دهد.
- وظیفه ۱: نوشتن متن.
- وظیفه ۲: یافتن واقعیتها.
هوش مصنوعی میتواند وظیفه اول را انجام دهد، اما هرگز اجازه ندارد وظیفه دوم را انجام دهد.
هر واقعیتی در نقد و بررسیهای ما از منبعی میآید که خودمان آن را بررسی کردهایم. ما صفحات قیمتگذاری، لیست تغییرات (changelogs) و مستندات را چک میکنیم. ما این واقعیتها را همراه با یک URL و تاریخ در یک سند یادداشت قرار میدهیم. تنها پس از آن است که هوش مصنوعی متن را بر اساس آن واقعیتها مینویسد.
دستورات (prompts) ما متفاوت هستند. اکثر مردم میپرسند: «درباره قیمتگذاری این ابزار به من بگو.» ما میگوییم: «در اینجا چهار واقعیت درباره قیمتگذاری وجود دارد که امروز تأیید شدهاند. فقط از همین واقعیتها برای نوشتن یک پاراگراف استفاده کن. اگر میخواهی چیز دیگری اضافه کنی، به من بگو.»
این کار میل هوش مصنوعی به دروغ گفتن را به لیستی برای بررسی توسط انسان تبدیل میکند.
ما این قوانین را رعایت میکنیم:
- ما به اعداد بدون منبع اعتماد نمیکنیم. هر قیمت، محدودیت یا تاریخی تا زمانی که آن را با یک منبع اصلی اثبات نکنیم، مشکوک تلقی میشود.
- ما اجازه نمیدهیم هوش مصنوعی به منابع استناد کند. اگر هوش مصنوعی بگوید «طبق یک مطالعه»، آن را حذف میکنیم مگر اینکه لینک واقعی آن را داشته باشیم.
- ما از هوش مصنوعی برای ساختار استفاده میکنیم. این ابزار به ما در سازماندهی یادداشتها، اصلاح گرامر یا ساخت ساختار اولیه جداول کمک میکند. این وظایف نیازی ندارند که هوش مصنوعی از واقعیتهای دنیای واقعی آگاه باشد.
- ما دو بار بازخوانی جداگانه انجام میدهیم. بازخوانی اول برای کیفیت است. بازخوانی دوم فقط برای ادعاهاست. ما میپرسیم: «این جمله خاص از کجا آمده است؟» اگر در یادداشتهای ما نباشد، آن را حذف میکنیم.
یک نقد و بررسی میتواند امروز درست و سه ماه دیگر غلط باشد. ابزارها قیمتهای خود را تغییر میدهند. ما لینکهای منبع دارای تاریخ را نگه میداریم تا بتوانیم واقعیتهای خود را طبق یک برنامه زمانی دوباره بررسی کنیم.
سیستم ساده است:
- هوش مصنوعی مینویسد.
- مسئولیت صحت واقعیتها با انسانهاست.
- هر ادعا دارای یک منبع دارای تاریخ است.
- ما قبل از انتشار، دو بار بررسی میکنیم.
از هوش مصنوعی انتظار چیزی را نداشته باشید که نمیتواند باشد.
منبع: https://dev.to/pickuma/how-we-use-ai-without-letting-it-hallucinate-into-reviews-1of5