Libby برای مقابله با هجوم محتوای مولد، فیلترهای محتوای هوش مصنوعی معرفی میکند
با شروع هجوم هوش مصنوعی مولد به فضای نشر دیجیتال، Libby — اپلیکیشن محبوب امانت کتاب الکترونیک که توسط OverDrive پشتیبانی میشود — برای محافظت از تجربه کاربری، موضعی پیشگیرانه اتخاذ کرده است. این پلتفرم در حال آمادهسازی برای راهاندازی کنترلهای جدید محتوای هوش مصنوعی است که به خوانندگان اجازه میدهد دقیقاً تعیین کنند چه مقدار رسانه تولیدشده توسط ماشین را در کتابخانههای دیجیتال خود میخواهند.
توانمندسازی خوانندگان از طریق کنترلهای دقیق هوش مصنوعی
هسته اصلی استراتژی جدید OverDrive، شفافیت و اختیار کاربر است. Libby به جای ممنوع کردن کامل محتوای مصنوعی، تنظیماتی را معرفی میکند که به کاربران اجازه میدهد ترجیحات خود را برای انواع مختلف مشارکت هوش مصنوعی تغییر دهند. این اقدام در حالی صورت میگیرد که صنعت نشر دیجیتال خود را برای ورود انبوه کتابهای تولیدشده توسط هوش مصنوعی که پتانسیل غرق کردن کاتالوگهای سنتی را دارند، آماده میکند.
سیستم فیلترینگ جدید تنها به یک جنبه از کتاب محدود نخواهد بود؛ هدف این سیستم ارائه یک نمای کلی و جامع از نحوه تولید یک محتوا است. کاربران بهزودی قادر خواهند بود بر اساس موارد زیر فیلتر کنند:
- نویسندگی هوش مصنوعی: شناسایی کتابهایی که عمدتاً توسط مدلهای زبانی بزرگ نوشته شدهاند.
- کتابهای صوتی با روایت هوش مصنوعی: تشخیص میان صداپیشگان انسانی و گفتار مصنوعی.
- ترجمه ماشینی: شناسایی آثاری که به جای مترجمان انسانی، از طریق الگوریتمهای خودکار ترجمه شدهاند.
- هنر تولیدشده توسط هوش مصنوعی: علامتگذاری جلد کتابها و تصاویرسازیهایی که توسط مدلهای تصویرسازی مولد ایجاد شدهاند.
ایجاد تعادل میان نوآوری و اصالت محتوا
Marc DeBevoise، مدیرعامل تازه منصوبشده OverDrive، تأکید میکند که هدف، ایجاد شفافیت است و نه محدودیت. DeBevoise با تأکید بر تعهد به برچسبگذاری به جای سانسور مستقیم، اظهار داشت: «ما باید به مردم بگوییم چه چیزی در دسترس است [و] چگونه ساخته شده است.»
این رویکرد تلاش میکند تا تعادلی ظریف برقرار کند. از یک سو، شرکت پتانسیل هوش مصنوعی برای بهبود «دسترسی به اطلاعات» از طریق بومیسازی بهتر و پیشنهادهای محتوای شخصیسازیشده را تشخیص میدهد. از سوی دیگر، Libby در حال پاسخگویی به انتقادات قبلی در مورد پیادهسازی ویژگیهای هوش مصنوعی برای کشف کتاب در سال گذشته است. OverDrive با دادن امکان انصراف به کتابداران و خوانندگان، تلاش میکند تا خطرات «اسپم هوش مصنوعی» را کاهش دهد و در عین حال از مزایای بهرهوری که یادگیری ماشین ارائه میدهد، بهره ببرد.
چرا این موضوع برای اکوسیستم هوش مصنوعی اهمیت دارد
تصمیم Libby شاخصی برای اقتصاد گستردهتر محتوای دیجیتال است. با کاهش هزینه تولید متن، هنر و صدا به نزدیکی صفر به دلیل مدلهای زبانی بزرگ (LLMs) و مدلهای انتشار (diffusion models)، پلتفرمها باید راههایی برای حفظ ارزش و اعتماد بیابند. اگر کتابخانههای دیجیتال نتوانند بین ادبیات گردآوریشده توسط انسان و محتوای مصنوعی تولید انبوه تمایز قائل شوند، با خطر از دست دادن اعتماد خالقان و مراجعان روبرو خواهند شد.
برای توسعهدهندگان و رهبران فناوری، این حرکت بر یک استاندارد نوظهور در صنعت تأکید میکند: «عصر برچسبگذاری». از آنجایی که محتوای هوش مصنوعی از کار انسانی غیرقابل تشخیص میشود، ارزش پیشنهادی پلتفرمها از صرفاً میزبانی محتوا به تأیید پیشرفته محتوا و مدیریت ترجیحات تغییر خواهد کرد.
نکات کلیدی
- انتخاب دقیق کاربر: کاربران Libby بهزودی قادر خواهند بود متنهای تولیدشده توسط هوش مصنوعی، روایتهای مصنوعی، ترجمههای ماشینی و طرحهای جلد تولیدشده توسط هوش مصنوعی را فیلتر کنند.
- استراتژی اولویت با شفافیت: OverDrive اولویت را به برچسبگذاری روشهای تولید محتوا میدهد تا اطمینان حاصل کند که کاربران دقیقاً میدانند رسانههای آنها چگونه تولید شدهاند.
- کاهش اختلال: این اقدام به عنوان یک اقدام دفاعی در برابر «هجوم هوش مصنوعی» پیشبینیشده از کتابهای دیجیتال تولید انبوه در صنعت نشر عمل میکند.