Pangram، یک استارتاپ نیویورکی که توسط فارغ‌التحصیلان هوش مصنوعی استنفورد، Max Spero و Bradley Emi تأسیس شده است، یک دور جذب سرمایه سری A به ارزش ۹ میلیون دلار را به رهبری Menlo Ventures بست. این بودجه قرار است هزینه توسعه یک API برای پلتفرم‌ها و یک افزونه کروم با قیمت ۲۰ دلار در ماه را تأمین کند که ادعا می‌کند متن‌های تولید شده توسط هوش مصنوعی را با دقت ۹۹ درصد شناسایی می‌کند؛ ادعایی که می‌تواند نحوه تأیید اصالت مطالب توسط روزنامه‌نگاران، پژوهشگران و استخدام‌کنندگان را تغییر دهد.

افزایش موج «محتوای بی‌کیفیت» (slop) تولید شده توسط هوش مصنوعی

مدل‌های زبانی بزرگ اکنون در مقیاس وسیع مقالات، پست‌های شبکه‌های اجتماعی و حتی استنادات حقوقی تولید می‌کنند. نتیجه این است: سیل عظیمی از اسپم‌های سئو با کیفیت پایین، کمپین‌های سازمان‌یافته اطلاعات نادرست و یک منطقه خاکستری که در آن انسان‌ها پیش‌نویس‌های تولید شده توسط هوش مصنوعی را اصلاح می‌کنند. موسسات از همین حالا در حال واکنش نشان دادن هستند. سرور پیش‌چاپ arXiv هشدار داده است که نویسندگانی که خروجی‌های بررسی‌نشده LLM را ارسال می‌کنند، ممکن است با ممنوعیت یک‌ساله مواجه شوند و دادگاه‌ها نیز شروع به جریمه کردن وکلایی کرده‌اند که به استنادات ساختگی تولید شده توسط هوش مصنوعی تکیه می‌کنند. فشار برای جداسازی خروجی‌های انسانی از ماشینی رو به افزایش است و Pangram شرط می‌بندد که فناوری آن می‌تواند به لایه پیش‌فرض تأیید اصالت تبدیل شود.

بازتاب مصنوعی (synthetic mirroring): آموزش بر روی همزاد هر سند

مدل پرچم‌دار Pangram، یعنی Pangram 4، از روشی استفاده می‌کند که شرکت آن را «بازتاب مصنوعی» (synthetic mirroring) می‌نامد. برای هر سند نوشته شده توسط انسان در مجموعه آموزشی آن — شامل ده‌ها میلیون قطعه تأیید شده — تیم سازنده یک همزاد بر روی یک LLM پیشرو تولید کرده است. این همزاد مصنوعی از نظر موضوع، طول و لحن با نسخه اصلی مطابقت دارد اما توسط هوش مصنوعی تولید شده است. با تغذیه هر دو نسخه به یک شبکه عصبی واحد، Pangram به مدل می‌آموزد که اثرانگشت‌های آماری ظریفی را که در متن‌های تولید شده توسط هوش مصنوعی باقی می‌مانند، شناسایی کند؛ حتی زمانی که نویسندگان از ابزارهای «انسانی‌ساز هوش مصنوعی» (AI humanizer) برای پنهان کردن خروجی ماشین استفاده می‌کنند.

رقبای دیگر بر متادیتا یا واترمارک‌های نامرئی تکیه می‌کنند که قابل حذف یا نادیده گرفتن هستند. در عوض، Pangram بر تحلیل سبک‌شناختی تمرکز می‌کند: الگوهایی در انتخاب کلمات، ریتم جملات و توزیع توکن‌ها که در خروجی یک مدل ثابت می‌مانند. طبق بیانیه شرکت، در آزمایش‌های داخلی، این سیستم نوشتارهای کمک‌گرفته از هوش مصنوعی را با دقت ۹۹ درصد شناسایی کرده است.

از APIها تا مرورگرها: فناوری در کجا فرود می‌آید

Pangram خود را به جای یک اپلیکیشن تک‌منظوره، به عنوان یک زیرساخت معرفی می‌کند. API آن در حال حاضر با Substack ادغام شده است، جایی که خبرنامه‌ها برچسبی را نمایش می‌دهند که نشان‌دهنده نسبت محتوای تولید شده توسط هوش مصنوعی است. پذیرندگان اولیه همچنین شامل پلتفرم پرسش و پاسخ Quora، چندین مرکز نویسندگی دانشگاهی و آژانس‌های استخدامی هستند که نیاز به تأیید اصالت مدارک ارسالی متقاضیان دارند.

برای کاربران انفرادی، این استارتاپ یک افزونه کروم ارائه می‌دهد که یک «امتیاز سلامت فید» (feed health score) را روی سایت‌هایی مانند X، LinkedIn، Reddit و Medium نمایش می‌دهد. این امتیاز، درصد متنی را که مدل معتقد است انسانی در مقابل هوش مصنوعی است، تفکیک می‌کند. مشترکین برای برچسب‌گذاری بلادرنگ و قابلیت علامت‌گذاری بخش‌های مشکوک جهت بررسی بیشتر، ماهیانه ۲۰ دلار پرداخت می‌کنند.

نگاهی تردیدآمیز

ادعاهای مربوط به دقت، ناگزیر مورد بررسی دقیق قرار می‌گیرند. شناسایی کمک‌های هوش مصنوعی در «منطقه خاکستری» — جایی که نویسنده یک پیش‌نویس تولید شده توسط مدل را ویرایش می‌کند — همچنان هدفی متغیر است. با بهبود مدل‌های مولد، شکاف سبک‌شناختی که Pangram بر آن تکیه دارد ممکن است کاهش یابد و منجر به یک مسابقه تسلیحاتی بین تکنیک‌های تشخیص و تکنیک‌های فرار شود. منتقدان همچنین نسبت به «مثبت کاذب» هشدار می‌دهند: برچسب زدن یک اثر انسانی واقعی به عنوان تولید شده توسط هوش مصنوعی می‌تواند به اعتبار افراد آسیب برساند، به ویژه در زمینه‌های آکادمیک یا حقوقی که حساسیت بالا است.

Pangram این چالش را می‌پذیرد و خاطرنشان می‌کند که با ظهور LLMهای جدید، مدل خود را به طور مداوم با بازتاب‌های مصنوعی جدید بازآموزی می‌کند. با این حال، شرکت نتایج بنچمارک مستقل فراتر از آزمایش‌های داخلی خود را فاش نکرده است و جامعه علمی/فنی را برای تأیید رقم ۹۹ درصد رها کرده است.

چه چیزی را باید زیر نظر داشت

چند ماه آینده مشخص خواهد کرد که آیا Pangram می‌تواند از ادغام‌های آزمایشی فراتر رفته و به پذیرش گسترده‌تر در پلتفرم‌ها دست یابد یا خیر. شاخص‌های کلیدی عبارتند از:

  • گسترش قراردادهای API فراتر از لیست فعلی شرکای اولیه.
  • بازخورد کاربران سازمانی در مورد نرخ مثبت کاذب و تأثیر آن بر جریان‌های کاری تحریریه.
  • واکنش توسعه‌دهندگان LLM، که ممکن است با به‌روزرسانی مدل‌هایی با هدف تقلید دقیق‌تر از سبک انسانی پاسخ دهند.
  • تحولات مقرراتی که می‌تواند ابزارهای تشخیص هوش مصنوعی را برای برخی نشریات یا ارسال‌های دانشگاهی اجباری کند.

اگر این استارتاپ بتواند برتری خود را در تشخیص حفظ کند و در عین حال نرخ خطای پایینی داشته باشد، می‌تواند به یک استاندارد دوفاکتو برای اصالت دیجیتال تبدیل شود. در غیر این صورت، بازار ممکن است به مجموعه‌ای از ابزارهای رقیب تقسیم شود که هر کدام مزایا و معایب خاص خود را دارند.

خلاصه کلام

تزریق ۹ میلیون دلاری سرمایه به Pangram، محرک استراتژی تشخیصی است که با تکیه بر یک رژیم آموزشی مبتنی بر دو سند (twin-document)، مدعی شناسایی تقریباً بی‌نقصِ استفاده از هوش مصنوعی است. موفقیت این روش بستگی به این دارد که آیا می‌تواند در برابر مدل‌های زبانی در حال تکامل مقیاس‌پذیر باشد و اعتماد پلتفرم‌ها و نهادهایی را که بیشترین نیاز را به آن دارند، جلب کند یا خیر.