KPMG از هوش مصنوعی برای نوشتن گزارشی درباره هوش مصنوعی استفاده کرد. اما شکست خورد.

KPMG در زمینه نحوه استفاده مسئولانه از هوش مصنوعی مشاوره می‌فروشد.

در اکتبر ۲۰۲۵، آن‌ها گزارشی درباره Agentic AI منتشر کردند. آن‌ها برای نوشتن آن از هوش مصنوعی استفاده کردند.

نتایج یک فاجعه بود.

حسابرسی توسط GPTZero نشان داد که هوش مصنوعی ۸۸٪ منابع را از خود ساخته است.

حقایق موجود در گزارش KPMG این‌ها هستند:

این گزارش ادعا کرد که شرکت‌های بزرگی مانند UBS و NHS از Agentic AI استفاده می‌کنند. این شرکت‌ها اعلام کردند که این ادعاها نادرست یا گمراه‌کننده هستند. KPMG بدون اجازه از لوگوی آن‌ها در این متن تخیلی استفاده کرده است.

این یک مشکل جدید است که به آن "vibe citing" می‌گویند.

"vibe citing" زمانی رخ می‌دهد که از هوش مصنوعی برای ایجاد یک کتاب‌شناسی استفاده می‌کنید. هوش مصنوعی ارجاعاتی می‌سازد که بی‌نقص به نظر می‌رسند. عناوین علمی به نظر می‌رسند، تاریخ‌ها درست به نظر می‌رسند و قالب‌بندی نیز صحیح است؛ اما محتوا جعلی است.

هوش مصنوعی تفاوت بین «به خاطر آوردن» و «ساختن» را نمی‌داند. آن فقط می‌داند چگونه چیزی تولید کند که با الگو مطابقت داشته باشد.

این فقط یک خطای فنی نیست؛ بلکه یک شکست در فرآیند است.

KPMG دارای ۲۵۰,۰۰۰ کارمند است. آن‌ها گزارشی با دقت ۱۱٪ منتشر کردند. آن‌ها حتی یک منبع را هم قبل از انتشار، تأیید نکردند.

خطر این موضوع فراتر از یک گزارش بد است.

از آنجایی که KPMG یک منبع بسیار معتبر است، خزنده‌های وب این داده‌های جعلی را ایندکس کردند. اکنون، سایر مدل‌های هوش مصنوعی مانند ChatGPT و Gemini این داده‌های نادرست را جذب می‌کنند و با آن‌ها مانند حقیقت برخورد می‌کنند.

این چرخه به این صورت است:

مشکل از هوش مصنوعی نیست. مشکل فشار برای «دانشمند به نظر رسیدن» بدون انجام کار واقعی است.

استفاده از هوش مصنوعی بدون یک حلقه تأیید انسانی، به معنای کارایی نیست. بلکه واگذاری حقیقت به سیستمی است که هیچ درکی از حقیقت ندارد.

از تظاهر به دانستن دست بردارید. واقعاً بدانید.

منبع: https://gptzero.me/news/investigations-kpmg/

جامعه یادگیری اختیاری: https://t.me/GyaanSetuAi