پراکندگی عاملهای هوش مصنوعی: چرا شرکتها در میان ابزارهای هوش مصنوعی غرق شدهاند؟
گفتگوی هوش مصنوعی تغییر کرده است.
در سال ۲۰۲۴، تیمها بر سر اینکه کدام مدل هوشمندتر است بحث میکردند. در سال ۲۰۲۵، آنها ویژگیها را با هوش مصنوعی ساختند. در سال ۲۰۲۶، آنها برای مدیریت همه آنها در تقلا هستند.
Cursor روی هر لپتاپی نصب است. Claude Code در CI اجرا میشود. Copilot در IDE قرار دارد. تیمهای محصول از ChatGPT استفاده میکنند. تیمهای داده از Gemini استفاده میکنند. تیم مارکتینگ از دهها ابزار نویسندگی استفاده میکند.
هیچکس لیست کاملی ندارد. هیچکس توکنها را حسابرسی نمیکند. هیچکس نمیداند کدام ابزار، دادههای مشتری را به کدام endpoint فرستاده است.
این همان پراکندگی عاملهای هوش مصنوعی (AI agent sprawl) است. این بزرگترین مشکل زیرساختی سال ۲۰۲۶ است.
پراکندگی زمانی رخ میدهد که پذیرش ابزارها سریعتر از قوانین شرکت پیش برود. موضوع استفاده از ابزارهای زیاد نیست؛ بلکه استفاده از آنها بدون داشتن دید (visibility) یا کنترل است.
نشانههای اینکه با پراکندگی مواجه هستید:
- تیمهای مختلف برای کارهای مشابه از ابزارهای متفاوتی استفاده میکنند.
- هزینههای توکن هنگام رسیدن صورتحساب، غافلگیرکننده است.
- مهندسان نمیتوانند ردیابی کنند که کدام هوش مصنوعی با دادههای خاصی درگیر شده است.
- مهندسی پرامپت (Prompt engineering) در جزیرههای جداگانه و بدون اشتراکگذاری انجام میشود.
- تنها زمانی متوجه میشوید یک ابزار از کار افتاده است که شش تیم همزمان با شکست مواجه شوند.
مشکل، گراف وابستگی نامرئی است.
یک مهندس ممکن است از Cursor استفاده کند، در حالی که یک خط لوله CI از یک ادغام سفارشی با GPT-4 استفاده میکند. یک ربات بازبینی کد ممکن است از Gemini استفاده کند.
حالا بپرسید: کدامیک از اینها به طرحوارههای (schemas) پایگاه داده شما، کلیدهای API شما یا دادههای مشتریان شما دسترسی دارد؟
پاسخ اغلب همه آنهاست. توسعهدهندگان فراموش میکنند دادهها را قبل از پردازش توسط ابزارهای هوش مصنوعی پاکسازی کنند. بدون داشتن حفاظها (guardrails)، آنها شکست خواهند خورد.
ردیابی هزینههای هوش مصنوعی نیز دشوار است. یک حلقه (loop) واحد از یک عامل میتواند صورتحساب شما را در یک هفته سه برابر کند. بدون حسابداری متمرکز، تنها زمانی متوجه خسارت میشوید که فاکتور از راه برسد.
شما به یک استراتژی حاکمیتی (governance) نیاز دارید. از طبقهبندی دادهها برای تصمیمگیری در مورد اینکه کدام ابزارها اجازه دسترسی دارند، استفاده کنید:
- دادههای عمومی: هر ابزاری.
- دادههای داخلی: ابزارهایی با توافقنامههای دادهای مناسب.
- دادههای محرمانه: فقط APIهای خودمیزبان (self-hosted) یا با قابلیت عدم نگهداری داده (zero-retention).
- دادههای محدود شده: هیچ ابزار هوش مصنوعی، به هیچ وجه.
بهترین راهکار، یک AI Gateway است. این یک نقطه واحد است که تمام ترافیک هوش مصنوعی از آن عبور میکند.
یک AI Gateway موارد زیر را فراهم میکند:
- دید شفاف از هزینه برای هر توکن.
- پاکسازی اطلاعات حساس (secret scrubbing) برای حذف PII قبل از خروج از شبکه شما.
- اعمال سیاستها (policy enforcement) برای مسدود کردن ارائهدهندگان تایید نشده.
- نسخهبندی پرامپت (prompt versioning) برای برخورد با پرامپتها مانند کد.
از برخورد با هوش مصنوعی به عنوان یک جعبه جادویی دست بردارید. با آن مانند پایگاههای داده عملیاتی خود رفتار کنید. همان دقت مهندسی را که در سیستمهای احراز هویت (auth) و خط لولههای استقرار (deployment pipelines) به کار میبرید، برای عاملهای خود نیز اعمال کنید.
حاکمیت (Governance) صرفاً انضباطِ دانستن این است که چه چیزی در سیستم شما در حال اجراست، چرا در حال اجراست و اجازه انجام چه کارهایی را دارد.
Optional learning community: https://t.me/GyaanSetuAi