سیاستهای امنیتی هوش مصنوعی شما خوب هستند، اما معماری شما نه.
شما سیاستهای امنیتی هوش مصنوعی دارید. شما قوانین دارید. شما تستهای خود را دارید. اما معماری شما این قوانین را اعمال نمیکند.
ریسک هوش مصنوعی متفاوت حرکت میکند. در یک نقطه ثابت نمیماند. ابزارهای قدیمی فقط یک مسیر را بررسی میکنند. آنها از کل فرآیند اجرا غافل میشوند. ریسک هوش مصنوعی شبیه به کارهای عادی به نظر میرسد.
سامسونگ درسی برای ما دارد. کسی به آنها هک نکرد. ابزارها درست کار میکردند. دادهها از درِ اصلی خارج شدند.
شما باید بر زمان اجرا (runtime) تمرکز کنید. زمان اجرا جایی است که رفتارها رخ میدهند.
- یک پرامپت (prompt) ابزاری را فراخوانی میکند.
- یک ابزار دادهها را تغییر میدهد.
- یک رکورد باعث اجرای یک گردش کار (workflow) میشود.
هشدار خیلی دیر صادر میشود.
کنترلهای خود را به مسیر اجرا منتقل کنید. از پرسیدن اینکه مدل چه خروجیای میدهد دست بردارید. بپرسید که مدل به چه چیزهایی دسترسی پیدا میکند.
امنیت خود را حول محور «دسترسی» (reach) بنا کنید.