لزوم انتقال حاکمیت عاملهای هوش مصنوعی به لایه دادهها
تاریخ انتشار: ۶ شهریور ۱۴۰۵
توسعه سریع عاملهای هوش مصنوعی به این سیستمها امکان میدهد بدون نیاز به تایید مداوم انسان، برنامهریزی و تصمیمگیری کنند و اقدامات مختلف را در سامانههای گوناگون انجام دهند. این میزان از آزادی عمل، چالشهای امنیتی جدیدی را برای سازمانها ایجاد میکند، زیرا پیشبینی دقیق رفتار این عاملها در لحظه همواره امکانپذیر نیست. روشهای قدیمی که بر دستورالعملهای متنی یا محدودسازی خود مدل تمرکز داشتند، نمیتوانند جلوی رفتارهای پیشبینینشده را در کسری از ثانیه بگیرند.
برای حل این مسئله، رویکرد جدیدی مطرح شده است که مدیریت و اعمال قوانین را به لایه دادههای عملیاتی منتقل میکند. وقتی قوانین امنیتی در سطح پایگاه داده تعریف شوند، عامل هوش مصنوعی بدون توجه به نحوه طراحی یا خطاهای احتمالیاش، مجبور به پیروی از آنها خواهد بود. در این ساختار، پایگاه داده با عامل هوش مصنوعی مانند یک کاربر مستقل رفتار میکند و مجوزهای دسترسی آن را بر اساس هویت و هدف تعریفشده در لحظه بررسی میکند.
این سیستم نظارتی بر پایه ابزارهای قدرتمندی مانند کنترل دسترسی نقشمحور، رمزگذاری و ثبت دقیق سوابق فعالیتها بنا شده است. استفاده از بسترهای متنباز مانند Postgres به شرکتها اجازه میدهد تا بدون از دست دادن مالکیت و حاکمیت بر دادههای خود، این محدودیتهای ایمن را پیادهسازی کنند. در نهایت، این روش به سازمانها کمک میکند تا با اطمینان بیشتری از قابلیتهای عاملهای هوشمند استفاده کنند و فرآیندهای خود را بدون نگرانیهای امنیتی سرعت ببخشند.
منبع اصلی خبر: https://venturebeat.com/security/when-agents-act-on-their-own-governance-has-to-live-in-the-data-layer