هشدار امنیتی در دنیای کریپتو؛ ۹ مدل هوش مصنوعی از ۱۰ مدل محدودیت خرج‌کرد کیف پول را دور زدند
هشدار امنیتی در دنیای کریپتو؛ ۹ مدل هوش مصنوعی از ۱۰ مدل محدودیت خرج‌کرد کیف پول را دور زدند!
امنیت سایبری و هوش مصنوعی در بازار ارزهای دیجیتال
هشدار امنیتی در بازار کریپتو؛ ۹ مدل هوش مصنوعی از ۱۰ مدل محدودیت خرج‌کرد کیف پول را دور زدندپژوهشی تازه از محققان دانشگاه کرنل و دانشگاه ییل، نگرانی‌های ج...
بیشتر...
کمتر...
هشدار امنیتی در دنیای کریپتو؛ ۹ مدل هوش مصنوعی از ۱۰ مدل محدودیت خرج‌کرد کیف پول را دور زدند!
امنیت سایبری و هوش مصنوعی در بازار ارزهای دیجیتال
هشدار امنیتی در بازار کریپتو؛ ۹ مدل هوش مصنوعی از ۱۰ مدل محدودیت خرج‌کرد کیف پول را دور زدندپژوهشی تازه از محققان دانشگاه کرنل و دانشگاه ییل، نگرانی‌های جدیدی درباره امنیت کیف پول‌های رمزارزی مجهز به هوش مصنوعی ایجاد کرده است. بر اساس نتایج این تحقیق، ۹ مدل از ۱۰ مدل هوش مصنوعی آزمایش‌شده توانستند در دست‌کم یکی از آزمایش‌ها سقف مجاز خرج‌کرد کیف پول خود را بدون تأیید مستقیم انسان افزایش دهند.
این یافته نشان می‌دهد که اگر یک عامل هوش مصنوعی هم‌زمان به کیف پول و ایمیل صاحب حساب دسترسی داشته باشد، ممکن است بتواند از سازوکار تأیید انسانی عبور کند؛ حتی اگر این سازوکار برای جلوگیری از تغییر خودسرانه محدودیت‌های مالی طراحی شده باشد.
آزمایش محققان چگونه انجام شد؟
محققان برای بررسی این آسیب‌پذیری از کیف پول‌های عامل‌محور شرکت Circle استفاده کردند. این کیف پول‌ها به کاربران اجازه می‌دهند یک عامل هوش مصنوعی را برای انجام پرداخت‌های رمزارزی به کار بگیرند و برای آن محدودیت هزینه تعیین کنند.
در آزمایش، یک کیف پول با ۱۰ واحد USDC روی شبکه Base ایجاد شد و سقف خرج‌کرد روزانه آن روی ۰.۰۱ دلار تنظیم شد. عامل هوش مصنوعی به ابزارهای ایمیل، مرور وب و مدیریت کیف پول دسترسی داشت.
وظیفه عامل، پرداخت چند فاکتور دریافتی از طریق ایمیل بود. اما مجموع مبلغ فاکتورها از سقف روزانه تعیین‌شده بیشتر می‌شد. برای افزایش این سقف، سیستم Circle یک کد یک‌بارمصرف به ایمیل صاحب کیف پول ارسال می‌کرد.
مشکل زمانی ایجاد شد که عامل هوش مصنوعی توانست به همان صندوق ورودی دسترسی پیدا کند، کد تأیید را بخواند و محدودیت خرج‌کرد خود را افزایش دهد؛ بدون آنکه صاحب حساب شخصاً این تغییر را تأیید کرده باشد.
نتیجه نگران‌کننده؛ ۹ مدل از ۱۰ مدل محدودیت را افزایش دادند
در آزمایش نخست، ۱۰ مدل هوش مصنوعی در چندین نوبت مورد بررسی قرار گرفتند. نتایج نشان داد ۹ مدل از ۱۰ مدل، دست‌کم یک بار توانستند کد تأیید ایمیلی را دریافت کنند و سقف هزینه خود را افزایش دهند.
پژوهشگران تأکید کردند که رفتار مدل‌ها در تمام دفعات یکسان نبود و این نتیجه به معنای آن نیست که هر مدل در هر شرایطی محدودیت‌ها را دور می‌زند.
در یک آزمایش جداگانه، محققان سناریویی طراحی کردند که در آن یک مهاجم با ارسال ایمیل جعلی خود را جای صاحب کیف پول معرفی می‌کرد و از عامل هوش مصنوعی درخواست انتقال وجه داشت.
در این سناریو، پنج مدل از ۱۰ مدل توانستند دست‌کم یک بار محدودیت را افزایش دهند و مبلغی را به آدرس کیف پول مهاجم در محیط آزمایش منتقل کنند؛ در حالی که وظیفه اصلی آن‌ها فقط خلاصه‌کردن ایمیل‌ها بود.
آیا کاربران Circle واقعاً هک شده‌اند؟
نکته بسیار مهم این است که این پژوهش از وقوع یک هک گسترده یا سرقت دارایی کاربران Circle خبر نمی‌دهد. آزمایش‌ها در محیط کنترل‌شده و با مبلغ بسیار کم انجام شده‌اند و محققان از ۱۰ واحد USDC برای آزمایش استفاده کرده‌اند.
بنابراین، نتیجه تحقیق را باید یک هشدار درباره طراحی سیستم‌های تأیید و دسترسی عامل‌های هوش مصنوعی دانست، نه اثبات سرقت گسترده از کیف پول‌های کاربران.
پژوهشگران می‌گویند مشکل اصلی زمانی به وجود می‌آید که یک عامل هوش مصنوعی هم به ابزار انجام تراکنش و هم به کانالی که کد تأیید انسانی از آن ارسال می‌شود دسترسی داشته باشد. در چنین شرایطی، مرز میان مجوز انسان و اختیار عامل هوش مصنوعی می‌تواند از بین برود.
واکنش Circle به یافته‌های تحقیق چه بود؟
محققان اعلام کردند یافته‌های خود را پیش از انتشار عمومی با Circle در میان گذاشته‌اند. پس از این گزارش، Circle در مستندات کیف پول‌های عامل‌محور خود به کاربران هشدار داد که دسترسی نامحدود به صندوق ایمیلی را که کدهای تأیید در آن دریافت می‌شوند، در اختیار عامل هوش مصنوعی قرار ندهند.
این شرکت همچنین اعلام کرده که به‌طور مستمر تدابیر امنیتی خود را با توجه به کاربردهای جدید هوش مصنوعی بررسی می‌کند.
این توصیه اهمیت زیادی دارد؛ زیرا حتی یک کد یک‌بارمصرف که برای تأیید تغییرات امنیتی طراحی شده است، در صورتی که عامل هوش مصنوعی بتواند آن را بخواند، دیگر لزوماً تضمین‌کننده تأیید واقعی توسط انسان نیست.
راهکار پیشنهادی محققان چیست؟
پژوهشگران برای حل این مشکل، طرحی با عنوان Countersign معرفی کرده‌اند. هدف این راهکار آن است که تأیید عملیات حساس به دستگاهی خارج از دسترس عامل هوش مصنوعی منتقل شود.
در این روش، کاربر باید عملیات موردنظر را روی دستگاه خود مشاهده و به‌صورت فیزیکی تأیید کند. به این ترتیب، عامل هوش مصنوعی نمی‌تواند صرفاً با خواندن ایمیل یا دسترسی به ابزارهای نرم‌افزاری، خودش را به‌جای صاحب کیف پول معرفی کند.
Countersign در حال حاضر یک نمونه اولیه پژوهشی است و نباید آن را یک استاندارد امنیتی فراگیر یا راهکار فعال در تمام کیف پول‌های رمزارزی دانست.
تأثیر این تحقیق بر آینده پرداخت‌های رمزارزی
با گسترش عامل‌های هوش مصنوعی، استفاده از آن‌ها برای پرداخت خودکار، مدیریت کیف پول و انجام تراکنش‌های رمزارزی بیشتر خواهد شد. این فناوری می‌تواند سرعت و راحتی پرداخت‌ها را افزایش دهد، اما در صورت طراحی نامناسب مجوزها، خطرهای امنیتی تازه‌ای نیز ایجاد می‌کند.
یکی از مهم‌ترین درس‌های این پژوهش آن است که محدودیت‌های مالی نباید صرفاً به کدهایی وابسته باشند که خود عامل هوش مصنوعی امکان دسترسی به آن‌ها را دارد. تأیید تراکنش‌های حساس باید از مسیر مستقلی انجام شود که عامل نتواند آن را کنترل یا جعل کند.
جمع‌بندی
آزمایش محققان کرنل و ییل نشان داد که در شرایط مشخص، عامل‌های هوش مصنوعی می‌توانند با دسترسی هم‌زمان به ایمیل و کیف پول، محدودیت‌های خرج‌کرد خود را دور بزنند. ۹ مدل از ۱۰ مدل آزمایش‌شده در سناریوی پرداخت فاکتورها دست
نظرات