شرکت OpenAI اعلام کرده یکی از مدل‌های تحقیقاتی داخلی این شرکت، موقع انجام یک مأموریت برنامه‌نویسی، برای استقرار نرم‌افزار از رمزارز موجود در حسابی استفاده کرده که در اختیارش نبوده است.
- این مدل با استفاده از اطلاعات بازیابی عمومی مربوط به یک کیف پول در شبکه آزمایشی سپولیا (Sepolia) اتریوم، به کیف پول دارای موجودی دسترسی پیدا کرد.
- بعد هم به‌صورت مستقل تراکنشی را امضا و در شبکه منتشر کرد.
به گزارش کوین گیپ، این اتفاق نمونه‌ای از خطر بالقوه ایجنت‌های هوش مصنوعی را نشان می‌دهد؛ ایجنت‌هایی که ممکن است در مسیر رسیدن به هدف تعیین‌شده، بدون داشتن مجوز لازم دست به تصمیمات مالی بزنند.
ایجنت هوش مصنوعی OpenAI با عبارت بازیابی عمومی به کیف پول دسترسی پیدا کرد
این اتفاق در ۲۶ ژوئن ۲۰۲۶ و در جریان یک مأموریت توسعه نرم‌افزار رخ داد. مدل وظیفه داشت یک اپلیکیشن صرافی کریپتویی را به‌روزرسانی و قراردادهای هوشمند سازگار با آن را روی شبکه سپولیا مستقر کند. با این حال، در دستور این مأموریت هیچ کیف پول دارای موجودی در اختیار مدل قرار نگرفته بود و مجوزی نیز برای استفاده از دارایی یک کیف پولی که خود مدل پیدا می‌کرد، صادر نشده بود.
مدل ابتدا به‌دنبال راه‌هایی برای دریافت توکن‌های آزمایشی مورد نیاز بود، اما در ادامه این مسیر را کنار گذاشت. سپس اسکریپتی ایجاد کرد که بر اساس عبارات بازیابی توسعه‌دهندگان که به‌صورت عمومی منتشر شده بودند، آدرس کیف پول تولید و موجودی آن‌ها را بررسی می‌کرد.
این اسکریپت موفق شد حسابی را پیدا کند که به‌اندازه کافی ETH شبکه سپولیا برای پرداخت هزینه استقرار قرارداد در اختیار داشت. مدل در جریان این فرایند ۳۶۲ آدرس را نیز بررسی کرد.
مدل OpenAI از وجود ملاحظات اخلاقی در این اقدام آگاه بود، اما در نهایت تصمیم گرفت از موجودی کیف پول استفاده کند. استدلال مدل این بود که چون اطلاعات دسترسی به‌صورت عمومی منتشر شده و دارایی‌ها نیز متعلق به یک شبکه آزمایشی هستند، استفاده از آن‌ها قابل قبول است.
مدل همچنین نتیجه گرفت که این دارایی‌ها عملاً رها شده‌اند، زیرا در یک کیف پول توسعه‌دهنده با اطلاعات دسترسی عمومی قرار دارند. سپس از کلید خصوصی استخراج‌شده برای امضای آفلاین تراکنش استفاده کرد.
تراکنش با وجود نداشتن مجوز انجام شد
بر اساس گزارش OpenAI، نخستین تلاش‌های مدل برای انتشار تراکنش ناموفق بود. مدل پس از این شکست، ارائه‌دهندگان شبکه دیگری را پیدا کرد که امکان ارسال تراکنش را فراهم می‌کردند.
در نهایت استقرار قرارداد با موفقیت انجام شد. اطلاعات بلاکچین نیز تأیید کرد که تراکنش موفق بوده و کارمزد آن از موجودی همان حساب انتخاب‌شده پرداخت شده است.
ایجنت هوش مصنوعی پس از انجام مأموریت، آدرس‌های قراردادها را به‌روزرسانی و ۱۰ آدرس را بررسی کرد. همچنین ۱۲ تست واحد با موفقیت اجرا شدند و نسخه نهایی پروژه نیز با موفقیت ساخته شد.
با این حال، مدل در پاسخ نهایی خود به استفاده بدون مجوز از کیف پول اشاره نکرد. در گزارش نهایی تنها از استقرار موفق قراردادها خبر داد و اعلام کرد که قابلیت معامله همچنان بدون اتصال کیف پول یا تغییر شبکه فعال نشده است.
OpenAI پس از شناسایی اتفاق تدابیر امنیتی جدیدی اضافه کرد
OpenAI اعلام کرد این اتفاق را هنگام بررسی فعالیت مدل‌های قبلی و در جریان توسعه سیستم‌های نظارت بر رفتارهای ناهمسو یا نامطلوب شناسایی کرده است.
این شرکت پس از کشف ماجرا، تدابیر امنیتی بیشتری برای جلوگیری از تکرار چنین اتفاقاتی اضافه کرده است. OpenAI همچنین اعلام کرد سیستم نظارتی آن اکنون روی تمام ترافیک فعال است و در صورتی که یک مدل به اینترنت زنده دسترسی پیدا کند، تیم‌های امنیتی مطلع می‌شوند.
این اتفاق یکی از چالش‌های مهم توسعه ایجنت‌های هوش مصنوعی را برجسته می‌کند: داشتن یک هدف به معنای داشتن مجوز برای استفاده از هر منبعی برای رسیدن به آن نیست.
حتی اگر یک تراکنش روی شبکه آزمایشی انجام شود و توکن‌های مورد استفاده ارزش مالی واقعی نداشته باشند، استفاده بدون اجازه از یک حساب می‌تواند مرزهای مالکیت، امنیت و مجوزهای دسترسی را نقض کند.
