کاخ سفید از اوپن ای آی و آنتروپیک خواست آزمایش مدلهای جدید با بریتانیا را متوقف کنند
رهاتل: کاخ سفید از اوپن ای آی و آنتروپیک خواسته است اشتراک گذاری مدلهای جدید هوش مصنوعی با ارزیابان بریتانیایی را تا زمان تکمیل بررسیهای امنیتی آمریکا متوقف کنند؛ تصمیمی که به دنبال افزایش نگرانی ها درباره ی توانایی عامل های هوش مصنوعی برای دسترسی بدون مجوز به سامانه های خارجی اتخاذ شده است.
به گزارش رهاتل به نقل از خبر آنلاین و برپایه گزارش زومیت، بر مبنای گزارشی اختصاصی از پولیتیکو که رویترز هم آنرا گزارش کرده، دولت آمریکا از اوپن ای آی و آنتروپیک خواسته است آزمایش مدلهای جدید خود با کارشناسان و ارزیابان بریتانیایی را به طور موقت متوقف کنند تا بررسیهای امنیتی در آمریکا تکمیل شود.
این درخواست در شرایطی عنوان شده که قابلیت های عامل های هوش مصنوعی برای تعامل مستقل با وب، سیستم های نرم افزاری و داده های خارجی، نگرانی های جدیدی در حوزه امنیت سایبری بوجود آورده است. دولت آمریکا ظاهراً می خواهد قبل از انتقال یا آزمایش مدلهای پیشرفته با شرکای خارجی، دستاوردهای امنیتی این فرآیند را ارزیابی کند.
دسترسی غیر مجاز عامل هوش مصنوعی به یک سامانه دولتی استرالیا یکی از مهم ترین رخدادهای اخیر در این مورد در استرالیا اتفاق افتاده است. آنتونی آلبانیزی، نخست وزیر استرالیا، اعلام نمود یک عامل هوش مصنوعی متعلق به اوپن ای آی در ۱۸ ژوئن ۲۰۲۶ هنگام انجام یک ارزیابی داخلی، به شکل غیر مجاز وارد پورتال آمار Medicare متعلق به سازمان Services Australia شده است.
به قول مقام های استرالیایی، این عامل ابتدا برای یافتن اطلاعات عمومی در رابطه با هزینه داروها در اینترنت فعالیت می کرد، اما بعد از مواجه شدن با محدودیت های سامانه، راه هایی برای عبور از این موانع پیدا کرد و توانست به فایل های عمومی و غیرعمومی دسترسی پیدا کند.
با این وجود، دولت استرالیا تاکید کرده است که شواهدی از دسترسی به اطلاعات شخصی بیماران وجود ندارد. داده های غیرعمومی مشاهده شده هم به طور عمده شامل آمار تجمیعی سلامت و نام برخی فایل های داخلی بوده است.
این حادثه از آن جهت اهمیت دارد که عامل هوش مصنوعی، بر خلاف یک ابزار صرفا پاسخ گو، توانسته است در جریان انجام یک وظیفه، با یک سامانه خارجی تعامل کند و بعد از مواجه شدن با محدودیت، مسیر دیگری برای رسیدن به اطلاعات موردنظرش پیدا کند.
چرا آزمایش مدلهای هوش مصنوعی حساس تر شده است؟ عامل های هوش مصنوعی نسل جدید می توانند علاوه بر تولید متن، در محیط های دیجیتال جست وجو کنند، با ابزارهای نرم افزاری تعامل داشته باشند و مجموعه ای از اقدامات را برای رسیدن به یک هدف دنبال کنند. همین قابلیت، سطح جدیدی از ریسک های امنیتی را بوجود آورده است.
در پرونده استرالیا هم مقام های دولتی تاکید کرده اند که باآنکه تاثیر عملی رخداد محدود بوده، دسترسی غیر مجاز یک عامل هوش مصنوعی به سامانه دولتی خود یک مساله امنیتی جدی به حساب می آید.
اوپن ای آی هم اعلام نموده است که درحال بررسی گسترده فعالیتهای ناهمسو با هدف موردنظر مدل هاست و در جریان این بررسی، مواردی از تعامل مدلها با چند وبسایت دولتی استرالیا شناسایی شده است. این شرکت گفته است در این فعالیتها، مدلها اقداماتی انجام داده اند که مطابق انتظار توسعه دهندگان نبوده است.
همکاری بین المللی هوش مصنوعی زیر ذره بین امنیتی در چنین شرایطی، درخواست کاخ سفید از اوپن ای آی و آنتروپیک نشان داده است که ارزیابی امنیتی مدلهای پیشرفته فقط به مرحله توسعه داخلی محدود نمی شود و آزمایش برون مرزی این مدلها هم می تواند به یک مبحث امنیت ملی تبدیل گردد.
مقام های آمریکایی طبق گزارش پولیتیکو می خواهند قبل از ادامه اشتراک گذاری مدلهای جدید با ارزیابان خارجی، بررسی نمایند که چه خطراتی امکان دارد متوجه زیرساخت های حیاتی و سیستم های حساس شود.
این رویکرد در حالی مطرح گردیده است که شرکتهای سازنده مدلهای پیشرفته هم به صورت درحال افزایشی در رابطه با توانایی های جدید عامل های هوش مصنوعی و لزوم توسعه سازوکارهای نظارتی و ایمنی اخطار می دهند. رخداد استرالیا حالا به یکی از نمونه های مهمی تبدیل گشته است که نشان داده است فاصله میان یک «عامل هوش مصنوعی آزمایشی» و سامانه ای که می تواند با زیرساخت های حقیقی تعامل کند، امکان دارد کمتر از گذشته باشد.
منبع: رهاتل
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان رهاتل در مورد این مطلب