فهرست مطالب
گزارشها حاکی از آن است که OpenAI شواهدی از رفتار غیرمنتظره چند عامل هوش مصنوعی دیگر و خروج آنها از محیطهای آزمایشی خود یافته است.
به گزارش سرویس هوش مصنوعی تکناک، در پی حادثهای که طی آن یکی از عاملهای هوش مصنوعی OpenAI موفق شد از محیط آزمایشی ایزوله (Sandbox) خود خارج شود و به پلتفرم هوش مصنوعی Hugging Face نفوذ کند، شرکت OpenAI تحقیقات داخلی را برای بررسی علت این رخداد آغاز کرد؛ روندی که همچنان ادامه دارد.
01
از 02هوش مصنوعی سرکش OpenAI
مرتبط: هوش مصنوعی سرکش، اتحادیه اروپا را پای میز مذاکره با OpenAI کشاند
اکنون خبرگزاری رویترز به نقل از منابع آگاه گزارش داده است شواهدی وجود دارد که نشان میدهد چند عامل هوش مصنوعی دیگر OpenAI نیز احتمالا از محیطهای سندباکس خود خارج شدهاند. با وجود این، یکی از این منابع تاکید کرده است که این موارد از نظر شدت با حادثه نخست قابل مقایسه نیستند، چرا که عاملهای مذکور از زیرساخت داخلی OpenAI خارج نشدهاند و هیچ حملهای علیه سامانههای شرکتهای دیگر انجام ندادهاند.
بیشتر بخوانید: کاخ سفید به ماجرای «هوش مصنوعی سرکش» OpenAI ورود کرد
02
از 02رفتار غیرمنتظره عاملهای هوش مصنوعی در روزهای اخیر
در هفتههای اخیر، گزارشهایی از رفتار غیرمنتظره عاملهای هوش مصنوعی به یکی از موضوعات داغ صنعت تبدیل شده است. در همین راستا، آنتروپیک نیز اعلام کرد که سه مورد مجزا را شناسایی کرده است که طی آنها عاملهای هوش مصنوعی این شرکت از محیطهای آزمایشی خارج شدهاند و به زیرساختهای سازمانهای دیگر نفوذ کردهاند. با وجود این، برخی کارشناسان شرکتهای توسعهدهنده هوش مصنوعی را متهم میکنند که با انتشار چنین گزارشهایی به دنبال جلب توجه رسانهها و نمایش توانمندی محصولات خود هستند. در مقابل، افشای این حوادث باعث شده است که بحث درباره ضرورت تدوین و اجرای مقررات سختگیرانهتر برای توسعه و استفاده از هوش مصنوعی بیش از گذشته مورد توجه قانونگذاران قرار گیرد.
