همکاری OpenAI با پلیس کانادا برای شناسایی زودهنگام قاتلان و مجرمان خطرناک، پروتکلهای امنیتی هوش مصنوعی را در سطح جهانی وارد مرحله جدیدی کرد.
به گزارش سرویس هوش مصنوعی تکناک، OpenAI در نامهای خطاب به مقامهای کانادایی تعهد داده است که پروتکلهای ایمنی خود را تقویت کند و تهدیدهای معتبر را سریعتر به نیروهای مجری قانون اطلاع دهد. اگر به خاطر بیاورید، پساز انتشار گزارشهایی مبنیبر اینکه OpenAI در سال ۲۰۲۵ هنگام مسدودکردن حساب کاربری متعلق به مظنون تیراندازی مرگبار در تامبلر ریج واقع در بریتیش کلمبیا مقامهای مسئول را مطلع نکرده بود، سیاستمداران کانادایی رهبران این شرکت را احضار کردند.
براساس گزارشهای پولیتیکو و واشنگتنپست، برخی از مدیران ارشد OpenAI پیشتر با مقامهای کانادایی دیدار کردهاند و دیوید ابی، نخستوزیر بریتیش کلمبیا، نیز اعلام کرده است که سم آلتمن با ملاقات با او موافقت کرده است.
درحالیکه OpenAI هنوز بهطور رسمی از تغییر در قوانین خود خبر نداده است، گفته میشود آن اولیری، معاون سیاستگذاری جهانی این شرکت، در این نامه نوشته است که OpenAI سامانههای شناسایی خود را بهگونهای تنظیم خواهد کرد که بهتر بتوانند از بازگشت کاربران مسدودشده به پلتفرم جلوگیری کنند.
ظاهراً پساز آنکه OpenAI حساب کاربری اولیه عامل این تیراندازی را بهدلیل نشانههای بالقوه از قصد ارتکاب خشونت در دنیای واقعی مسدود کرد، این فرد توانسته بود حساب جدیدی ایجاد کند. شرکت فقط پساز اعلام عمومی نام عامل تیراندازی متوجه حساب دوم شد و در پی آن، مقامهای مسئول را در جریان قرار داد.
علاوهبراین، OpenAI ازاینپس درصورت شناسایی تهدیدهای قریبالوقوع و معتبر در گفتوگوهای ChatGPT، مقامهای مسئول را مطلع خواهد کرد؛ حتی اگر کاربر هدف , ابزار و زمانبندی خشونت برنامهریزیشده را بهطور مشخص بیان نکرده باشد.
اولیری توضیح داده است که اگر این قوانین جدید در زمان مسدودشدن حساب کاربری عامل تیراندازی در سال ۲۰۲۵ اجرایی شده بودند، شرکت پلیس را از آن باخبر میکرد. OpenAI نقطه تماس مشخصی نیز برای نیروهای مجری قانون کانادا ایجاد خواهد کرد تا درصورت نیاز، اطلاعات را بهسرعت با مقامها به اشتراک بگذارد.
به نوشته انگجت، دولت کانادا تصمیم OpenAI برای گزارشنکردن حساب کاربری اولیه این فرد را ناکامی میداند و هشدار داده است که اگر سازندگان چتباتهای هوش مصنوعی نتوانند نشان دهند که سازوکارهای حفاظتی مناسبی برای محافظت از کاربران وجود دارد، برای این ابزارها در کشور مقرراتی وضع خواهد کرد. درحالحاضر، مشخص نیست که OpenAI قصد دارد همین تغییرات را در ایالات متحده و دیگر نقاط جهان نیز اجرا کند یا خیر.
