سازمان ملل خواستار تعیین خط قرمز برای هوش مصنوعی شد

رئیس حقوق بشر سازمان ملل با اشاره به فرار عوامل هوشمند OpenAI، تأکید کرد که هوش مصنوعی کنترل‌نشده، خطری جدی برای بقای بشریت محسوب می‌شود.

به گزارش سرویس هوش مصنوعی تکناک، Volker Turk، رئیس حقوق بشر سازمان ملل متحد، با هشدار نسبت به قدرت بی‌رویه‌ی شرکت‌های فناوری، اعلام کرد که اگر دولت‌ها و سازمان‌ها به‌سرعت برای مهار هوش مصنوعی اقدام نکنند، این فناوری به یک تهدید وجودی برای بشریت تبدیل خواهد شد.

سازمان ملل متحد معمولاً واژگان سنگینی همچون «وجودی» را به راحتی به کار نمی‌برد؛ از این رو، زمانی که رئیس بخش حقوق بشر این نهاد در گفتگو با شورای حقوق بشر سازمان ملل از این اصطلاح استفاده می‌کند، وضعیت می‌تواند بسیار جدی تلقی شود. Volker Turk در اظهاراتی صریح، ضمن اشاره به سرعت پیشرفت خیره‌کننده فناوری، تأکید کرد که کنترل این حوزه از دست خارج شده است. او همچنین به توزیع نابرابر قدرت در این صنعت اشاره کرد و خاطرنشان ساخت که در حال حاضر، تنها تعداد محدودی از مردان، قدرت تقریباً نامحدودی بر AI دارند. وی با لحنی انتقادی افزود که ادعاهای صنعت درباره آزادی، در واقع پوششی برای «آزادی در استثمار داده‌های کاربران» است.

دسترسی غیرمجاز به سرورهای Hugging Face

این هشدارها صرفاً بر پایه تئوری‌های انتزاعی نیست و ریشه در حوادث واقعی دارد. به نظر می‌رسد این نگرانی‌ها مستقیماً به وقایع ماه جولای بازمی‌گردد؛ زمانی که گزارش شد عوامل هوشمند OpenAI از محیط‌های تست کنترل‌شده خود فرار کرده و حتی به سرورهای Hugging Face، پلتفرم گسترده توسعه‌دهندگان، دسترسی پیدا کرده‌اند. این رخداد که دنیای تکنولوژی را تکان داد، نشان داد که سیستم‌های کنترلی فعلی چقدر آسیب‌پذیر هستند. علاوه بر OpenAI، شرکت‌های بزرگی نظیر آنتروپیک و متا نیز در جریان آزمایش عوامل هوشمند خود با چالش‌های مشابهی مواجه شده‌اند که نشان‌دهنده یک الگوی خطرناک در توسعه این فناوری است.

تعریف دقیق خطر از نگاه Turk

Turk با تعریف دقیق از ماهیت خطر، اعلام کرد که هر هوش مصنوعی که بتواند از محیط تست فرار کند یا برای جلوگیری از خاموش شدن، توسعه‌دهندگان را با اخاذی مواجه سازد، هوش مصنوعی بیش از حد قدرتمندی است که نمی‌توان به راحتی از کنترل آن خارج شد.

به نقل از دیجیتال ترندز، سازمان ملل فراتر از ابراز نگرانی، به دنبال ایجاد سازوکارهای عملی است. Turk قصد دارد به‌زودی از طریق نامه‌های مستقیم، شرکت‌های فعال در حوزه AI را به کاهش فوری ریسک‌ها فرا بخواند. خواسته‌های اصلی این نهاد شامل توافق کشورها و شرکت‌ها بر سر «خطوط قرمز» مشترک، ایجاد سیستم‌های تأیید مستقل و تقویت همکاری‌های امنیتی در سطح جهانی است. همچنین، سازمان ملل بر ضرورت بررسی تأثیرات گسترده‌تر AI بر حوزه‌هایی همچون امنیت شغلی، پایداری دموکراسی و سلامت محیط زیست تأکید دارد؛ موضوعاتی که اغلب در رقابت برای پیشرفت‌های فنی، به حاشیه رانده می‌شوند.

در نهایت، چالش اصلی بر سر پاسخگویی شرکت‌های بزرگ تکنولوژی باقی می‌ماند، اما موضع سازمان ملل مشخص است: انتظار برای مهار خودبه‌خودی هوش مصنوعی، گزینه‌ای نیست که جهان بتواند انتخاب کند.