هشدار ساتیا نادلا: شرکت‌ها در استفاده از هوش مصنوعی مرتکب یک اشتباه بزرگ می‌شوند

01

از 03

آموزش مدل‌های هوش مصنوعی

مدیرعامل مایکروسافت معتقد است خطر اصلی زمانی ایجاد می‌شود که شرکت‌ها به‌طور مستقیم در حال آموزش مدل‌ها درباره ظرافت‌ها و جزئیات داخلی کسب‌وکار خود هستند. نادلا توضیح می‌دهد مدل‌های هوش مصنوعی تنها از داده‌های اولیه یاد نمی‌گیرند، بلکه از «آثار باقی‌مانده» تعامل کاربران نیز آموزش می‌بینند؛ از جمله درخواست‌هایی که کاربران ثبت می‌کنند، ابزارهایی که عامل‌های هوشمند به کار می‌گیرند و اصلاحاتی که انسان‌ها هنگام اشتباه مدل ارائه می‌دهند.

به گفته او، هر اصلاح انسانی در نهایت به بخشی از «دانش سازمانی» تبدیل می‌شود؛ دانشی که یک رقیب در بازار هرگز قادر به خرید مستقیم آن نخواهد بود، اما شرکت‌ها ممکن است ناخواسته آن را در اختیار ارائه‌دهندگان مدل‌های هوش مصنوعی قرار دهند.

بیشتر بخوانید: هوش مصنوعی، کارکنان مسن‌تر را از بازار کار کنار می‌ زند

نادلا همچنین معتقد است اگر شرکت‌های توسعه‌دهنده هوش مصنوعی می‌توانند آزادانه اینترنت را برای آموزش مدل‌های خود استخراج کنند، شرکت‌ها نیز باید حق داشته باشند مدل‌های آن‌ها را تحلیل و از طریق فرآیند «تقطیر مدل» از آن‌ها یاد بگیرند. تقطیر مدل، روشی است که در آن خروجی‌های یک مدل بزرگ برای درک رفتار آن و ساخت مدل کوچک‌تر و کم‌هزینه‌تر استفاده می‌شود.

02

از 03

هشدار ساتیا نادلا درباره اطلاعات ارزشمند سازمان‌ها

این بحث پس از آن جدی‌تر شد که آنتروپیک در ماه فوریه ادعا کرد برخی مدل‌های هوش مصنوعی متن‌باز چینی میلیون‌ها درخواست به Claude ارسال کرده‌اند تا از پاسخ‌های این مدل برای بهبود محصولات خود استفاده کنند. این شرکت همچنین خواستار اعمال محدودیت‌های صادراتی سخت‌گیرانه‌تر از سوی دولت آمریکا شد. طبق هشدار ساتیا نادلا، توسعه‌دهندگان مدل‌های هوش مصنوعی نمی‌توانند در هر دو سوی معادله قرار بگیرند؛ یعنی از یک طرف از داده‌های عمومی جهان برای آموزش مدل‌های خود استفاده کنند و از سوی دیگر، دیگران را از تحلیل یا یادگیری از همین مدل‌ها محدود کنند.

برای مطالعه بیشتر: قابلیت جدید Claude کاربران را به استفاده از هوش مصنوعی ترغیب می‌کند

او این رویکرد را نوعی تناقض می‌داند و می‌نویسد: «در حالی که نوآوری حاصل از حق استفاده منصفانه ارائه‌دهندگان مدل برای آموزش مدل‌ها با داده‌های عمومی ضروری است، عجیب به نظر می‌رسد که همین وضعیت به اعمال محدودیت‌های سخت‌گیرانه برای تقطیر مدل‌ها منجر شود.» نادلا بیشترین نگرانی خود را متوجه زمانی می‌داند که شرکت‌های توسعه‌دهنده مدل، «حق یادگیری از داده‌های مربوط به نحوه استفاده و تعامل مشتریان» را برای خود حفظ می‌کنند؛ چرا که این داده‌ها می‌توانند شامل ارزشمندترین اطلاعات عملیاتی و تجاری سازمان‌ها باشند.

03

از 03

راه‌حل چیست؟

راهکاری که مدیرعامل مایکروسافت پیشنهاد می‌کند، با توجه به جایگاه این شرکت به‌عنوان یکی از بزرگ‌ترین ارائه‌دهندگان زیرساخت ابری جهان، چندان دور از انتظار نیست. او معتقد است شرکت‌ها باید مالکیت داده‌های خود، از جمله درخواست‌های ثبت‌شده، بازخورد کاربران و تعاملات انجام‌شده با مدل‌ها را حفظ کنند. نادلا پیشنهاد می‌کند سازمان‌ها «محیط‌های یادگیری اختصاصی» خود را روی فضای ابری ایجاد کنند تا کنترل بیشتری بر نحوه استفاده از داده‌هایشان داشته باشند؛ راهکاری که البته می‌تواند فرصت بزرگی برای سرویس ابری Azure مایکروسافت نیز ایجاد کند.

او همچنین بر ایجاد «لایه‌های هماهنگ‌سازی» تاکید دارد؛ زیرساخت‌هایی که به شرکت‌ها اجازه می‌دهند بدون وابستگی به یک ارائه‌دهنده خاص، میان مدل‌های مختلف هوش مصنوعی جابه‌جا شوند. در همین راستا، ابزارهای موسوم به AI Gateway که مدیریت ارتباط میان مدل‌های مختلف را آسان می‌کنند، در ماه‌های اخیر رشد چشمگیری داشته‌اند. اگرچه نادلا از مدل‌های متن‌باز به‌عنوان راهکار حفظ مالکیت داده‌ها نام نمی‌برد، اما پیام ضمنی سخنان او کاملا به این مسیر اشاره دارد.

در همین حال، بسیاری از شرکت‌های بزرگ که همچنان بخشی از زیرساخت‌های پردازشی خود را در مراکز داده اختصاصی نگه می‌دارند، به سمت استفاده از مدل‌های متن‌باز نصب‌شده روی سرورهای داخلی خود حرکت کرده‌اند؛ رویکردی که در صنعت فناوری با اصطلاح On-prem شناخته می‌شود. ایدیت لوین، مدیرعامل Solo.io، معتقد است این تغییر در میان مشتریان سازمانی این شرکت به‌وضوح قابل مشاهده است. او توضیح می‌دهد سازمان‌ها پس از تجربه مدل‌های اختصاصی، به این نتیجه می‌رسند که مدل‌های متن‌باز می‌توانند بخش عمده‌ای از قابلیت‌های مدل‌های بزرگ تجاری را با هزینه کمتر و کنترل بیشتر ارائه دهند.

خبر پیشنهادی: دولت آمریکا علیه هوش مصنوعی چین وارد عمل شد

فناوری Solo.io سال گذشته به‌عنوان زیرساخت پروژه Agentgateway بنیاد لینوکس انتخاب شد و این شرکت مشتریانی مانند T-Mobile، ADP و SAP دارد. لوین معتقد است موج بعدی پذیرش هوش مصنوعی در سازمان‌ها، به سمت مدل‌های متن‌باز داخلی حرکت خواهد کرد. این روند تنها به Solo.io محدود نیست. Vercel و OpenRouter نیز افزایش قابل توجه استفاده از مدل‌های متن‌باز را گزارش کرده‌اند. طبق داده‌های Vercel، مدل‌های متن‌باز در ماه گذشته ۲۹ درصد از کل درخواست‌های عبوری از درگاه هوش مصنوعی این شرکت را تشکیل داده‌اند.

اکنون که ساتیا نادلا، شرکتی با سرمایه‌گذاری‌های گسترده در OpenAI و آنتروپیک ، به‌صورت علنی نسبت به وابستگی شرکت‌ها به مدل‌های اختصاصی هشدار داده است، احتمالا حرکت سازمان‌ها به سمت مدل‌های متن‌باز و زیرساخت‌های قابل‌کنترل‌تر شتاب خواهد گرفت. نادلا در پایان می‌نویسد: «با مصرف هوش، شما در حال ایجاد هوش هستید؛ و چیزی که ایجاد می‌کنید باید متعلق به خودتان باشد.»