فهرست مطالب
استارتاپ Black Forest Labs که در زمینه توسعه ابزارهای هوش مصنوعی فعالیت می‌کند، پشت پرده تولیدکننده تصاویر هوش مصنوعی جدیدی است که توسط ایلان ماسک در شبکه اجتماعی X عرضه شده است.
به گزارش سرویس هوش مصنوعی تکناک و به نقل از سایت TechCrunch،چت‌بات هوش مصنوعی Grok که متعلق به ایلان ماسک است، شب سه‌شنبه ویژگی جدیدی را برای تولید تصاویر با هوش مصنوعی معرفی کرد.
این ویژگی که شباهت زیادی به چت‌بات هوش مصنوعی دارد، تقریباً هیچ محدودیتی ندارد، به این معنی که کاربران می‌توانند تصاویر جعلی، مانند تصویری از دونالد ترامپ در حال کشیدن ماری‌جوانا ، ایجاد کرده و مستقیماً آن را در پلتفرم X بارگذاری کنند. اما در واقع این استارت‌آپ جدید Black Forest Labs است که مسئول ارائه این قابلیت بحث‌برانگیز است، و هوش مصنوعی ایلان ماسک نیروی محرکه این جنون نیست.
همکاری بین این دو شرکت زمانی آشکار شد که xAI اعلام کرد با Black Forest Labs برای تقویت مولد هوش مصنوعی تصویر Grok با استفاده از مدل FLUX.1 همکاری می‌کند. این استارت‌آپ که در اول اوت راه‌اندازی شد و به تولید تصاویر و ویدئوهای هوش مصنوعی می‌پردازد، به نظر می‌رسد با دیدگاه ماسک در مورد Grok به عنوان یک “چت‌بات ضدبیداری” (Anti-Woke)که محدودیت‌های سختگیرانه‌ای مانند Dall-E از OpenAI یا Imagen از Google ندارد، هم‌سو است. اکنون، شبکه‌های اجتماعی با تصاویر عجیب و غریبی که توسط این ویژگی جدید تولید شده‌اند، پر شده است.
شرکت Black Forest Labs که در آلمان مستقر است، اخیراً با سرمایه‌گذاری اولیه ۳۱ میلیون دلاری به رهبری Andreessen Horowitz در محافل هوش مصنوعی بر سر زبانها افتاده است. دیگر سرمایه‌گذاران برجسته شامل Garry Tan مدیرعامل Y Combinator و Brendan Iribe مدیرعامل سابق Oculus هستند. هم‌بنیان‌گذاران این استارت‌آپ، رابین رومباخ، پاتریک اسسر و آندریاس بلاتمان، پیش‌تر به عنوان پژوهشگران مشارکت‌کننده در توسعه مدل‌های Stable Diffusion از Stability AI شناخته می‌شدند.
طبق گزارش Artificial Analysis، مدل‌های FLUX.1 شرکت Black Forest Labs از نظر کیفیت تولید تصویر حداقل بر اساس رتبه‌بندی کاربران در عرصه تصویر ، از مدل‌های هوش مصنوعی Midjourney و OpenAI پیشی گرفته‌اند،.
این استارت‌آپ اعلام کرده که “مدل‌های خود را به طور گسترده‌ای در دسترس عموم قرار می‌دهد”، و از طریق پلتفرم‌های متن باز مانند Hugging Face و GitHub مدل‌های مولد تصویر خود را ارائه می‌دهد. این شرکت همچنین قصد دارد به زودی یک مدل تولید متن به ویدئو راه‌اندازی کند.
Black Forest Labs هنوز درمورد این موارد اظهارنظر نکرده است.
در بیانیه‌ی راه‌اندازی این شرکت، هدف آن “افزایش اعتماد به ایمنی این مدل‌ها” عنوان شده است؛ اما برخی ممکن است بگویند که سیل تصاویر تولید شده توسط هوش مصنوعی آنها در پلتفرم X در روز چهارشنبه نتیجه‌ای معکوس داشت.
بسیاری از تصاویری که کاربران با استفاده از ابزارهای Grok و Black Forest Labs تولید کردند، مانند تصویر Pikachu با یک تفنگ تهاجمی، در پلتفرم‌های تولید تصویر گوگل یا OpenAI قابل ایجاد نبودند. همچنین، به نظر می‌رسد که از تصاویر دارای حق چاپ برای آموزش این مدل‌ها استفاده شده است.
01
از 02عدم محدودیت دلیل همکاری ماسک و Black Forest
نبود محدودیت برای تولید محتوا در مدب هوش مصنوعی به احتمال زیاد یکی از دلایل اصلی انتخاب این همکاری توسط ماسک بوده است. ماسک به وضوح بیان کرده که اعتقاد دارد این محدودیت‌ها در واقع ایمنی مدل‌های هوش مصنوعی را کاهش می‌دهند.
او در توییتی در سال ۲۰۲۲ گفته بود: “خطر آموزش هوش مصنوعی به گونه‌ای که بر اساس بیداری عمل کند — به عبارت دیگر، دروغ بگوید — مرگبار است.”
آنجنی میدها، مدیر هیئت مدیره Black Forest Labs، در پلتفرم X مجموعه‌ای از مقایسه‌ها بین تصاویری که در روز اول راه‌اندازی توسط همکاری Google Gemini و Grok’s Flux ایجاد شده بود را منتشر کرد. این رشته توییت‌ها به مشکلات مستند شده Google Gemini در ایجاد تصاویر تاریخی دقیق از افراد، به ویژه با تزریق نادرست تنوع نژادی به تصاویر ، اشاره می‌کند.
میدها در یک توییت گفت: “خوشحالم که @ibab و تیم او این مسئله را جدی گرفتند و انتخاب درستی انجام دادند”، اشاره‌ای به موفقیت FLUX.1 در اجتناب از این مشکل و ذکر حساب کاربری ایگور بابوشکین، پژوهشگر ارشد xAI.
به دنبال این اشتباه، گوگل عذرخواهی کرد و توانایی Gemini برای تولید تصاویر از افراد را در ماه فوریه متوقف کرد. تا به امروز، این شرکت هنوز اجازه تولید تصاویر از افراد توسط Gemini را نداده است.
02
از 02سیل عظیمی از اطلاعات نادرست
نبود کلی محافظت‌ها می‌تواند برای ماسک مشکلاتی به همراه داشته باشد. پلتفرم X با انتقادات زیادی مواجه شد وقتی که تصاویر عمیقاً جعلی تولید شده توسط هوش مصنوعی که نماینده تیلور سوئیفت بودند، در این پلتفرم به سرعت منتشر شدند. علاوه بر این حادثه، Grok تیترهای خیالی‌ای تولید می‌کند که تقریباً به صورت هفتگی به کاربران در X نمایش داده می‌شود.
تنها در هفته گذشته، پنج وزیر امور خارجه از X درخواست کردند که انتشار اطلاعات نادرست درباره کامالا هریس در این پلتفرم را متوقف کند. اوایل این ماه، ماسک ویدیویی را به اشتراک گذاشت که از هوش مصنوعی برای شبیه‌سازی صدای هریس استفاده کرده بود و باعث شد تا به نظر برسد که معاون رئیس‌جمهور اعتراف کرده که یک “استخدام بر اساس تنوع” بوده است.
به نظر می‌رسد ماسک قصد دارد اجازه دهد چنین اطلاعات نادرستی در این پلتفرم منتشر شود. با اجازه دادن به کاربران برای انتشار مستقیم تصاویر هوش مصنوعی گروک که به نظر می‌رسد هیچ واترمارکی ندارند، در واقع یک سیل اطلاعات نادرست را به سمت فید خبری ایکس همه افراد باز کرده است.
