آیا معماری های کم عمق الهام گرفته شده از مغز انسان می توانند با عملکرد معماری‌های عمیق رقابت کنند و اگر چنین است، مکانیسم‌های اساسی که این امکان را فراهم می کنند چیست؟
به گزارش تکناک، مغز انسان ، علیرغم ساختار نسبتا کم عمق با لایه‌های محدود، کارآمد عمل می‌کند، در حالی که سیستم‌های هوش مصنوعی مدرن، معماری‌های عمیق با لایه‌های متعدد دارند.
روش‌های یادگیری شبکه‌های عصبی از عملکرد مغز الهام گرفته شده‌اند، اما تفاوت‌های اساسی بین نحوه یادگیری مغز و نحوه عملکرد یادگیری عمیق وجود دارد. یک تمایز کلیدی در تعداد لایه هایی است که هر یک از آنها استفاده می کنند.
سیستم‌های یادگیری عمیق اغلب لایه‌های زیادی دارند که گاهی به صدها لایه می‌رسد که به آنها اجازه می‌دهد تا به طور موثر وظایف طبقه‌بندی پیچیده را بیاموزند. در مقابل، مغز انسان ساختار بسیار ساده‌تری با لایه‌های بسیار کمتر دارد. با وجود معماری نسبتا کم عمق و ماهیت کندتر و پر سر و صداتر فرآیندهای آن، مغز به طور قابل توجهی در انجام وظایف پیچیده طبقه‌بندی به طور موثر ماهر است.
تحقیق در مورد مکانیسم های یادگیری کم عمق در مغز
سوال کلیدی که باعث تحقیقات جدید می شود، مکانیسم احتمالی اساسی یادگیری سطحی کارآمد مغز است که مکانیزمی است که آن را قادر می سازد وظایف طبقه‌بندی را با دقتی مشابه با یادگیری عمیق انجام دهد. در مقاله ای که در مجله Physica A منتشر شده است، محققان دانشگاه Bar-Ilan نشان می دهند که چگونه چنین مکانیسم‌های یادگیری سطحی می‌توانند با یادگیری عمیق رقابت کنند.
پروفسور ایدو کانتر که این تحقیق را رهبری می‌کرد، گفت: به جای یک معماری عمیق مانند یک آسمان خراش، مغز از یک معماری کم عمق گسترده تشکیل شده است که بیشتر شبیه یک ساختمان بسیار عریض با تنها چند طبقه است.
توانایی طبقه‌بندی صحیح اشیا در جایی که معماری عمیق‌تر می‌شود، با لایه‌های بیشتر افزایش می‌یابد. در مقابل، مکانیسم کم عمق مغز نشان می‌دهد که یک شبکه گسترده‌تر، اشیاء را بهتر طبقه‌بندی می‌کند.
کانتر افزود: معماری‌های وسیع‌تر و بالاتر نشان‌دهنده دو مکانیسم مکمل هستند. با این وجود، تحقق معماری‌های کم‌عمق بسیار گسترده با تقلید از پویایی مغز، نیازمند تغییر در ویژگی‌های فناوری پیشرفته پردازنده گرافیکی است که می‌تواند معماری عمیق را تسریع کند، اما در اجرای معماری‌های کم عمق گسترده شکست می‌خورد.
