شبکه‌های عصبی مایع و مدل‌های SSM

تنگنای بنیادین ترنسفورمرها در مواجهه با داده‌های پیوسته جهان فیزیکی

برای بیش از هشت سال، مکانیسم خودتوجهی (Self-Attention) ترنسفورمرها ستون فقرات تمامی پیشرفت‌های هوش مصنوعی نوین را تشکیل می‌داد. با این حال، همان‌گونه که صنعت در اواسط با ظهور مدل‌های استدلال عمیق و مقیاس‌پذیری زمان تست (Test-Time Compute) پی برد، ترنسفورمرها به شدت برای داده‌های متنی گسسته (Discrete Tokens) بهینه شده‌اند اما در تحلیل جریان‌های پیوسته جهان فیزیکی دچار افت کارایی وحشتناک می‌شوند. در یک سیستم خودران یا پهپاد تجسسی، ورودی‌های بصری، لیدار و شتاب‌سنج‌ها نه به صورت کلمات مجزا، بلکه به عنوان امواج پیوسته در بستر زمان جریان دارند.

پیچیدگی محاسباتی درجه دوم ترنسفورمرها O(N²) به این معناست که با دو برابر شدن طول ویدیوی ورودی یا جریان سنسوری، حافظه و توان محاسباتی مورد نیاز چهار برابر می‌شود. علاوه بر این، ترنسفورمرها پس از پایان فاز آموزش دارای وزن‌های سیناپسی یخ‌زده و ثابت هستند؛ اگر شرایط نوری یا جوی ناگهان تغییر کند، یک ترنسفورمر کلاسیک توانایی تطبیق درلحظه را بدون مداخله مجدد نخواهد داشت. این تنگنا دانشمندان را واداشت تا به زیست‌شناسی بازگردند و سیستم عصبی کرم نماتد با تنها ۳۰۲ نورون را بازآفرینی کنند.

نتیجه این پژوهش‌ها امروزه بلوغ شبکه‌های عصبی مایع یا Liquid Neural Networks (LNN) است؛ شبکه‌هایی که پارامترها و وزن‌های آنها تابعی پیوسته از زمان و معادلات دیفرانسیل غیرخطی هستند و می‌توانند حتی پس از استقرار در محیط عملیاتی، رفتار دینامیک خود را با شرایط متغیر هماهنگ سازند.

معماری ریاضی مدل‌های فضای حالت (SSM) و فرمولاسیون بسته زمان‌پیوسته

جهش تاریخی شبکه‌های مایع امروزه با تلفیق آنها با مدل‌های فضای حالت ساختاریافته نظیر Mamba 2 حاصل شد. در معماری Mamba SSM، توکن‌ها از طریق یک نگاشت خطی زمان‌پیوسته پردازش می‌شوند که امکان مقیاس‌پذیری با پیچیدگی خطی O(N) را فراهم می‌آورد. این رویکرد به مدل اجازه می‌دهد سکانس‌هایی با میلیون‌ها فریم ویدیو یا داده‌های تله‌متری را با سرعتی تا پنج برابر ترنسفورمرها و با اشغال حافظه‌ای ثابت و اندک تحلیل کند.

نوآوری اصلی در شبکه‌های مایع حل تحلیلی فرم بسته (Closed-Form Continuous-Time) برای معادلات دیفرانسیل سیناپسی است. در گذشته، شبیه‌سازی معادلات دیفرانسیل نورونی نیازمند حل‌کننده‌های عددی پله‌به‌پله و کند نظیر Runge-Kutta بود که اجرای بلادرنگ را غیرممکن می‌ساخت. فرمولاسیون ریاضی نوین، مقادیر خروجی نورون‌ها را بدون نیاز به محاسبات بازگشتی پی‌درپی مستقیماً در هر لحظه دلخواه استخراج می‌کند.

این انعطاف‌پذیری خارق‌العاده به این مدل‌ها اجازه می‌دهد در تعامل با ایجنت‌های هوش مصنوعی کامپیوتر-یوز و اتوماسیون دسکتاپ، جریان‌های حرکتی ماوس و بازخوردهای گرافیکی را با تأخیر زیر ۱۰ میلی‌ثانیه پردازش کرده و پدیده‌ای موسوم به «انطباق خارج از دامنه توزیع» (Out-of-Distribution Adaptability) را محقق نمایند؛ یعنی عملکرد موفق در موقعیت‌هایی که مدل هرگز در داده‌های آموزشی خود با آن مواجه نبوده است.

انقلاب انرژی در پردازش لبه، روباتیک خودمختار و پرواز پهپادها

بزرگ‌ترین دستاورد کاربردی LNNها امروزه کاهش حیرت‌انگیز مصرف توان پردازشی به کمتر از ۱ وات روی چیپ‌های هوش مصنوعی تعبیه‌شده است. یک ربات انسان‌نما یا پهپاد اکتشافی که پیش از این برای اجرای یک مدل بینایی ترنسفورمر نیازمند ۲۰۰ وات انرژی و سیستم خنک‌کننده سنگین بود، اکنون با یک شبکه مایع ۱۹ نورونی قادر است مانورهای پیچیده ناوبری در میان موانع را با مصرف باتری ناچیز به سرانجام برساند.

در حوزه وسایل نقلیه خودران، شبکه‌های مایع به عنوان ناظران بلادرنگ شاسی و سیستم تعلیق عمل می‌کنند. همان‌طور که در بررسی تخصصی شاسی اسکیت‌بورد الکتریکی و معماری ولتاژ بالا در خودروهای مشاهده می‌کنیم، هماهنگ‌سازی هزاران حسگر اینرسی و محرک‌های مستقل چرخ‌ها نیازمند پردازش پیوسته با تأخیر نزدیک به صفر است که تنها با ساختارهای LNN ممکن می‌شود.

افزون بر این، در محیط‌های آزمایشگاهی و مأموریت‌های هوایی در آب‌وهوای طوفانی، LNNها نشان داده‌اند که در برابر نویز سنسوری و قطعی‌های مقطعی داده‌ها تا چهار برابر نسبت به شبکه‌های عصبی عمیق متداول پایدارتر هستند؛ زیرا مدل، وضعیت فیزیکی جهان را به مثابه یک خط پیوسته درک می‌کند نه مجموعه‌ای از فریم‌های بریده‌بریده.

همگرایی با سیستم‌های هیبریدی و چشم‌انداز هوش عمومی مصنوعی (AGI)

صاحب‌نظران حوزه هوش مصنوعی امروزه بر این باورند که آینده پردازش در ساختارهای ترکیبی هیبریدی (Hybrid SSM-Transformer Architectures) رقم خواهد خورد. در این سیستم‌ها، لایه‌های LNN و Mamba وظیفه ادراک مداوم حسی، پایش محیطی و استخراج ویژگی‌های پیوسته را بر عهده دارند، در حالی که لایه‌های استدلال نمادین و درخت‌های تصمیم‌گیری برای مسائل انتزاعی فعال می‌شوند.

این هم‌افزایی راهبردی، زنجیره اتصالات پایداری میان هوش ادراکی و سیستم‌های ارتباطی هوشمند مانند پروتکل ارتباطی بین ایجنت‌ها (A2A) و هماهنگی ازدحامی ایجاد کرده است. دوران کنونی آغازی بر رهایی هوش مصنوعی از قفس دیتاسنترهای پرمصرف و حلول آن در کالبد سخت‌افزارهای سبک، کم‌مصرف و سازگار با دنیای واقعی است.