سیستم MIT یادگیری عمیق هوش مصنوعی را به دستگاه های “اینترنت اشیا” می آورد
Advance می تواند ضمن تقویت امنیت داده و بهره وری انرژی ، هوش مصنوعی را در لوازم خانگی فعال کند.
یادگیری عمیق همه جا است. این شاخه از هوش مصنوعی رسانه های اجتماعی شما را تحت نظارت قرار داده و نتایج جستجوی Google شما را ارائه می دهد. به زودی ، یادگیری عمیق همچنین می تواند حیوانات شما را بررسی کند یا ترموستات شما را تنظیم کند. محققان MIT سیستمی را ایجاد کرده اند که می تواند شبکه های عصبی یادگیری عمیق را به مکان های جدید – و بسیار کوچکتر – مانند تراشه های کوچک رایانه در تجهیزات پزشکی پوشیدنی ، لوازم خانگی و 250 میلیارد اشیا دیگر که “اینترنت اشیا” را تشکیل می دهند ، ارائه دهد اینترنت اشیا)
این سیستم که MCUNet نام دارد ، شبکه های عصبی کامپکت را طراحی می کند که با وجود حافظه و قدرت پردازش محدود ، سرعت و دقت بی سابقه ای را برای یادگیری عمیق در دستگاه های اینترنت اشیا ارائه می دهد . این فناوری می تواند ضمن صرفه جویی در مصرف انرژی و بهبود امنیت داده ها ، گسترش جهان اینترنت اشیا را تسهیل کند.
این تحقیق در کنفرانس ماه آینده سیستم های پردازش اطلاعات عصبی ارائه خواهد شد. نویسنده اصلی آن جی لین ، دانشجوی دکترای آزمایشگاه سونگ هان در بخش مهندسی برق و علوم کامپیوتر MIT است. از جمله نویسندگان مشترک می توان به هان و یوجون لین از دانشگاه MIT ، وی مینگ چن از دانشگاه MIT و دانشگاه ملی تایوان و جان کوه و چوانگ گان از آزمایشگاه AI MIT-IBM Watson اشاره کرد.
اینترنت اشیا
اینترنت اشیا در اوایل دهه 1980 متولد شد. دانشجویان گراد دانشگاه کارنگی ملون ، از جمله مایک کازار ’78 ، یک دستگاه کولاکولا را به اینترنت متصل کردند. انگیزه این گروه ساده بود: تنبلی. آنها می خواستند با استفاده از رایانه های خود قبل از پیاده روی از دفتر خود برای خرید ، انبار شده دستگاه را تأیید كنند. این اولین وسیله متصل به اینترنت در جهان بود. کازار ، اکنون مهندس مایکروسافت می گوید: “این تقریباً به عنوان خط شوخی با یک شوخی تلقی می شد.” “هیچ کس انتظار میلیاردها دستگاه در اینترنت را نداشت.”
از آن دستگاه کک ، اشیا everyday روزمره به طور فزاینده ای به اینترنت اشیا در حال رشد تبدیل می شوند. این شامل همه چیز از مانیتورهای پوشیدنی قلب گرفته تا یخچال های هوشمند است که به شما می گویند کمبود شیر است. دستگاه های اینترنت اشیا often اغلب با میکروکنترلرها کار می کنند – تراشه های رایانه ای ساده بدون سیستم عامل ، حداقل قدرت پردازش و کمتر از یک هزارم حافظه تلفن های هوشمند معمولی. بنابراین انجام وظایف شناسایی الگو مانند یادگیری عمیق به طور محلی بر روی دستگاه های اینترنت اشیا دشوار است. برای تجزیه و تحلیل پیچیده ، داده های جمع آوری شده اینترنت اشیا اغلب به ابر ارسال می شوند و این امر در برابر هک شدن آسیب پذیر است.
“چگونه می توانیم شبکه های عصبی را مستقیماً روی این دستگاه های کوچک مستقر کنیم؟ این یک منطقه تحقیقاتی جدید است که بسیار داغ می شود. ” “شرکت هایی مانند Google و ARM همه در این راستا کار می کنند.” هان هم
با استفاده از MCUNet ، گروه هان دو م componentsلفه مورد نیاز برای “یادگیری عمیق کوچک” را رمزگذاری کرد – عملکرد شبکه های عصبی روی میکروکنترلرها. یک جز component TinyEngine است ، یک موتور استنباطی که مدیریت منابع را هدایت می کند ، شبیه به یک سیستم عامل. TinyEngine برای اجرای یک ساختار شبکه عصبی خاص بهینه شده است که توسط م componentلفه دیگر MCUNet انتخاب شده است: TinyNAS ، الگوریتم جستجوی معماری عصبی.
سیستم رمزگذاری الگوریتم سیستم
طراحی یک شبکه عمیق برای میکروکنترلرها آسان نیست. تکنیک های موجود در جستجوی معماری عصبی با انبوهی از ساختارهای شبکه احتمالی مبتنی بر یک الگوی از پیش تعریف شده شروع می شوند ، سپس آنها به تدریج یکی را با دقت بالا و هزینه کم پیدا می کنند. در حالی که روش کار می کند ، اما کارآمدترین نیست. لین می گوید: “این می تواند برای GPU ها یا تلفن های هوشمند بسیار خوب عمل کند.” “اما استفاده مستقیم از این تکنیک ها برای میکروکنترلرهای کوچک بسیار دشوار است ، زیرا آنها بسیار کوچک هستند.”
بنابراین لین TinyNAS را توسعه داد ، یک روش جستجوی معماری عصبی که شبکه هایی با اندازه سفارشی ایجاد می کند. لین می گوید: “ما میکروکنترلرهای زیادی داریم که با ظرفیت های مختلف قدرت و اندازه حافظه متفاوت ارائه می شوند.” “بنابراین ما الگوریتم [TinyNAS] را برای بهینه سازی فضای جستجو برای میکروکنترلرهای مختلف توسعه دادیم.” ماهیت سفارشی TinyNAS به این معنی است که می تواند شبکه های عصبی جمع و جوری با بهترین عملکرد ممکن برای میکروکنترلر – بدون پارامترهای غیر ضروری – ایجاد کند. لین می گوید: “سپس ما مدل نهایی و کارآمد را به میکروکنترلر تحویل می دهیم.”
برای اجرای آن شبکه عصبی کوچک ، یک میکروکنترلر همچنین به یک موتور استنباط ناب نیاز دارد. یک موتور استنتاج معمولی وزن کمی دارد – دستورالعمل هایی برای کارهایی که ممکن است به ندرت کار کند. کد اضافی برای لپ تاپ یا گوشی هوشمند مشکلی ایجاد نمی کند ، اما به راحتی می تواند یک میکروکنترلر را تحت فشار قرار دهد. هان می گوید: “این حافظه خارج از تراشه و دیسک ندارد.” “همه چیز کنار هم فقط یک مگابایت فلاش است ، بنابراین ما باید واقعاً یک منبع کوچک را با دقت مدیریت کنیم.” نشانه TinyEngine.
محققان موتور استنباط خود را در همکاری با TinyNAS توسعه دادند. TinyEngine کد اساسی لازم برای اجرای شبکه عصبی سفارشی TinyNAS را تولید می کند. هرگونه کد وزن سبک کنار گذاشته می شود که باعث کاهش زمان کامپایل می شود. هان می گوید: “ما فقط آنچه نیاز داریم را نگه می داریم.” “و از آنجا که شبکه عصبی را طراحی کردیم ، دقیقاً می دانیم که به چه چیزهایی نیاز داریم. این مزیت طراحی کد الگوریتم سیستم است. ” در آزمایشات گروه TinyEngine ، اندازه کد باینری وارد شده بین 1.9 تا 5 برابر کوچکتر از موتورهای استنباطی میکروکنترلر قابل مقایسه از Google و ARM بود. TinyEngine همچنین حاوی نوآوری هایی است که باعث کاهش زمان کار می شود ، از جمله پیچش عمقی در محل ، که اوج استفاده از حافظه را تقریباً به نصف کاهش می دهد. پس از رمزگذاری TinyNAS و TinyEngine ، تیم هان MCUNet را آزمایش کردند.
اولین چالش MCUNet طبقه بندی تصویر بود. محققان از پایگاه داده ImageNet برای آموزش سیستم با تصاویر دارای برچسب و سپس آزمایش توانایی آن در طبقه بندی تصاویر جدید استفاده کردند. MCUNet با استفاده از یک میکروکنترلر تجاری که آنها آزمایش کردند ، 70.7 درصد از تصاویر جدید را با موفقیت طبقه بندی کرد – پیشرفته ترین شبکه عصبی و موتور استنتاج قبلی 54 درصد دقیق بود. لین می گوید: “حتی یک درصد پیشرفت نیز قابل توجه است.” “بنابراین این یک جهش عظیم برای تنظیمات میکروکنترلر است.”
این تیم نتایج مشابهی را در آزمایشات ImageNet سه میکروکنترلر دیگر یافتند. با توجه به سرعت و دقت ، MCUNet رقابت برای انجام وظایف صوتی و تصویری “واژه کلیدی” را پشت سر می گذارد ، جایی که کاربر با استفاده از نشانه های صوتی با کامپیوتر شروع به تعامل می کند (فکر کنید: “سلام ، سیری”) یا به سادگی با ورود به اتاق. این آزمایشات سازگاری MCUNet را با بسیاری از برنامه ها برجسته می کند.
“پتانسیل عظیم”
نتایج امیدوار کننده آزمون هان را امیدوار می کند که به استاندارد جدید صنعت برای میکروکنترلرها تبدیل شود. وی می گوید: “این پتانسیل عظیمی دارد.”
کورت کویتزر ، دانشمند علوم کامپیوتر از دانشگاه کالیفرنیا در برکلی ، که در کار دخیل نبوده ، می گوید: “پیشرفت” مرز طراحی شبکه عصبی عمیق را حتی تا حدی بیشتر به حوزه محاسباتی میکروکنترلرهای کوچک با مصرف انرژی گسترش می دهد. ” وی اضافه می کند که MCUNet می تواند “توانایی هوشمندانه بینایی رایانه را حتی به ساده ترین وسایل آشپزخانه بیاورد ، یا حسگرهای حرکتی هوشمندتری را فعال کند.”
MCUNet همچنین می تواند باعث امنیت بیشتر دستگاه های اینترنت اشیا شود. هان می گوید: “یک مزیت اصلی حفظ حریم خصوصی است.” “شما نیازی به انتقال داده ها به ابر ندارید.”
تجزیه و تحلیل داده ها به طور محلی خطر سرقت اطلاعات شخصی را کاهش می دهد – از جمله داده های بهداشت شخصی. هان ساعت های هوشمندی را با MCUNet متصور است که فقط ضربان قلب ، فشار خون و میزان اکسیژن کاربران را درک نمی کند بلکه به آنها کمک می کند تا این اطلاعات را درک کنند. MCUNet همچنین می تواند برای وسایل اینترنت اشیا در وسایل نقلیه و مناطق روستایی با دسترسی محدود به اینترنت ، یادگیری عمیقی ایجاد کند.
به علاوه ، رد پای محاسباتی باریک MCUNet به یک ردپای کربن باریک تبدیل می شود. هان با بیان اینکه “رویای بزرگ ما هوش مصنوعی سبز است” ، افزود: آموزش یک شبکه عصبی بزرگ می تواند کربن را معادل انتشار مادام العمر پنج ماشین بسوزاند. MCUNet در یک میکروکنترلر به بخش کوچکی از این انرژی نیاز دارد. هان می گوید: “هدف نهایی ما این است كه هوش مصنوعی كوچك و کارآمد با منابع محاسباتی كمتر ، منابع انسانی كمتر و داده های كمتر فراهم كنیم.”
