خبر های ویژه
2 خرداد 1402
جعبه سیاه چیست؟
یک دانشمند کامپیوتر توضیح می دهد که وقتی عملکرد درونی هوش مصنوعی پنهان است به چه معناست
برای برخی افراد، اصطلاح "جعبه سیاه" دستگاه های ضبط در هواپیماها را به یاد می آورد که در صورت وقوع اتفاق غیرقابل تصور، برای تجزیه و تحلیل پس از مرگ ارزشمند هستند. برای دیگران، تئاترهای کوچک و با حداقل تجهیزات را تداعی می کند. اما جعبه سیاه نیز یک اصطلاح مهم در دنیای هوش مصنوعی است. جعبه‌های سیاه هوش مصنوعی به سیستم‌های هوش مصنوعی با عملکرد داخلی که برای کاربر نامرئی هستند، اشاره دارد. شما می توانید به آنها ورودی بدهید و خروجی بگیرید، اما نمی توانید کد سیستم یا منطقی که خروجی را تولید کرده است را بررسی کنید. یادگیری ماشینی زیرمجموعه غالب هوش مصنوعی است. این زیربنای سیستم‌های هوش مصنوعی مولد مانند ChatGPT و DALL-E 2 است. یادگیری ماشینی سه جزء دارد: یک الگوریتم یا مجموعه‌ای از الگوریتم‌ها، داده‌های آموزشی و یک مدل. الگوریتم مجموعه ای از رویه ها است. در یادگیری ماشینی، یک الگوریتم پس از آموزش روی مجموعه بزرگی از مثال‌ها – داده‌های آموزشی – می‌آموزد که الگوها را شناسایی کند. هنگامی که یک الگوریتم یادگیری ماشینی آموزش داده شد، نتیجه یک مدل یادگیری ماشینی است. مدل چیزی است که مردم استفاده می کنند. به عنوان مثال، یک الگوریتم یادگیری ماشینی می تواند برای شناسایی الگوها در تصاویر طراحی شود و داده های آموزشی می تواند تصاویری از سگ ها باشد. مدل یادگیری ماشینی حاصل می‌تواند یک سگ شکار باشد. شما می توانید یک تصویر را به عنوان ورودی به آن بدهید و به عنوان خروجی دریافت کنید که آیا و در کجای تصویر مجموعه ای از پیکسل ها نشان دهنده یک سگ است.
تبریز امروز:
جعبه سیاه چیست؟ یک دانشمند کامپیوتر توضیح می دهد که وقتی عملکرد درونی هوش مصنوعی پنهان است به چه معناست
نویسنده
سوراب باغچی
استاد مهندسی برق و کامپیوتر، دانشگاه پوردو
برای برخی افراد، اصطلاح "جعبه سیاه" دستگاه های ضبط در هواپیماها را به یاد می آورد که در صورت وقوع اتفاق غیرقابل تصور، برای تجزیه و تحلیل پس از مرگ ارزشمند هستند. برای دیگران، تئاترهای کوچک و با حداقل تجهیزات را تداعی می کند. اما جعبه سیاه نیز یک اصطلاح مهم در دنیای هوش مصنوعی است.
جعبه‌های سیاه هوش مصنوعی به سیستم‌های هوش مصنوعی با عملکرد داخلی که برای کاربر نامرئی هستند، اشاره دارد. شما می توانید به آنها ورودی بدهید و خروجی بگیرید، اما نمی توانید کد سیستم یا منطقی که خروجی را تولید کرده است را بررسی کنید.
یادگیری ماشینی زیرمجموعه غالب هوش مصنوعی است. این زیربنای سیستم‌های هوش مصنوعی مولد مانند ChatGPT و DALL-E 2 است. یادگیری ماشینی سه جزء دارد: یک الگوریتم یا مجموعه‌ای از الگوریتم‌ها، داده‌های آموزشی و یک مدل. الگوریتم مجموعه ای از رویه ها است. در یادگیری ماشینی، یک الگوریتم پس از آموزش روی مجموعه بزرگی از مثال‌ها – داده‌های آموزشی – می‌آموزد که الگوها را شناسایی کند. هنگامی که یک الگوریتم یادگیری ماشینی آموزش داده شد، نتیجه یک مدل یادگیری ماشینی است. مدل چیزی است که مردم استفاده می کنند.
به عنوان مثال، یک الگوریتم یادگیری ماشینی می تواند برای شناسایی الگوها در تصاویر طراحی شود و داده های آموزشی می تواند تصاویری از سگ ها باشد. مدل یادگیری ماشینی حاصل می‌تواند یک سگ شکار باشد. شما می توانید یک تصویر را به عنوان ورودی به آن بدهید و به عنوان خروجی دریافت کنید که آیا و در کجای تصویر مجموعه ای از پیکسل ها نشان دهنده یک سگ است.
هر یک از سه جزء یک سیستم یادگیری ماشینی می تواند پنهان یا در یک جعبه سیاه باشد. همانطور که اغلب اتفاق می افتد، الگوریتم به طور عمومی شناخته شده است، که باعث می شود قرار دادن آن در جعبه سیاه کمتر موثر باشد. بنابراین توسعه دهندگان هوش مصنوعی برای محافظت از مالکیت معنوی خود اغلب مدل را در جعبه سیاه قرار می دهند. رویکرد دیگری که توسعه‌دهندگان نرم‌افزار اتخاذ می‌کنند، پنهان کردن داده‌های مورد استفاده برای آموزش مدل است – به عبارت دیگر، قرار دادن داده‌های آموزشی در یک جعبه سیاه.
الگوریتم‌های جعبه سیاه درک نحوه عملکرد هوش مصنوعی را بسیار دشوار می‌کنند، اما وضعیت کاملاً سیاه و سفید نیست.
نقطه مقابل جعبه سیاه گاهی به عنوان جعبه شیشه ای شناخته می شود. جعبه شیشه‌ای هوش مصنوعی سیستمی است که الگوریتم‌ها، داده‌های آموزشی و مدل‌های آن برای دیدن همه در دسترس است. اما محققان گاهی اوقات جنبه هایی از این موارد را جعبه سیاه توصیف می کنند.
این به این دلیل است که محققان به طور کامل نحوه عملکرد الگوریتم های یادگیری ماشینی، به ویژه الگوریتم های یادگیری عمیق را درک نمی کنند. حوزه هوش مصنوعی قابل توضیح در حال کار بر روی توسعه الگوریتم‌هایی است که اگرچه لزوما جعبه شیشه‌ای نیستند، اما برای انسان بهتر قابل درک باشد.
چرا جعبه سیاه هوش مصنوعی اهمیت دارد؟
در بسیاری از موارد، دلیل خوبی برای احتیاط در مورد الگوریتم‌ها و مدل‌های یادگیری ماشینی جعبه سیاه وجود دارد. فرض کنید یک مدل یادگیری ماشینی در مورد سلامت شما تشخیص داده است. آیا می خواهید مدل جعبه سیاه باشد یا جعبه شیشه ای؟ در مورد پزشک که دوره درمان شما را تجویز می کند چطور؟ شاید او دوست دارد بداند که این مدل چگونه به تصمیم خود رسیده است.
اگر یک مدل یادگیری ماشینی که تعیین می کند واجد شرایط دریافت وام تجاری از بانک هستید، شما را رد کند، چه؟ دوست ندارید بدانید چرا؟ اگر این کار را کردید، میتوانید به‌طور مؤثرتری نسبت به تصمیم اعتراض کنید، یا وضعیت خود را تغییر دهید تا شانس خود را برای دریافت وام در دفعه بعد افزایش دهید.
جعبه سیاه همچنین پیامدهای مهمی برای امنیت سیستم نرم افزاری دارد. برای سال‌ها، بسیاری از افراد در زمینه محاسبات فکر می‌کردند که نگه‌داشتن نرم‌افزار در جعبه سیاه مانع از بررسی آن توسط هکرها می‌شود و بنابراین امن خواهد بود. این فرض تا حد زیادی نادرست است زیرا هکرها می‌توانند نرم‌افزار را مهندسی معکوس کنند - یعنی با مشاهده دقیق نحوه عملکرد یک نرم‌افزار، یک فاکس بسازند و آسیب‌پذیری‌هایی را برای بهره‌برداری کشف کنند.
اگر نرم‌افزار در جعبه شیشه‌ای قرار دارد، آزمایش‌کنندگان نرم‌افزار و هکرهای خوش‌نیت می‌توانند آن را بررسی کرده و نقاط ضعف را به سازندگان اطلاع دهند و در نتیجه حملات سایبری را به حداقل برسانند.
ارتباط با تبریز امروز
اخبار ، گزارشات ، عکسها و فیلم های خود را برای ما ارسال دارید . برای ارسال میتوانید از طریق آدرس تلگرامی یا ایمیل استفاده کنید.
اشتراک در خبرنامه
برای اطلاع از آخرین خبرهای تبریز امروز در کانال تلگرام ما عضو شوید.
فرم تماس با تبریز امروز
کلیه حقوق این سایت متعلق به پایگاه خبری تبریز امروز بوده و استفاده از مطالب آن با ذکر منبع بلامانع
است.
طراحی وتولید
توسططراح وب سایت