خبر های ویژه

حرفه ناپیدا قدمی به پیش بگذار و از تاریکی به درآی

5 اسفند 1402

تحقیقات اولیه کووید-19 مملو از روش‌های ضعیف و نتایج با کیفیت پایین بود- مشکلی برای علم که شیوع کرونا بدتر شد اما انگیزش تحقیقاتی صحیح ایجاد نکرد.

4 اسفند 1402

عاشیق ویسل به شکل ربات انسان نما کنسرت برگزار کرد

27 بهمن 1402

سیستم تصفیه آب تزریقی می تواند دسترسی به آب آشامیدنی تمیز را بهبود بخشد

12 بهمن 1402

مدهای لباس 3 بعدی در عصر دیجیتال

1 بهمن 1402

اولین دبیرستان متاورس در ژاپن افتتاح شد

29 دی 1402

میدان مغناطیسی زمین از حیات در برابر تشعشع محافظت می کند، اما می تواند حرکت کند و قطب های مغناطیسی حتی می توانند چرخش کنند.

6 دی 1402

ممنوعیت دیگ بخار در خانه های جدید در بریتانیا، هیدروژن را به عنوان منبع گرمایش رد می کند

4 دی 1402

«دیپ‌فیک‌های» ساخته‌شده توسط هوش مصنوعی بسیار تأثیرگذار و خطرناک هستند. در اینجا نحوه تشخیص آنها آمده است

29 آذر 1402

بهتر از دیوار: یک سیستم تشخیص می تواند به نظارت بر مرزها کمک کند

29 آذر 1402

بعد از دعوا. فیزیکدان وسوولود در دانشگاه مسکو

6 آذر 1402

قوانین جدید برچسب‌گذاری اتحادیه اروپا برای ماندگاری طولانی‌تر باتری‌ها و دور نگه داشتن آنها از محل‌های دفن زباله

28 آبان 1402

هوش مصنوعی به این معنی است که مردم دیگر نیازی به کار ندارند.

12 آبان 1402

هوای پاک از فناوری دریچه مکش کنار جاده ای

11 آبان 1402

تماس صوتی و تصویری از ایکس

4 آبان 1402

آمازون برای اینترنت ماهواره ای قدم جلو می گذارد

18 مهر 1402

جعبه سیاه چیست؟

یک دانشمند کامپیوتر توضیح می دهد که وقتی عملکرد درونی هوش مصنوعی پنهان است به چه معناست

برای برخی افراد، اصطلاح "جعبه سیاه" دستگاه های ضبط در هواپیماها را به یاد می آورد که در صورت وقوع اتفاق غیرقابل تصور، برای تجزیه و تحلیل پس از مرگ ارزشمند هستند. برای دیگران، تئاترهای کوچک و با حداقل تجهیزات را تداعی می کند. اما جعبه سیاه نیز یک اصطلاح مهم در دنیای هوش مصنوعی است. جعبه‌های سیاه هوش مصنوعی به سیستم‌های هوش مصنوعی با عملکرد داخلی که برای کاربر نامرئی هستند، اشاره دارد. شما می توانید به آنها ورودی بدهید و خروجی بگیرید، اما نمی توانید کد سیستم یا منطقی که خروجی را تولید کرده است را بررسی کنید. یادگیری ماشینی زیرمجموعه غالب هوش مصنوعی است. این زیربنای سیستم‌های هوش مصنوعی مولد مانند ChatGPT و DALL-E 2 است. یادگیری ماشینی سه جزء دارد: یک الگوریتم یا مجموعه‌ای از الگوریتم‌ها، داده‌های آموزشی و یک مدل. الگوریتم مجموعه ای از رویه ها است. در یادگیری ماشینی، یک الگوریتم پس از آموزش روی مجموعه بزرگی از مثال‌ها – داده‌های آموزشی – می‌آموزد که الگوها را شناسایی کند. هنگامی که یک الگوریتم یادگیری ماشینی آموزش داده شد، نتیجه یک مدل یادگیری ماشینی است. مدل چیزی است که مردم استفاده می کنند. به عنوان مثال، یک الگوریتم یادگیری ماشینی می تواند برای شناسایی الگوها در تصاویر طراحی شود و داده های آموزشی می تواند تصاویری از سگ ها باشد. مدل یادگیری ماشینی حاصل می‌تواند یک سگ شکار باشد. شما می توانید یک تصویر را به عنوان ورودی به آن بدهید و به عنوان خروجی دریافت کنید که آیا و در کجای تصویر مجموعه ای از پیکسل ها نشان دهنده یک سگ است.

تبریز امروز:

black box

جعبه سیاه چیست؟ یک دانشمند کامپیوتر توضیح می دهد که وقتی عملکرد درونی هوش مصنوعی پنهان است به چه معناست
نویسنده
سوراب باغچی
استاد مهندسی برق و کامپیوتر، دانشگاه پوردو


برای برخی افراد، اصطلاح "جعبه سیاه" دستگاه های ضبط در هواپیماها را به یاد می آورد که در صورت وقوع اتفاق غیرقابل تصور، برای تجزیه و تحلیل پس از مرگ ارزشمند هستند. برای دیگران، تئاترهای کوچک و با حداقل تجهیزات را تداعی می کند. اما جعبه سیاه نیز یک اصطلاح مهم در دنیای هوش مصنوعی است.

جعبه‌های سیاه هوش مصنوعی به سیستم‌های هوش مصنوعی با عملکرد داخلی که برای کاربر نامرئی هستند، اشاره دارد. شما می توانید به آنها ورودی بدهید و خروجی بگیرید، اما نمی توانید کد سیستم یا منطقی که خروجی را تولید کرده است را بررسی کنید.

یادگیری ماشینی زیرمجموعه غالب هوش مصنوعی است. این زیربنای سیستم‌های هوش مصنوعی مولد مانند ChatGPT و DALL-E 2 است. یادگیری ماشینی سه جزء دارد: یک الگوریتم یا مجموعه‌ای از الگوریتم‌ها، داده‌های آموزشی و یک مدل. الگوریتم مجموعه ای از رویه ها است. در یادگیری ماشینی، یک الگوریتم پس از آموزش روی مجموعه بزرگی از مثال‌ها – داده‌های آموزشی – می‌آموزد که الگوها را شناسایی کند. هنگامی که یک الگوریتم یادگیری ماشینی آموزش داده شد، نتیجه یک مدل یادگیری ماشینی است. مدل چیزی است که مردم استفاده می کنند.

به عنوان مثال، یک الگوریتم یادگیری ماشینی می تواند برای شناسایی الگوها در تصاویر طراحی شود و داده های آموزشی می تواند تصاویری از سگ ها باشد. مدل یادگیری ماشینی حاصل می‌تواند یک سگ شکار باشد. شما می توانید یک تصویر را به عنوان ورودی به آن بدهید و به عنوان خروجی دریافت کنید که آیا و در کجای تصویر مجموعه ای از پیکسل ها نشان دهنده یک سگ است.


هر یک از سه جزء یک سیستم یادگیری ماشینی می تواند پنهان یا در یک جعبه سیاه باشد. همانطور که اغلب اتفاق می افتد، الگوریتم به طور عمومی شناخته شده است، که باعث می شود قرار دادن آن در جعبه سیاه کمتر موثر باشد. بنابراین توسعه دهندگان هوش مصنوعی برای محافظت از مالکیت معنوی خود اغلب مدل را در جعبه سیاه قرار می دهند. رویکرد دیگری که توسعه‌دهندگان نرم‌افزار اتخاذ می‌کنند، پنهان کردن داده‌های مورد استفاده برای آموزش مدل است – به عبارت دیگر، قرار دادن داده‌های آموزشی در یک جعبه سیاه.


الگوریتم‌های جعبه سیاه درک نحوه عملکرد هوش مصنوعی را بسیار دشوار می‌کنند، اما وضعیت کاملاً سیاه و سفید نیست.
نقطه مقابل جعبه سیاه گاهی به عنوان جعبه شیشه ای شناخته می شود. جعبه شیشه‌ای هوش مصنوعی سیستمی است که الگوریتم‌ها، داده‌های آموزشی و مدل‌های آن برای دیدن همه در دسترس است. اما محققان گاهی اوقات جنبه هایی از این موارد را جعبه سیاه توصیف می کنند.

این به این دلیل است که محققان به طور کامل نحوه عملکرد الگوریتم های یادگیری ماشینی، به ویژه الگوریتم های یادگیری عمیق را درک نمی کنند. حوزه هوش مصنوعی قابل توضیح در حال کار بر روی توسعه الگوریتم‌هایی است که اگرچه لزوما جعبه شیشه‌ای نیستند، اما برای انسان بهتر قابل درک باشد.

چرا جعبه سیاه هوش مصنوعی اهمیت دارد؟
در بسیاری از موارد، دلیل خوبی برای احتیاط در مورد الگوریتم‌ها و مدل‌های یادگیری ماشینی جعبه سیاه وجود دارد. فرض کنید یک مدل یادگیری ماشینی در مورد سلامت شما تشخیص داده است. آیا می خواهید مدل جعبه سیاه باشد یا جعبه شیشه ای؟ در مورد پزشک که دوره درمان شما را تجویز می کند چطور؟ شاید او دوست دارد بداند که این مدل چگونه به تصمیم خود رسیده است.

اگر یک مدل یادگیری ماشینی که تعیین می کند واجد شرایط دریافت وام تجاری از بانک هستید، شما را رد کند، چه؟ دوست ندارید بدانید چرا؟ اگر این کار را کردید، می‌توانید به‌طور مؤثرتری نسبت به تصمیم اعتراض کنید، یا وضعیت خود را تغییر دهید تا شانس خود را برای دریافت وام در دفعه بعد افزایش دهید.

جعبه سیاه همچنین پیامدهای مهمی برای امنیت سیستم نرم افزاری دارد. برای سال‌ها، بسیاری از افراد در زمینه محاسبات فکر می‌کردند که نگه‌داشتن نرم‌افزار در جعبه سیاه مانع از بررسی آن توسط هکرها می‌شود و بنابراین امن خواهد بود. این فرض تا حد زیادی نادرست است زیرا هکرها می‌توانند نرم‌افزار را مهندسی معکوس کنند - یعنی با مشاهده دقیق نحوه عملکرد یک نرم‌افزار، یک فاکس بسازند و آسیب‌پذیری‌هایی را برای بهره‌برداری کشف کنند.

اگر نرم‌افزار در جعبه شیشه‌ای قرار دارد، آزمایش‌کنندگان نرم‌افزار و هکرهای خوش‌نیت می‌توانند آن را بررسی کرده و نقاط ضعف را به سازندگان اطلاع دهند و در نتیجه حملات سایبری را به حداقل برسانند.

ارتباط با تبریز امروز

اخبار ، گزارشات ، عکسها و فیلم های خود را برای ما ارسال دارید . برای ارسال میتوانید از طریق آدرس تلگرامی یا ایمیل استفاده کنید.

info@tabriz-emrooz.ir

اشتراک در خبرنامه

برای اطلاع از آخرین خبرهای تبریز امروز در کانال تلگرام ما عضو شوید.

کانل تلگرام تبریز امروز

فرم تماس با تبریز امروز

کلیه حقوق این سایت متعلق به پایگاه خبری تبریز امروز بوده و استفاده از مطالب آن با ذکر منبع بلامانع است.
طراحی وتولید توسططراح وب سایت