ما برای ایمن سازی سیستم های AI باید بی اعتمادی طراحی کنیم


جالب اینجاست که شما در مورد این صحبت می کنید که چگونه در این سناریوها باید برای ایمن تر کردن سیستم ، بی اعتمادی را به طور فعال پیش بینی کنید.

بله ، شما باید این کار را انجام دهید. در واقع ، ما در حال حاضر ایده انکار خدمات را تجربه می کنیم. ما هنوز نتیجه ای نداریم و با برخی از مسائل اخلاقی دست و پنجه نرم می کنیم. زیرا هنگامی که در این مورد صحبت کردیم و نتایج را منتشر کردیم ، باید توضیح دهیم که چرا بعضی اوقات نمی خواهید به AI توانایی انکار سرویس را بدهید. اگر شخصی واقعاً به آن نیاز دارد چگونه می توان سرویس را حذف کرد؟

اما در اینجا مثالی از بی اعتمادی تسلا آورده شده است. انکار یک سرویس این است: من نمایه اعتماد شما را ایجاد می کنم ، که می توانم آن را براساس تعداد دفعاتی که فرمان را غیرفعال یا غیرفعال کرده اید ، انجام دهم. با توجه به این مشخصات قطع ارتباط ، در این صورت می توانم مدل سازی کنم که شما کاملاً در این حالت از اعتماد به نفس هستید. ما این کار را نه با داده های تسلا بلکه با داده های خودمان انجام دادیم. و در برخی از مواقع ، دفعه بعد که سوار ماشین می شوید ، انکار خدمات دریافت خواهید کرد. شما برای مدت زمان X به سیستم دسترسی ندارید.

این تقریباً مانند مجازات كردن نوجوان با گرفتن تلفن است. شما می دانید که اگر نوجوانان آن را به روش ارتباطی خود متصل کنید ، هر کاری را که نمی خواستید انجام نمی دهند.

برخی دیگر از مکانیزم هایی که برای افزایش بی اعتمادی در سیستم ها بررسی کرده اید چیست؟

روش دیگری که ما مطالعه کرده ایم AI تقریبی نام دارد ، جایی که سیستم توضیحی برای برخی از خطرات یا عدم اطمینان آن ارائه می دهد. زیرا همه این سیستم ها دارای عدم اطمینان هستند – هیچ کدام 100٪ نیستند. و یک سیستم می داند چه زمانی ناامن است. بنابراین می تواند اطمینان حاصل کند که به عنوان اطلاعاتی به گونه ای که فرد بتواند آن را درک کند ، افراد رفتار خود را تغییر می دهند.

به عنوان مثال ، فرض کنید من یک ماشین خودران هستم و تمام اطلاعات را روی نقشه دارم و می دانم که تقاطع های خاص بیشتر از بقیه در معرض تصادف هستند. وقتی به یکی از آنها نزدیک می شویم ، می گویم: “ما در حال رسیدن به دوراهی هستیم که سال گذشته 10 نفر جان خود را از دست دادند.” شما آن را به گونه ای توضیح می دهید که کسی را وادار می کند ، “آه ، صبر کن ، شاید من باید بیشتر آگاه باشم.”

ما قبلاً در مورد برخی از نگرانی های شما درباره تمایل ما به اعتماد به این سیستم ها صحبت کرده ایم. بقیه چیه؟ از طرف دیگر ، آیا فوایدی دارد؟

نکات منفی واقعاً مربوط به تعصب است. به همین دلیل من همیشه در مورد تعصب و اعتماد به جای هم صحبت می کنم. زیرا اگر ما از این سیستم ها فراتر برویم و این سیستم ها تصمیماتی بگیرند که نتایج متفاوتی برای گروه های مختلفی از افراد داشته باشد – مثلاً یک سیستم تشخیص پزشکی بین زنان و مردان تفاوت دارد – اکنون ما سیستم هایی ایجاد می کنیم که نابرابری های ما را افزایش می دهد. این یک مشکل است. و وقتی آن را با مواردی مرتبط با سلامتی یا حمل و نقل مرتبط کنید که هر دو منجر به زندگی یا مرگ می شوند ، یک تصمیم بد در واقع می تواند منجر به چیزی شود که نمی توانید از آن بهبودی حاصل کنید. بنابراین واقعاً باید آن را برطرف کنیم.

از طرف مثبت ، سیستم های خودکار به طور کلی بهتر از انسان هستند. من فکر می کنم آنها می توانند باشند زوج بهتر است ، اما من شخصاً ترجیح می دهم در برخی شرایط با سیستم هوش مصنوعی تعامل داشته باشم تا افراد خاص در شرایط دیگر. مانند ، من می دانم که برخی از مسائل وجود دارد ، اما به من AI بدهید. به من کار بده آنها داده های بیشتری دارند آنها دقیق تر هستند مخصوصاً اگر مبتدی دارید. این نتیجه بهتری است. نتیجه ممکن است برابر نباشد.

علاوه بر تحقیقات خود در زمینه رباتیک و هوش مصنوعی ، شما در طول کار خود از طرفداران بزرگ افزایش تنوع در این زمینه بوده اید. بیست سال پیش ، شما یک برنامه مربیگری برای دختران در معرض خطر بالا آغاز کردید ، که مدتها پیش از آن است که بسیاری از مردم در مورد آن فکر کنند. چرا این موضوع برای شما مهم است و چرا برای حوزه مهم است؟

این برای من مهم است زیرا من می توانم لحظاتی را در زندگی ام شناسایی کنم که کسی اساساً به من امکان دسترسی به مهندسی و علوم کامپیوتر را داده باشد. من حتی نمی دانستم چیزی است. و به همین دلیل من واقعاً هرگز مشکلی نداشتم که بعداً بدانم می توانم این کار را انجام دهم. و بنابراین من همیشه احساس می کردم که انجام وظیفه من برای کسانی که این کار را برای من انجام داده اند فقط مسئولیت من است. هر چه پیرتر شدم ، متوجه شدم افراد زیادی در اتاق هستند که شبیه من نیستند. اینگونه بود که من فهمیدم: صبر کنید ، در اینجا مسلماً مشکلی وجود دارد ، زیرا مردم فقط الگوی الگو ندارند ، دسترسی ندارند و حتی نمی دانند که این چیزی است.

و اینکه چرا این موضوع برای این رشته مهم است این است که همه تجربه متفاوتی دارند. درست مثل اینکه قبل از اینکه چیزی در مورد تعامل انسان و ربات باشد ، فکر می کردم. نه به این دلیل که درخشان بودم. این به این دلیل بود که من به مسئله طور دیگری نگاه کردم. و وقتی با کسی صحبت می کنم که دیدگاه دیگری دارد ، مثل این است که “اوه ، بیایید سعی کنیم بهترین ها را از هر دو جهان ترکیب کنیم و درک کنیم.”

کیسه های هوا باعث مرگ بیشتر زنان و کودکان می شود. چرا؟ خوب ، من می گویم این به این دلیل است که کسی در اتاق نبوده است که بگوید ، “هی ، چرا ما این را روی زنان در صندلی جلو آزمایش نمی کنیم؟” یک سری مشکلات وجود دارد که باعث کشته شدن یا خطرناک بودن برای برخی از افراد شده است گروههایی از مردم و من استدلال می کنم که اگر به عقب برگردی ، به این دلیل است که افراد کافی نداشته اید که بتوانند بگویند “هی ، آیا به آن فکر کرده ای؟” زیرا آنها از تجربه خود و از محیط و جامعه خود صحبت می کنند.

چگونه امیدوارید که تحقیقات AI و رباتیک به مرور پیشرفت کند؟ دیدگاه شما برای این رشته چیست؟

اگر به برنامه نویسی و برنامه نویسی فکر می کنید ، تقریباً هرکسی می تواند این کار را انجام دهد. در حال حاضر سازمان های زیادی مانند Code.org وجود دارد. منابع و ابزار موجود است دوست دارم روزی با یک دانش آموز گفتگو کنم که بپرسم “آیا شما در مورد هوش مصنوعی و یادگیری ماشین می دانید؟” و آنها می گویند ، “دکتر ح ، من این کار را از کلاس سوم انجام داده ام! “من می خواهم آنطور شوکه شوم ، زیرا این فوق العاده خواهد بود. البته ، پس من باید به کار بعدی خود فکر کنم ، اما این یک داستان کاملاً دیگر است.

اما من فکر می کنم وقتی ابزاری با کدگذاری و هوش مصنوعی و یادگیری ماشین دارید ، می توانید مشاغل خود را ایجاد کنید ، آینده خود را بسازید ، راه حل خود را ایجاد کنید. این رویای من خواهد بود.


منبع: unbox-khabar.ir

Leave a reply

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>