نگران اخلاق هوش مصنوعی شرکت خود هستید؟ این استارت آپ ها برای کمک به شما اینجا هستند.


برابری در میان برداشت در حال رشد شرکتهای نوپا نویدبخش راههای توسعه ، نظارت و اصلاح مدلهای هوش مصنوعی آنهاست. آنها طیف وسیعی از محصولات و خدمات را از ابزارهای کاهش تعصب تا سیستم عامل های قابل توضیح ارائه می دهند. در ابتدا ، بیشتر مشتریان آنها از صنایع با نظم عالی مانند دارایی و بهداشت و درمان بودند. اما افزایش توجه رسانه ها به تعصب ، محرمانه بودن و شفافیت باعث تمرکز مکالمه شده است. مشتریان جدید اغلب نگران مسئولیت پذیری هستند ، در حالی که دیگران می خواهند “پیش بینی خود را در آینده” با پیش بینی مقررات نشان دهند.

چودری گفت: “بنابراین بسیاری از شرکت ها برای اولین بار واقعاً با این مسئله روبرو هستند.” تقریباً همه آنها واقعاً کمک می خواهند. »

از خطر تا تأثیر

هنگام کار با مشتریان جدید ، چوودوری از به کار بردن اصطلاح “مسئولیت” پرهیز می کند. این کلمه خیلی نرم و ضعیف تعریف شده است. فضای زیادی برای برقراری ارتباط نادرست باقی می گذارد. در عوض ، با اصطلاحات اصطلاحات شرکتی آشناتر آغاز می شود: ایده ریسک. بسیاری از شرکت ها سلاح های خطر و انطباق دارند و فرآیندهای کاهش خطر را ایجاد کرده اند.

کاهش خطر هوش مصنوعی تفاوتی ندارد. یک شرکت باید کار خود را با مشاهده موارد مختلف مورد نگرانی آغاز کند. اینها ممکن است شامل خطر قانونی ، احتمال قانون شکنی باشد. خطر سازمانی ، احتمال از دست دادن کارکنان ؛ یا خطر شهرت ، احتمال سقوط روابط عمومی. از آنجا ، او می تواند به عقب کار کند و تصمیم بگیرد که چگونه سیستم های هوش مصنوعی خود را حسابرسی کند. یک شرکت مالی که تحت قوانین وام عادلانه ایالات متحده فعالیت می کند ، مایل است مدل های وام خود را برای تعصب برای کاهش ریسک قانونی آزمایش کند. یک شرکت مراقبت های بهداشتی که سیستم های آن در زمینه داده های حساس پزشکی آموزش دیده اند ، می تواند برای کاهش خطر اعتبار ، ممیزی محرمانه را انجام دهد.

عکس صفحه کتابخانه Parity برای س questionsالات ارزیابی تأثیر.
برابری شامل کتابخانه ای از سوالات پیشنهادی برای کمک به شرکت ها در ارزیابی ریسک مدل های هوش مصنوعی خود است.

برابری

برابری به سازماندهی این روند کمک می کند. در ابتدا ، این پلتفرم از شرکت می خواهد که ارزیابی تأثیر داخلی خود را انجام دهد – اساساً مجموعه ای از سوالات باز در مورد نحوه کار سیستم های تجاری و هوش مصنوعی آن است. وی می تواند سوالات سفارشی را بنویسد یا از کتاب Parity Library که بیش از 1000 درخواست با اقتباس از دستورالعمل های اخلاقی AI و قوانین مربوطه در سراسر جهان دارد ، انتخاب کند. پس از اتمام ارزیابی ، کارکنان شرکت بر اساس عملکرد و دانش شغلی خود تشویق می شوند که آن را به پایان برسانند. سپس این پلتفرم پاسخ های آنها را با استفاده از یک مدل پردازش زبان طبیعی در متن آزاد اجرا می کند و آنها را با توجه به زمینه های اصلی خطر شرکت ترجمه می کند. به عبارت دیگر ، برابری به عنوان یک واسطه جدید در قرار دادن دانشمندان و وکلای داده در همان صفحه عمل می کند.

سپس این پلتفرم مجموعه مناسب اقدامات کاهش خطر را توصیه می کند. این موارد ممکن است شامل راه اندازی داشبورد برای نظارت مستمر بر دقت مدل یا استفاده از رویه های مستند سازی جدید برای ردیابی نحوه آموزش و تنظیم دقیق یک مدل در هر مرحله از توسعه آن باشد. این مجموعه همچنین مجموعه ای از چارچوب ها و ابزارهای منبع باز را ارائه می دهد که می توانند به شما کمک کنند ، مانند AI Fairness 360 IBM برای نظارت بر تعصب یا Google Model Maps برای اسناد.

چاودری امیدوار است که اگر شرکت ها بتوانند مدت زمان لازم برای حسابرسی مدل های خود را کاهش دهند ، در انجام منظم و غالباً نظم بیشتری پیدا می کنند. با گذشت زمان ، وی امیدوار است ، این امر می تواند آنها را برای تفکر فراتر از کاهش خطر نیز باز کند. او می گوید: “هدف پلید من این است که شرکت های بیشتری را به فکر تأثیر بگذارم ، نه فقط به ریسک.” “ریسک زبانی است که امروزه مردم می فهمند و زبان بسیار ارزنده ای است ، اما خطر اغلب واکنش نشان می دهد و واکنش نشان می دهد. تأثیر بیشتر فعالانه است و در واقع روش بهتری برای تنظیم آنچه باید انجام دهیم ، است. “

اکوسیستم مسئولیت پذیری

در حالی که Parity بر مدیریت ریسک تمرکز دارد ، شرکت تازه تاسیس دیگری ، Fiddler ، روی توضیحات قابل توضیح است. مدیر عامل شرکت کریشنا گید در مورد نیاز به شفافیت بیشتر در نحوه تصمیم گیری مدل های هوش مصنوعی در حالی که به عنوان مدیر مهندسی تیم خبرخوان فیس بوک فعالیت می کرد ، فکر کرد. پس از انتخابات ریاست جمهوری 2016 ، این شرکت فشار داخلی بزرگی را برای درک بیشتر ایجاد کرد خوب الگوریتم های آن چگونه مطالب را رتبه بندی می کنند. تیم Gade ابزاری داخلی را ایجاد کردند که بعداً اساس ویژگی “چرا این را می بینم؟” شد.


منبع: unbox-khabar.ir

Leave a reply

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>