هوش مصنوعی هنوز هم در تعدیل سخنان نفرت انگیز مکنده است


نتایج به یکی از چالش برانگیزترین جنبه های تشخیص گفتار نفرت مبتنی بر هوش مصنوعی اشاره دارد: خیلی کم بمیر و در حل مشکل ناکام باشی. پل روتگر ، دکترای دکترای خود می گوید: “بیش از حد بمیرید و می توانید زبانی را که گروه های حاشیه ای برای توانمند سازی و دفاع از خود استفاده می کنند سانسور کنید:” ناگهان ، شما دقیقاً آن دسته از جوامعی را که در وهله اول مورد نفرت هستند مجازات خواهید کرد. ” موسسه اینترنتی آکسفورد و نویسنده مشترک مقاله.

لوسی واسرمن ، مهندس ارشد نرم افزار Jigsaw ، می گوید پرسپکتیو با اتکا به مدیران نظارت برای تصمیم گیری نهایی ، بر این محدودیت ها غلبه می کند. اما این فرایند برای سیستم عامل های بزرگتر مقیاس پذیر نیست. Jigsaw اکنون در حال کار بر روی ویژگی است که اولویت بندی پست ها و نظرات بر اساس عدم اطمینان پرسپکتیو است – به طور خودکار محتوایی را که احتمالاً نفرت دارد حذف می کند و محتوای مرزی را برای افراد نشان می کند.

او می گوید آنچه در مورد مطالعه جدید هیجان انگیز است این است که یک روش دقیق برای ارزیابی وضعیت هنر فراهم می کند. وی گفت: “بسیاری از مواردی كه در این مقاله برجسته شده است ، مانند كلمات بازسازی شده ، برای این مدل ها چالشی است – چیزی كه در صنعت شناخته شده است ، اما كمیت آن بسیار دشوار است.” Jigsaw در حال حاضر از HateCheck استفاده می کند تا تفاوت بین مدل های خود و مکان هایی که باید بهبود یابد را بهتر درک کند.

دانشگاهیان نیز از این تحقیق هیجان زده هستند. Maarten Sapp ، محقق در زمینه هوش مصنوعی در دانشگاه واشنگتن که “به شرکت ها و مصرف کنندگان اجازه می دهد تقاضای بهبود کنند” گفت: “این مقاله به ما یک منبع تمیز خوب برای ارزیابی سیستم های صنعتی می دهد.

توماس دیویدسون ، استادیار جامعه شناسی در دانشگاه راتگرز ، با این نظر موافق است. وی گفت ، محدودیت های الگوهای زبانی و به هم ریختگی زبان به این معنی است که همیشه بین شناسایی ناکافی و بیش از حد گفتار نفرت ، داد و ستدی وجود دارد. وی افزود: “مجموعه داده های HateCheck به نمایان شدن این مبادلات کمک می کند.”


منبع: unbox-khabar.ir

Leave a reply

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>