چت ربات جدید DeepMind از جستجوهای گوگل به علاوه انسان برای دادن پاسخ های بهتر استفاده می کند


جفری ایروینگ، محقق ایمنی در DeepMind، می‌گوید تفاوت بین این رویکرد و پیشینیان آن این است که DeepMind امیدوار است از “گفتگو در دراز مدت برای ایمنی استفاده کند.”

«این بدان معناست که ما انتظار نداریم مشکلاتی که در این مدل‌ها با آن مواجه هستیم – اعم از اطلاعات غلط یا کلیشه‌ها یا هر چیز دیگری – در نگاه اول آشکار باشد و می‌خواهیم با جزئیات درباره آنها صحبت کنیم. و این به معنای بین ماشین ها و انسان ها نیز هست.” او می گوید.

سارا هوکر، که رهبری Cohere برای AI، یک آزمایشگاه تحقیقاتی غیرانتفاعی هوش مصنوعی را بر عهده دارد، می‌گوید ایده DeepMind برای استفاده از ترجیحات انسانی برای بهینه‌سازی نحوه یادگیری یک مدل هوش مصنوعی جدید نیست.

هوکر می‌گوید: «اما پیشرفت‌ها قانع‌کننده هستند و مزایای واضحی را برای بهینه‌سازی عوامل گفتگو با هدایت انسان در یک محیط مدل بزرگ نشان می‌دهند.

Douwe Kiela، محقق در استارت‌آپ Hugging Face، می‌گوید اسپارو «گام بعدی خوب است که از یک روند کلی در هوش مصنوعی پیروی می‌کند، جایی که ما به طور جدی‌تر در تلاش برای بهبود جنبه‌های ایمنی استقرار مدل‌های بزرگ زبان هستیم».

اما قبل از استقرار این مدل‌های هوش مصنوعی مکالمه‌ای در طبیعت، کارهای زیادی باید انجام شود.

گنجشک هنوز هم اشتباه می کند. مدل گاهی اوقات از موضوع خارج می شود یا پاسخ های تصادفی می دهد. شرکت کنندگان مصمم همچنین توانستند مدل را مجبور کنند قوانین را در 8٪ موارد زیر پا بگذارند. (این هنوز یک پیشرفت نسبت به مدل های قدیمی است: مدل های قبلی DeepMind سه بار بیشتر از Sparrow قوانین را زیر پا می گذاشتند.)

حتما بخوانید:
پاور بانک شیائومی - سایت قیمت ها

هوکر می‌گوید: «برای مناطقی که در صورت پاسخگویی یک نماینده، آسیب‌های انسانی می‌تواند زیاد باشد، مانند ارائه توصیه‌های پزشکی و مالی، این ممکن است برای بسیاری همچنان مانند نرخ شکست غیرقابل قبول بالا باشد.» این کار همچنین بر اساس یک مدل انگلیسی زبان ساخته شده است. او می‌افزاید: «در حالی که ما در دنیایی زندگی می‌کنیم که در آن فناوری باید به طور ایمن و مسئولانه به بسیاری از زبان‌های مختلف خدمت کند».

و کیلا به مشکل دیگری اشاره می‌کند: «تکیه به گوگل برای جستجوی اطلاعات منجر به سوگیری‌های ناشناخته‌ای می‌شود که با توجه به اینکه همه چیز منبع بسته است، کشف آنها دشوار است.»


منبع: unbox-khabar.ir

دیدگاهتان را بنویسید

hacklink al hd film izle php shell indir siber güvenlik türkçe anime izle Fethiye Escort android rat duşakabin fiyatları fud crypter hack forum instagram beğeni bayan escort - vip elit escort html nullednulled themesMobil Ödeme BozdurmaMobil Ödeme BozdurmaMobil Ödeme Nakite ÇevirmeViagraMobil Ödeme BozdurmaMobil Ödeme BozdurmaVodafone Mobil Ödeme Bozdurma