[ad_1]

کرافورد در حرفه 20 ساله خود با تأثیرات واقعی سیستم های داده بزرگ ، یادگیری ماشین و هوش مصنوعی دست و پنجه نرم کرده است. وی در سال 2017 ، با مردیت ویتاکر ، م theسسه تحقیقاتی AI Now را به عنوان اولین سازمانی که به مطالعه پیامدهای اجتماعی این فناوری ها اختصاص داده است ، تأسیس کرد. او اکنون همچنین استاد USC Annenberg ، لس آنجلس و رئیس مقدماتی بازدید از هوش مصنوعی و عدالت در Ecole Normale Supérieure در پاریس و همچنین یک محقق ارشد اصلی در تحقیقات مایکروسافت است.

کرافورد گفت ، پنج سال پیش ، او هنوز در تلاش است فقط این ایده را ارائه دهد که داده ها و هوش مصنوعی بی طرف نیستند. اکنون مکالمه پیشرفت کرده و اخلاق هوش مصنوعی در حوزه خاص خود شکوفا شده است. او امیدوار است که کتابش به بلوغ بیشتر او کمک کند.

من با کرافورد نشستم تا درباره کتابش صحبت کنم.

موارد زیر برای طول و وضوح ویرایش شده است.

چرا این پروژه کتاب را انتخاب کردید و برای شما چه معنی دارد؟

کرافورد: بنابراین بسیاری از کتابهایی که در مورد هوش مصنوعی نوشته شده اند در واقع فقط در مورد دستاوردهای فنی بسیار محدود صحبت می کنند. و گاهی اوقات آنها در مورد افراد بزرگ هوش مصنوعی می نویسند ، اما این واقعاً تمام آنچه که ما از لحاظ مبارزه واقعی با هوش مصنوعی داشته ایم ، بوده است.

من فکر می کنم این درک بسیار تحریف شده از هوش مصنوعی به عنوان سیستم های کاملاً فنی تولید می شود که به نوعی عینی و خنثی هستند و – همانطور که استوارت راسل و پیتر نورویگ در کتاب درسی خود می گویند – به عنوان عوامل هوشمندی که برای هر عملی بهترین تصمیم را می گیرند.

من می خواستم کاری کاملاً متفاوت انجام دهم: اینکه بفهمم چگونه می توان هوش مصنوعی را به معنای وسیع ساخت. این به معنای بررسی منابع طبیعی است که آن را هدایت می کنند ، انرژی مصرفی آن ، نیروی کار پنهان در سراسر زنجیره تأمین و مقدار زیادی از داده ها که از هر سیستم عامل و دستگاهی که ما هر روز استفاده می کنیم استخراج می شود.

با این کار ، من واقعاً می خواستم این درک از هوش مصنوعی را نه مصنوعی و نه هوشمند نشان دهم. این است مخالف مصنوعی این ماده از مادی ترین قسمتهای پوسته زمین و از بدن انسانهایی که کار می کنند و همچنین از تمام مصنوعاتی که ما هر روز تولید می کنیم و می گوییم و عکس می گیریم ، ناشی می شود. همچنین هوشمند نیست. من فکر می کنم این گناه بزرگ اصلی در این قلمرو وجود دارد که مردم تصور می کردند کامپیوترها به نوعی مانند مغز انسان هستند و اگر ما فقط آنها را در دوران کودکی آموزش دهیم ، آنها به آرامی به این موجودات ماورایی تبدیل می شوند.

این چیزی است که به نظر من واقعاً مشکل ساز است – اینکه ما این ایده هوشمندی را خریداری کرده ایم ، در حقیقت ، ما به سادگی در حال بررسی اشکال تحلیل آماری در مقیاس بزرگ هستیم که به اندازه داده های ارائه شده دارای مشکلات است.

آیا بلافاصله برای شما آشکار شد که مردم باید اینگونه فکر کنند درباره هوش مصنوعی؟ یا سفر بود؟

این یک سفر مطلق بود. من می گویم که یکی از نقاط عطف من در سال 2016 بود ، زمانی که من با ولادان جولر پروژه ای را تحت عنوان “آناتومی یک سیستم هوش مصنوعی” شروع کردم. ما در یک کنفرانس مخصوص AI با صدای فعال ملاقات کردیم و سعی کردیم به طور م forثر آنچه برای کار آمازون اکو لازم است ترسیم کنیم. چه اجزایی وجود دارد؟ چگونه داده ها را بازیابی می کند؟ لایه های موجود در خط لوله داده چیست؟

ما خوب فهمیدیم – در واقع ، برای درک این موضوع ، باید درک کنیم که این اجزا از کجا آمده اند. تراشه ها از کجا ساخته شده اند؟ معادن کجا هستند؟ کجا ذوب می شود؟ مسیرهای تدارکات و زنجیره تامین کجاست؟

سرانجام ، چگونه می توان پایان عمر این دستگاه ها را ردیابی کرد؟ چگونه می توانیم به نکات مربوط به زباله الکترونیکی در مکانهایی مانند مالزی ، غنا و پاکستان نگاه کنیم؟ آنچه که ما با آن روبرو شدیم این یک پروژه تحقیقاتی وقت گیر و دو ساله بود که واقعاً این زنجیره های تأمین را از گهواره تا گور ردیابی می کرد.

هنگامی که شروع به بررسی سیستم های هوش مصنوعی در این مقیاس بزرگتر و در این افق طولانی تر می کنید ، از این روایت های بسیار محدود “عدالت هوش مصنوعی” و “اخلاق” منحرف می شوید و می گویید: اینها سیستم هایی هستند که عمیق و تغییرات ژئومورفیک پایدار در سیاره ما ، و اشکال نابرابری در کار را که در حال حاضر در جهان داریم ، افزایش می دهد.

بنابراین این باعث شد که من متوجه شوم که باید از تجزیه و تحلیل فقط یک دستگاه ، Amazon Echo ، به استفاده از این نوع تجزیه و تحلیل در کل صنعت بپردازم. این وظیفه بزرگ برای من بود و به همین دلیل بود اطلس هوش مصنوعی نوشتن پنج سال طول کشید. چنین نیازی است که ببینیم این سیستم ها واقعاً چه هزینه هایی برای ما دارند ، زیرا ما به ندرت کار می کنیم تا پیامدهای واقعی سیاره آنها را درک کنیم.

نکته دیگری که من می توانم بگویم الهام واقعی است ، زمینه رو به رشد دانشمندان است که این س questionsالات بزرگتر راجع به کار ، داده و نابرابری می پرسند. در اینجا من به روحا بنیامین ، صافیا نوبل ، مار هیکس ، جولی کوهن ، مروریت مرورگر ، سایمون براون فکر می کنم – لیست ادامه دارد. من این را با ارائه چشم اندازهایی که محیط ، حقوق کار و حمایت از داده ها را به هم پیوند می دهد ، به عنوان سهمی در این مجموعه دانش می دانم.

شما در طول کتاب زیاد سفر می کنید. تقریباً هر فصل با این واقعیت شروع می شود که شما در واقع به محیط اطراف خود نگاه می کنید. چرا این برای شما مهم بود؟

تجزیه و تحلیل هوش مصنوعی در مکان های خاص برای دور شدن از این “طاقچه های” انتزاعی فضای الگوریتمی ، جایی که بحث های زیادی در مورد یادگیری ماشین در آن انجام می شود ، یک انتخاب کاملا آگاهانه بود. و ما امیدواریم که این واقعیت را مورد تأکید قرار دهد که وقتی این کار را نمی کنیم ، وقتی به سادگی درباره این “مکانهای هیچ کجا” عینیت الگوریتمی صحبت می کنیم ، این نیز یک انتخاب سیاسی است و عواقبی هم به دنبال دارد.

وقتی صحبت از اتصال مکان ها به یکدیگر می شود ، به همین دلیل است که من شروع به فکر کردن در مورد این استعاره اطلس کردم ، زیرا اطلس ها کتاب های غیرمعمولی هستند. اینها کتابهایی هستند که می توانید باز کنید و مقیاس یک قاره را ببینید ، یا اینکه یک کوه یا شهر را بزرگنمایی کنید. آنها این تغییرات را در چشم انداز و تغییرات در مقیاس به شما می دهند.

این خط شگفت انگیز وجود دارد که من در کتاب فیزیک توسط اورسولا فرانکلین استفاده می کنم. وی درباره چگونگی ترکیب نقشه ها و مجهولات در این روش های بینش جمعی ، می نویسد. بنابراین برای من ، این واقعا بر اساس دانش من بود ، اما من همچنین در مورد مکانهای واقعی که AI به معنای واقعی کلمه از سنگ و شن و ماسه و روغن ساخته شده است فکر کردم.

چه نقدهایی از کتاب دریافت کرد؟

یکی از مواردی که در پاسخ های اولیه از آن شگفت زده شدم این بود که مردم واقعاً احساس می کنند این نوع دیدگاه منقضی شده است. لحظه ای درک می شود که ما باید نوع متفاوتی از گفتگو را در چند سال گذشته داشته باشیم.

ما زمان زیادی را صرف تمرکز بر اصلاحات فنی باریک برای سیستم های هوش مصنوعی و همیشه محور پاسخ های فنی و پاسخ های فنی کردیم. اکنون باید با ردپای محیطی سیستم ها مبارزه کنیم. ما باید با اشکال واقعی بهره برداری کارگری که در ساخت این سیستم ها اتفاق می افتد ، مبارزه کنیم.

و اکنون ما همچنین می بینیم که میراث سمی آنچه اتفاق می افتد هنگامی که شما فقط می توانید داده های مربوط به اینترنت را از بین ببرید ، اتفاق می افتد و آنها را حقیقت روی زمین می نامید. این نوع چارچوب پردازی مسئله دار در دنیا آسیب های زیادی وارد کرده است و مثل همیشه ، این آسیب بیشتر توسط جوامعی که قبلاً به حاشیه رانده شده اند و از این سیستم ها بهره مند نشده اند ، احساس شده است.

شما امیدوارید که مردم شروع به انجام کارهای متفاوت کنند؟

من امیدوارم که انجام این مکالمات پشت صحنه ، در مواردی که اصطلاحاتی مانند “اخلاق” و “AI برای همیشه” کاملاً از هر معنایی واقعی حذف شده باشند ، بسیار دشوارتر خواهد بود. امیدوارم پرده را عقب بکشد و بگوید ، بیایید واقعاً ببینیم چه کسی اهرمهای این سیستم ها را کنترل می کند. این به معنای دور شدن از تمرکز ساده روی مواردی مانند اصول اخلاقی تا صحبت در مورد قدرت است.

چگونه از این چارچوب اخلاق دور شویم؟

اگر طی دهه گذشته یک دام واقعی در بخش فناوری وجود داشته باشد ، این است که نظریه تغییر همیشه بر مهندسی متمرکز بوده است. همیشه اینگونه بوده است: “اگر مشکلی وجود داشته باشد ، یک راه حل فنی برای آن وجود دارد.” و همین اواخر است که ما شروع به دیدن این گسترش به “آه ، خوب ، اگر مشکلی وجود دارد ، می کنیم مقررات می تواند آن را تعمیر کند. سیاستمداران باید نقشی داشته باشند. “

اما فکر می کنم ما باید این موضوع را حتی بیشتر گسترش دهیم. همچنین باید بگوییم: گروه های جامعه مدنی کجا ، فعالان کجا ، وکلایی که با عدالت اقلیمی ، حقوق کار ، محافظت از داده ها سرو کار دارند کجا هستند؟ چگونه می توان آنها را در این بحث ها گنجاند؟ چگونه می توان جوامع آسیب دیده را درگیر کرد؟

به عبارت دیگر ، چگونه می توانیم این گفتگوی عمیق تر دموکراتیک را در مورد چگونگی تأثیر این سیستم ها بر زندگی میلیاردها انسان به شیوه های عمدتا غیر قابل توضیح که خارج از مقررات و نظارت دموکراتیک زندگی می کنند ، انجام دهیم؟

به این معنا ، این کتاب سعی در عدم تمرکز فناوری دارد و شروع به طرح س biggerالات بزرگتر می کند: ما می خواهیم در چه جهانی زندگی کنیم؟

چه جهانی می سازد شما آیا می خواهید در آن زندگی کنید؟ آرزوی چه آینده ای را دارید؟

من می خواهم گروه هایی را ببینم که در مورد موضوعاتی مانند عدالت اقلیمی و حقوق کار بسیار سخت کار می کنند و می فهمند که این جبهه های جداگانه تغییر اجتماعی و عدالت نژادی قبلاً نگرانی ها و زمینه مشترکی برای هماهنگی و سازماندهی دارند .

زیرا در اینجا ما به یک افق زمانی کوتاه واقعاً نگاه می کنیم. ما با سیاره ای روبرو هستیم که از قبل تحت فشار جدی قرار دارد. ما تمرکز عمیقی از قدرت را در دست بسیار کمی در نظر می گیریم. شما واقعاً باید به روزهای اولیه راه آهن برگردید تا صنعت دیگری را ببینید که اینقدر متمرکز شده است و اکنون حتی می توانید بگویید که فناوری از این رقم فراتر رفته است.

به همین دلیل است که ما باید از راه هایی بجنگیم که بتوانیم جوامع خود را تکثر دهیم و اشکال بیشتری از پاسخگویی دموکراتیک داشته باشیم. و این برای کنش جمعی مشکلی است. این برای انتخاب فردی مشکلی ندارد. این مانند انتخاب یک مارک تجاری با اخلاق تر نیست. یعنی ما باید راهکارهایی برای کار با هم در این چالش ها در مقیاس جهانی پیدا کنیم.

[ad_2]

منبع: unbox-khabar.ir

ایندکسر