“من شروع به گریه کردم”: در آخرین روزهای Timnit Gebru در Google


آیا تا به حال بر اساس وقایع و تنش های قبلی شک کرده اید که این کار به این ترتیب پایان می یابد؟ و آیا انتظار پاسخ جامعه را داشتید؟

فکر کردم که ممکن است آنها را به اندازه کافی ناراحت کند که ترک کنم ، یا چیز دیگری. من فکر کردم که آنها هوشمندانه تر از این کار هستند ، زیرا این ادغام بسیاری از موضوعاتی است که آنها با آنها سروکار دارند: سانسور تحقیق ، هوش مصنوعی اخلاقی ، حقوق کار ، DEI – همه موارد تحت قبلا مورد انتقاد قرار گرفته اند بنابراین انتظار نداشتم که اینگونه باشد – مانند این که حساب شرکت خود را کاملاً خاموش کنم. خیلی بی رحم است این کار توسط افرادی انجام نشده است که مرتکب تخلفات فاحش شده اند. آنها 80 میلیون دلار به آنها اعطا می كنند و یك خروجی كوچك به آنها می دهند ، یا شاید آنها آنها را منفعلانه و پرخاشگرانه تشویق نمی كنند یا هر چیز دیگری. آنها با افرادی که در واقع یک فضای کاری خصمانه ایجاد می کنند ، کاری را که با من کردند انجام نمی دهند.

من از گزارش های مستقیم خود یاد گرفتم ، می دانید؟ که بسیار غم انگیز است. آنها خیلی آسیب دیده بودند. فکر می کنم تیم من تا حدود ساعت 4 یا 5 صبح کنار هم بودند و سعی می کردند اتفاقات رخ داده را درک کنند. و قدم زدن در اطراف سامی – همه چیز خیلی وحشتناک و بی رحمانه بود.

فکر کردم اگر فقط … روی کارم تمرکز کنم ، حداقل من می توانم کارم را انجام دهم. و حالا شما برای کار من آمده اید. بنابراین من به معنای واقعی کلمه شروع به گریه کردم.

من انتظار حمایت را داشتم ، اما قطعاً انتظار ریزش آن را نداشتم. دیدنش حیرت انگیز بود. من هرگز ، هرگز چنین چیزی را تجربه نکرده ام. منظورم این است که اقوام تصادفی برایم می نویسند ، “من این را در اخبار دیدم.” این قطعاً چیزی نیست که انتظار داشتم. اما مردم در حال حاضر این همه ریسک می کنند. و این من را نگران می کند زیرا من واقعاً می خواهم از سالم بودن آنها اطمینان حاصل کنم.

شما اشاره کردید که این فقط مربوط به شما نیست. این فقط مربوط به گوگل نیست. این ادغام بسیاری از موضوعات مختلف است. این تجربه خاص در مورد تأثیر شرکت های فناوری بر هوش مصنوعی به طور کلی و توانایی آنها برای انجام کارهای قابل توجه در زمینه اخلاق هوش مصنوعی چه می گوید؟

می دانید ، تعدادی از افراد بودند که Big Tech و Big Tobacco و نحوه سانسور تحقیقات خود را مقایسه کردند ، حتی اگر مدتی از مشکلات مطلع بودند. من دوگانگی بین دانشگاه و فناوری را رد می کنم ، زیرا هر دو یک پارادایم بسیار نژادپرستانه و جنسیتی دارند. الگویی که می آموزید و به Google یا هرجای دیگر در دانشگاه منتقل می کنید. و مردم در حال حرکت هستند. آنها وارد صنعت می شوند و سپس به دانشگاه برمی گردند یا بالعکس. همه آنها دوست هستند. همه آنها به یک کنفرانس می روند.

من فکر نمی کنم این درس این باشد که تحقیقات اخلاقی هوش مصنوعی نباید در شرکت های فناوری انجام شود ، اما فکر می کنم درس این است که الف) تحقیقات مستقل بیشتری باید انجام شود. ما باید گزینه های بیشتری از فقط DARPA داشته باشیم [the Defense Advanced Research Projects Agency] علیه شرکت های بزرگ و (ب) بدیهی است که باید نظارت بر شرکتهای فناوری وجود داشته باشد. در این مرحله ، من فقط نمی فهمم که چگونه می توانیم فکر کنیم که آنها در مورد DEI یا اخلاقیات یا هر چیز دیگری خودتنظیم می شوند. آنها کار درستی انجام نداده اند و کار درستی انجام نخواهند داد.

من فکر می کنم موسسات دانشگاهی و کنفرانس ها باید در روابط خود با شرکت های بزرگ و مبلغی که از آنها می گیرند ، تجدید نظر کنند. بعضی از افراد حتی از خود می پرسیدند که آیا بعضی از این کنفرانس ها باید یک آیین نامه “بدون سانسور” داشته باشند یا مواردی از این دست؟ به همین دلیل من فکر می کنم که این کنفرانس ها و موسسات دانشگاهی می توانند کارهای زیادی انجام دهند. در حال حاضر عدم تعادل قدرت بسیار زیاد است.

فکر می کنید اگر محققان اخلاق در شرکت ها باشند چه نقشی می توانند بازی کنند؟ به ویژه ، اگر تیم سابق شما در Google باقی بماند ، از نظر توانایی تولید کار تأثیرگذار و معنی دار چه راهی را برای آنها می بینید؟

من فکر می کنم باید از افرادی یا محققانی از این دست محافظت شود. در حال حاضر ، تصور اینکه چگونه کسی می تواند در این شرکت ها تحقیق واقعی انجام دهد ، بسیار دشوار است. اما اگر از محافظت از نیروی کار برخوردار هستید ، اگر از محافظت از افشاگر خبر دارید ، اگر نظارت بیشتری دارید ، محافظت از افراد هنگام انجام چنین کاری ممکن است آسان تر باشد. بسیار خطرناک است اگر چنین محققانی داشته باشید که کارهایی را انجام دهند که ناظر من “برگ انجیر” نامیده است – پوشش. مانند ، ما چیزی را تغییر نمی دهیم ، ما فقط یک برگ انجیر را روی هنر قرار می دهیم. اگر در محیطی هستید که افراد قدرت در تغییر چیزی واقعی سرمایه گذاری نمی کنند زیرا انگیزه ای ندارند ، بدیهی است استقرار این نوع محققان هیچ کمکی نخواهد کرد. اما من فکر می کنم اگر بتوانیم سازوکارهای پاسخگویی و نظارتی ، مکانیسم های حفاظتی ایجاد کنیم ، امیدوارم بتوانیم به محققانی از این دست اجازه دهیم که در شرکت ها وجود داشته باشند. اما باید اتفاقات زیادی تغییر کند تا این اتفاق بیفتد.


منبع: unbox-khabar.ir

Leave a reply

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>